Vibe coding en vakmanschap

Waar ik me in wil verdiepen is RAG (Retrieval Augmented Generation): What is RAG? - Retrieval-Augmented Generation AI Explained - AWS

En uiteindelijk die vector db weer voor ML gebruiken.

Wat ik er dan van snap is dat je zo wezenlijk een LLM uitbreid met een persoonlijke .lib

Dit is dan ipv van .md files. dingen die maar terug blijven komen komen in de vector db.

1. RAG
Rich (BB code):
     [ Prompts ] ──► [ Convert to Vector ] ──► [ Search Vector DB ] ──► [ Insert Matches into Prompt ] ──► [ LLM Generates Answer ]

2. RAG met ML in the mix.

Rich (BB code):
                ┌─────────────────────────────────┐
                  │ 1. ML QUERY TRANSFORMATION      │
                  │    • Disambiguates terms        │
                  │    • Expands technical synonyms │
                  └────────────────┬────────────────┘
                                   │
                                   ▼
[ Your Query ] ──────────► [ Convert to Vector ] ──────────► [ Search Vector DB ]
                                                                   │
                                                                   ▼
┌─────────────────────────────────┐               ┌─────────────────────────────────┐
│ [ LLM Generates Answer ]        │               │ 2. ML RE-RANKING & FILTERING    │
│    • Uses the absolute best     │               │    • Cross-Encoder grading      │
│      context chunks             │               │    • Discards "false matches"   │
└────────────────▲────────────────┘               └────────────────┬────────────────┘
                 │                                                 │
                 └───────── [ Insert Top Matches into Prompt ] ◄───┘



Je persoonlijke bibliotheek verandert dan van een dumpplaats voor tekstbestanden (.md) in een zorgvuldig samengestelde selectie van nauwkeurige context."
 
@Sjaak Kun je je AI-tool dan persoonlijk maken door die tool te trainen om voor jouw interessante resultaten te leveren?
Zeker. Kijk, een AI-tool is uiteindelijk niks anders dan een UI om een taalmodel. De kennis van het taalmodel zelf, dat is een gegeven. Maar je kunt je AI-tool toegang geven tot jouw eigen specifieke kennis, en voorkeuren en spelregels (is uiteindelijk ook kennis). Ik leg mijn eigen kennis vast in GIT, of in files, en voor klanten in een RAG backend.

Voorbeeld: Als ik iets wil leren over hoe je VST plugins moet bouwen, en wat je ermee wilt bereiken, dan begin ik in Claude met deze vraag.

Ik ben hier vorige week toevallig zelf ook mee bezig geweest. Ik zou het leuk vinden om mijn eigen plugins op de Ableton Push 3 standalone te kunnen draaien. De uitdaging: Ableton staat dit niet toe, je kunt helaas geen VST's van derden draaien op de Push 3, alleen in Ableton Live zelf. Zo ben ik achter de volgende weetjes gekomen
  • Je kunt sinds enige tijd met AI-Tools bestaande code reverse engineren (oa met REA = Reverse Engineer Anything)
  • Max for Live devices (M4L) werkt wel op de Push 3, en gebruik ik ook al 2 jaar op die manier.
Mijn idee is nu om een bestaande plugin, bv een BBD delay, op audio ouput te laten analysren door Claude. Dan weet je dus welke plugin settings resulteren in een bepaald geluid, bv hoe een filter klinkt. M4L devices kun je volgens mij wel bouwen met Claude. Combineer dus deze 2 dingen, en je kunt dingen op audio niveau vergelijken, en dus "nabouwen".

En omdat je AI gebruikt, heb je veel sneller een bepaalde oplossingsrichting (wat kan wel, wat kan niet), of de oplossing zelf. De uitkomst leg ik vast in GIT. Zo heb ik mijn kennis weer uitgebreidt, en dan weet Claude de volgende keer weer meer.
 
@Cornerman Zou het met AI voor de programmeurs nog wel leuk zijn als hun eigen inbreng in het hele proces relatief gezien steeds kleiner wordt? In hoeverre is het afgeleverde programma dan nog hun eigen werk waar ze met recht trots op kunnen zijn? Dat is waar ik mee zit.
Als je ziet hoeveel code tegenwoordig rechtstreeks uit open source bibliotheken en frameworks wordt gehaald is de daadwerkelijke inbreng van professionele programmeurs vaak bijzonder beperkt. Veel code is gewoon plakband om bestaande oplossingen heen...

Het grootste probleem begint wanneer AI programmeurs uit moeten kunnen leggen waarom bepaalde keuze's gemaakt zijn. Als je zoals @3ddie zegt de regie uit handen geeft en AI agents met een suboptimale oplossing aankomen is het wel even slikken als verantwoordelijkheid genomen moet worden.
 
Hieronder een bevestiging van wat anderen ook hebben aangegeven, maar hier eerst direct antwoord op de vraag.

TLDR;
1. Hun vakmanschap doet er met de opkomst van AI steeds minder toe.
Dit is nu niet het geval, de juiste skills en kennis zijn nog steeds van groot belang bij de HUIDIGE softwareontwikkeling (maar dat kan veranderen als AGI en verder (de singularity) daadwerkelijk plaatsvindt).
2. En bijgevolg hebben ook zij steeds minder eer van hun werk.
Het werk verandert, maar dat betekent niet dat je er minder voldoening uit kan halen, maar dat ligt voor een groot deel dan wel ook aan jezelf, als je niet mee wil of kan bewegen, dan kan dat idd een issue zijn.

Word lid van Synthforum om deze tekst te zien!
 
@Fifth Bot Daar ben ik het grotendeels mee eens. Met dit verschil dat ik in de loop der jaren ten aanzien van de mensheid (mijzelf incluis) steeds pessimistischer geworden ben, en ik er een grote hekel aan heb technieken te gebruiken die ik zelf niet (of niet meer) begrijp of die alweer achterhaald zijn voordat je er goed en wel in thuis bent. Ook ben ik - voor zover dat gaat - graag eigen baas. Over AI zijn wij geen eigen baas meer. De mens past zich nu aan AI aan, en niet omgekeerd. Gelukkig ben ik al met pensioen. Geef mijn portie maar aan Fikkie.
 
Het is ook niet per se de wereld die sneller gaat, maar dat je zelf langzamer wordt naarmate de jaren verstrijken. Ik merk dat ook, vroeger was ik degene die de afstandsbediening uit de handen van mijn ouders trok omdat ik het niet aan kon zien hoe ze liepen te prutsen als ze de videorecorder probeerden te programmeren, nu doen mijn kinderen dat bij mij als ik iets op mijn telefoon probeer uit te zoeken. Dan kun je je er van afkeren en krampachtig vast proberen te houden aan een tijd die voorbij is, of je blijft nieuwsgierig en kijkt wat het voor je kan doen. En vaak ontdek je dan dat het best leuk kan zijn. Ik hoop dat ik nog lang bij de laatste groep hoor ook al heb ik inmiddels de 40-er jaren in de achteruitkijkspiegel.
 
Ik heb juist veel meer lol in mijn werk als IT-consultant sinds AI er is. AI daagt mij uit, en ik leer daardoor meer en sneller. Je moet wel kritisch blijven (dat ben ik sowieso), want er is ook genoeg bullshit te vinden. Maar dat is niet anders dan nieuws wat tot je komt: je moet zelf checken of iets waar zou kunnen zijn of niet. AI biedt mij nieuwe kansen, en klanten ook. Mits je wel vestand van zaken hebt natuurlijk. Vibe coden is leuk, maar een door AI gebouwd systeem in gebruik nemen is andere koek. Dat vereist vakmanschap, zoals een bepaalde basis qua software architectuur. Het is niet zo dat iemand zonder enige kennis architectuur zomaar hetzelfde kan als een IT-er met 30 jaar ervaring. AI helpt mij juist bij dit soort nieuwe ontwikkelingen. Het houdt je scherp, het bed wordt weer eens opgeschud. Nieuwe dingen doen is leuk, en houdt je jong.
 
2 maanden geleden was ik IT helemaal zat en vond ik het saai. Same shit different *sshole... ( niet die ssh vulnerability :)
Nu duik ik die in microcontrollers, decomplile ik een sequencer en leer ik een hoop bij.

ik vertrouw de AI bedrijven voor geen meter en denk dat AI enorme hoeveelheden energie slurpt.
En ook voelt wat ik maak niet echt van mij is. De struggle en het zwoegen wat er normaal bij zit is ... anders.... het is wel zwoegen als je met een complex iets bezig bent... maar het is anders...
Als ik een error zie en weet wat het is stuur ik het nog steeds naar de AI om te checken...

2 maanden geleden was ik IT helemaal zat en vond ik het saai. Same shit different *sshole...
Nu duik ik die in microcontrollers, decomplile ik een sequencer en leer ik een hoop bij.

Wij zijn nu bezig met een draft om een systeem te bouwen voor support en developers.
Om zo met AI via een mcp met onze hele infrastructuur kan praten om taken uit te voeren ( problemen oplossen, deployments, TAT, tests ).
Daarbij zorgt het systeem voor voledige context awareness door documentatie, telemetry, RAG, incidents en cmdb te combineren.
En uiteindelijk na een POC zullen er veel mensen mee aan de slag gaan.
Dus ja als ik maar een beetje lauw ga vibecoden zonders de architectuur goed uit te werken zal ik verder een heel slecht leven lijden. :-)

Ik vind AI te gek om:

- dingen sneller te doen
- dingen te kunnen doen die eerst buiten mijn skillset lagen
- Dingen te leren op een practische manier.

Dat er AI is zorgt er bij niet voor dat ik niet meer leer coden.
Maar leer ik juist meer over coden en hardware.

Voorbeeld: Heb van AI geleerd dat je niet hardware floating point moet benutten voor een midi app.
Beter dan softfloat compilen en de midi loop met uint laten werken zodat alles in 1 cpu cycle kan worden gedaan.
Zo een les over realtime embeded programmng heb ik puur van mijn AI avonturen.
Noem het als punt dat AI er niet alleen maar is om je dom te maken.
 
Het leuke van programmeren vind ik vooral de oplossingen bedenken, het coderen zelf is iets waar ik nooit heel plezier aan heb beleefd. Dat is ook de reden dat ik van engineer naar designer/product management ben gegaan zodra ik de kans kreeg :D Zeker omdat ik al zo lang niet meer programmeer, ben ik zo roestig als wat en loop ik best achter op de ontwikkelingen. Met AI kan ik nu echt makkelijk demo's, prototypes en proof of concept dingetjes maken in een korte tijd, iets dat me vroeger echt gruwelijk veel meer tijd zou kosten voor zover het al binnen mijn vermogen lag. En wat ook zo fijn is, als je ergens bedenkt dat je het beter om kan gooien, is het zo gebeurd. Niet die frustratie van een dag (of langer) programmeerwerk weggooien door voortschrijdend inzicht of een denkfout. Ben nu bezig mijn Windows laptop geschikt te maken om die open source LXR-02 firmware te kunnen bouwen, en dan eens kijken of ik daar wijs uit kan worden.
 
1794415900254.png

:D

De enige wijziging tot nu toe, maar ik kan nu firmwares bouwen dus goed begin.
 
ja tof, je kan ook veel van AI leren door de sourcecode te lezen en te vragen wat het doet hoe het werk.
Heb je dit op je mac met xcode of zoiets gedaan?
 
ja tof, je kan ook veel van AI leren door de sourcecode te lezen en te vragen wat het doet hoe het werk.
Heb je dit op je mac met xcode of zoiets gedaan?

Nee, ik heb vorige week een refurbished Windows laptopje gekocht. Op Mac zou het ook moeten kunnen (staan ook instructies op de pagina voor), maar ik zocht toch al een tijdje een excuus om een Windows bakje te halen want voor sommige dingen is het net wat handiger dan MacOS. Ik heb de open source firmware van Erica gepakt, ga straks ook nog die versie proberen met de verbeteringen erin en die wil ik als uitgangspunt gebruiken om zelf wat dingen te gaan proberen.
 
Interessante discussie... :) Ik was zelf behoorlijk sceptisch over LLMs voor programmeren, maar ben het afgelopen jaar aardig omgeslagen. Ik denk nog steeds dat LLMs in de handen van minder goede programmeurs (of zelfs mensen die helemaal niet kunnen programmeren) veel problemen gaan geven - zelfs met de huidige modellen is er bepaald geen garantie dat het eindresultaat veilig is, goed schaalt, goed 'voelt' en geen bugs bevat - en dat we een tijd tegemoet gaan waarin enorme bergen slechte software de markt op gaat komen, omdat die mensen het toch gaan proberen, maar ik ben inmiddels wel Claude gaan gebruiken om mijn eigen code te (helpen) schrijven en ik moet zeggen dat dat verbazingwekkend goed gaat. De reden dat dat zo goed gaat, is omdat ik behoorlijk wat ervaring heb met programmeren (ben nu 25+ jaar programmeur, over het algemeen gewerkt voor kleine, maar relatief serieuze bedrijfjes) en daardoor een aantal dingen doe die een 'n00b' zou vergeten of missen.

Als programmeur doe je veel meer dan alleen code schrijven, zeker bij kleine bedrijfjes. De belangrijkste taak is denk ik het omzetten van (meestal) vage ideeen van klanten (of managers) naar concrete, solide specificaties, waarbij de logica geen gaten bevat en correct alle 'use-cases' (welke taken moeten worden uitgevoerd) afhandelt, de architectuur conceptueel correct is (zodat de code relatief makkelijk te begrijpen is door anderen of jezelf en bugs snel gevonden en begrepen kunnen worden) en de UIs fijn zijn om te gebruiken (UX) door de doelgroep, op een manier die duidelijk is voor mensen met weinig technische kennis en die mensen met meer kennis (power-users) niet in de weg zit. Deze skills zijn vaak belangrijker dan de kennis van de taal die je gebruikt, of programmeren in het algemeen: met eenvoudige code geschreven in een subset van de taal die je gebruikt kom je vaak een heel eind, maar code die logische bugs bevat, of een slechte architectuur heeft, wordt nooit 'goed' (lees: gaat in de toekomst problemen opleveren met veiligheid of schaalbaarheid, of is niet te begrijpen en onderhouden) en als de UX niet goed is, zullen de eindgebruikers niet blij zijn met je applicatie. LLMs nemen je het schrijven van code uit handen, maar moet goed worden bewaakt om te zorgen dat veiligheid, schaalbaarheid, conceptuele integriteit en 'mooie' architectuur en goede usability (UX) te krijgen, dus wil je er _goeie_ software mee maken, zul je toch flink wat kennis en ervaring moeten hebben.

Ik heb nek- en schouderklachten door mijn werk. Ik vind (zelf) programmeren leuk, maar als ik de hele dag moet tikken heb ik in mijn vrije tijd (avonden en weekends) hoofdpijn en is die vrije tijd weinig waard. Daarbij heb ik dus in mijn vrije tijd niet de mogelijkheid om veel achter de computer te zitten, dus met mijn favoriete DAW en plugins kan ik nauwelijks spelen. Om die reden ben ik de afgelopen jaren wat hardware gaan kopen, dan kan ik op de bank spelen ipv dat ik achter mn monitor moet zitten, dat scheelt. Echter, ik heb geen goede sequencer om die apparaatjes allemaal aan te sturen: ik heb een Arturia Keystep Pro, maar die heeft maar 4 kanalen (en ik veel meer boxjes ;) ), en ik heb een Digitone 2, 16 kanalen, maar de MIDI support is relatief beperkt (waarom geen retrigger op MIDI noten, bijv?!?). Ik ben daarom vorig jaar begonnen met een sequencer te schrijven voor Android, met het idee dat ik al mijn apparaatjes vanaf de bank kan gebruiken zonder limieten (en er zijn weinig tot geen goeie bestaande Android sequencers, althans, wat ik getest heb werkte allemaal half, of slecht). Dat project is na een paar maanden af en aan werken (voor zover mn klachten het toestonden) gestrand, want uiteindelijk is voor een MIDI sequencer toch echt heel veel code nodig (UI code is vaak veel tikwerk) en ik trok het niet om dat af te maken. Begin dit jaar ben ik met Claude gaan experimenteren en heb ik besloten daarmee te gaan proberen een sequencer te schrijven, dat ging zo goed dat ik er direct een synth aan vastgeplakt heb. We (Claude en ik ;) ) zijn nu 6-7 maanden verder en ik heb de app bijna af, ik heb nu een zeer goede (naar mijn mening ;) ) touch-geoptimalizeerde sequencer met ondersteuning voor bijna alles dat MIDI biedt, en een synth met zo'n beetje alle features die je kunt bedenken... Hoewel ik het heb geschreven met Claude is het bepaald geen 'slop': de architectuur is clean, het is behoorlijk bug-vrij, zeer goed geoptimalizeerd (draait zelfs redelijk op een goedkope oude Samsung, en op mijn Pixel kan ik flink wat tracks met hoge polyphony en unison draaien en krijg ik de CPU nauwelijks boven 10%), de UX is goed (niet heel vriendelijk voor beginners, maar het is dan ook een app voor gebruikers (lees: ikzelf) die hun weg weten op complexe synths en die MIDI goed kennen) en de geluidskwaliteit is zeer goed (goede DSP algoritmes)... (Voor de programmeurs onder ons: > 200k regels (sloc) Rust, > 100k JS en nog een paar duizend regels Python (tools) en Java (JNI), bijna 4000 Rust tests, > 3000 JS tests en nog zo'n 350 functionele (on-device) tests - voor niet programmeurs: da's heel veel boel!! :) ) Als ik geen gezondheidsproblemen zou hebben, zou ik dit theoretisch wel hebben kunnen schrijven, maar dan had ik jaren bezig geweest... Nu dus in een half jaartje 'bij elkaar ge-vibed'.

Om dat voor elkaar te krijgen heb ik dus wel heel goed Claude's output moeten lezen en bij moeten sturen. Mijn taak is nu voornamelijk bedenken hoe het eruit moet zien en hoe het moet voelen, en opletten dat Claude conceptueel en qua architectuur de goede kant op gaat. Claude helpt me met het 'schrijven' van de code, hier en daar met beslissen hoe dingen moeten gaan werken (best leuke discussies gehad hier en daar, en soms kwam Claude ook best met goede ideeen) en met domeinkennis (DSP kennis, voornamelijk - ik wist echt niet wat PolyBLEP en PolyBLAMP waren voor ik hieraan begon, bijv. :) ), dingen die ik normaliter had moeten Googlen, of op Stack Overflow bij elkaar had moeten puzzelen, maar ik bepaal hoe de app uiteindelijk werkt. Dit betekent dat ik eigenlijk alle skills die mij een goede programmeur maken (imo ;) ) in moet zetten, op het daadwerkelijke schrijven van de code na... En dus ook dat als ik minder kennis van programmeren (en alles wat daarbij komt) had gehad, of minder kennis van hoe synths werken, of van MIDI, ik nooit zo'n goed resultaat had gehad als nu.

Dus als reactie op de oorspronkelijke post van @ProgHead: tot LLMs daadwerkelijk in staat zijn architectuur goed te doen, daarbij geen security en scalability issues op te leveren en ook nog eens snappen hoe je applicaties gebruiksvriendelijk maakt voor de doelgroep(en), is het vakmanschap nog steeds heel belangrijk, en buiten het plezier van zelf tikken (wat ik zelf dan toevallig wel heb, maar ik ken zat programmeurs bij wie dat eigenlijk niet echt het geval is) is er nog meer dan genoeg plezier en eer te behalen denk ik...

P.S. @Nap Toffe tip van die LXR-02 firmware, wist niet dat die open-source is... Ik heb net een FM-1 gekocht om zelf met firmwares te klooien, zou het een beetje eng vinden om dat met mn geliefde LXR-02 te doen :) maar als het met die FM-1 goed gaat ga ik daar denk toch eens naar kijken!
 
@ProgHead Over je post trouwens: als je pas begint met programmeren, zou ik inderdaad afraden met AI te werken, zie mijn lange post hierboven voor redenen... :) Pas als je de punten die ik daar aanstip onder de knie hebt (dus als js in staat bent secure, scalable software zelf te schrijven, met een goeie architectuur/conceptuele integriteit en een goeie UI/UX) snap je goed genoeg wat je aan het doen bent om code schrijven aan AI over te laten. Daarbij leer je ook echt heel veel van het zelf doen, en je zal merken dat er enorm veel te leren is... Ik zou trouwens afraden om met C/C++ te beginnen, dat zijn beide oude talen met enorme problemen, C is relatief klein en 'makkelijk' te leren, maar werken met pointers en zelf geheugen beheren is echt iets waarmee je 'jezelf in je voet gaat schieten' (zoals programmeurs dat zeggen), terwijl C++ die problemen _enigszins_ weghaalt, maar met een hele berg andere problemen komt (met name is het een taal die al sinds de jaren 90 probeert iedere feature van zo'n beetje iedere taal ook te hebben, waardoor het echt heel groot geworden is en het ook niet duidelijk is wat de beste manier is om dingen te doen)... Als eerste stap zou ik Python aanraden denk ik, of eventueel C# (da's wel meer Windows-georienteerd) oid, dat zijn talen waarbij de echt nare dingen uit handen genomen worden (memory management, werken met pointers en 'stack' versus 'heap' geheugen, bijvoorbeeld), maar die mede daarom minder of niet geschikt zijn voor 'low-level' taken (firmwares, operating systems, etc.). Tegen de tijd dat je daarmee flink wat ervaring hebt zou ik pas aanraden om meer low-level te gaan, en tenzij je dan heel specifieke eisen hebt (bijv firmware voor de FM-1, helaas) zou ik Rust aanraden, dat is wel een taal die moeilijk is om te leren, maar dan voornamelijk omdat low-level programmeren moeilijk is en Rust dat wat duidelijker laat zien dan C of C++ (in het begin)...
 
Ik zou niet AI afraden.
Het is ook een zoekmachine op stereoids. En helpt je ook met het opzetten van je build environment enzo.
Maar ik zou niet gaan vibe coden of iig niet alleen gaan vibe coden.
Maar gewoon zelf dingen gaan schrijven en als er iets mis gaat de llm raadplegen.
Of je leest code en vraagt daarna de llm het uit te leggen.

Zo ben ik bezig met random, gebruik makend van de onboard crypto chip of juist cpu instructies benutten of juist de meest minimale versie met een seed
Door te spelen met die concepten leer je een hoop en denk dat C leren zo beter dan ooit gaat.
 
@JohnnydeBris Python vind ik inderdaad een prettige taal. Maar helaas is die voor real-time dsp minder geschikt. Met C en C++ ben ik alweer gestopt. Ik vind het leuk dat ik nu althans een redelijke indruk heb hoe C en C++ werken. Dus mijn inspanningen in die richting waren niet zinloos. Maar om er nu nog jaren aanvullende studie en oefening in te steken om een ervaren C/C++ programmeur te worden heb ik er niet voor over. En dat des te meer niet omdat het zelf programmeren met de opkomst van vibe coding nu snel steeds minder belangrijk gaat worden. Goedkoop en snel-klaar zullen het waarschijnlijk winnen van ambachtelijke degelijkheid. De ontwikkelingen gaan nu echt razend snel. En in zo'n wereld voel ik mij niet meer thuis. Van de weeromstuit ben ik nu op de retro tour met een Amiga emulatie, Faust, Csound, PureData, etc.; met modular; en met wat hardware gear. Weg van de overkill aan mogelijkheden en van de vermoeinde rat race om relevant te blijven.
 
@ProgHead Ik snap je helemaal, aan de ene kant zijn mogelijkheden leuk en is het (vind ik iig) leuk om nieuwe dingen te leren, aan de andere kant is het soms ook juist fijn om beperkingen te hebben, je wilt tenslotte ook gewoon muziek maken en daar lol mee hebben, niet alleen maar tinkeren... En ja, de ontwikkelingen gaan heel snel...

Dat gezegd hebbende, @flyweight's opmerking is wel een hele goeie: je kunt met LLMs/AI tegenwoordig wel heel prettig heel veel leren, en ik bedacht me dat als je interesse hebt in DSP ontwikkelen, het misschien voor jou een ook idee zou kunnen zijn om alles behalve die DSP logica door de LLM te laten maken, dus bijv met Claude een plugin, programma of firmware te bouwen, waarin heel eenvoudige (of geen) DSP algoritmes zitten, en dan (met hulp van Claude) die zelf uit te breiden of in te vullen - je kan dan zelf het leuke deel doen, en delegeert de moeilijke, tijdrovende en/of vervelende dingen naar Claude.

Maar goed, nu eerst veel plezier met je Amiga! :)
 
Een groot deel van het vervelende werk in C++ wordt ook al door RtMidi en RtAudio gedaan. Mogelijk dat ik later daar nog weer eens mee ga hobbyen...
 
Back
Top