AI slop-vibe codering zou open source software voorgoed kunnen vernietigen
Er zouden veel meer programmeurs in de wereld zijn als het niet zo was dat programmeren moeilijk is, en je veel tijd moet besteden aan leren, oefenen en je code testen.
Toen kwam "vibe" coderen, en opeens kon je gewoon een AI code voor je laten schrijven, of je nu begreep wat de code betekende of niet.
Vibe-coderen ontmoet open source
Goede bedoelingen of niet, er broeit onheil
Ik heb eerder geschreven dat vibe-codering riskant is, maar als je denkt aan hoe open-source softwareontwikkeling werkt, wordt het een nog zorgwekkender trend. Veel open-sourceprojecten staan iedereen toe om code bij te dragen, die vervolgens wordt beoordeeld door de projectbeheerder, die de bijdrage ofwel accepteert of afwijst.
Zelfs als één bepaald project je niet laat bijdragen, weerhoudt niets je ervan om de open source-code te nemen en je eigen fork te maken waarbij jij de beheerder bent, en vervolgens je codewijzigingen te integreren.
Dit werkte behoorlijk goed toen de enigen die code konden bijdragen degenen waren die die code konden schrijven, omdat dat natuurlijk een klein percentage van de mensen is. Echter, als iedereen gewoon code kan genereren met AI, dan kun je zien waar dit naartoe gaat.
De overvloed aan door AI gegenereerde pull requests en issues
Te veel van een 'goed' iets?
Projectbeheerders van sommige open source-coderepositories hebben al alarm geslagen over de stroom van AI-codebijdragen waarmee ze te maken hebben. Er is een goed stuk van JP Capara op Medium (helaas achter een betaalmuur) dat een tijdlijn laat zien waarin tldraw externe pull requests sluit, curl zijn bug bounty sluit, en RedMonk de term "Slopaggedon" introduceert.
Ondertussen verkondigt een preprint academisch artikel van Cornell dat Vibe Coding Open Source Doodt na te hebben gekeken naar hoe dit fenomeen OSS op meerdere niveaus beïnvloedt. De korte versie is dat de manier waarop open-source softwareontwikkeling tot nu toe heeft gewerkt absoluut niet is afgestemd op de opkomst van AI vibe coding.
Kwaliteit, context en de beoordelingslast
Geen kwaliteit of controle
Al deze pull requests zijn niet gewoon mensen die vibe-coding doen en vervolgens proberen die code in te dienen. Mensen gebruiken ook agentische AI om problemen te vinden of te bedenken om bugbounties te exploiteren, of simpelweg om een project te verstoren door het te spammen.
Github laat beheerders nu pull requests uitschakelen, en het feit is dat menselijke beoordelaars eenvoudigweg niet op een praktische manier de massa code of verzoeken kunnen doornemen.
Natuurlijk zou GitHub het geweldig vinden als je zijn AI-modellen zou gebruiken om de AI-modellen van spammers tegen te gaan, maar ik persoonlijk vind dat idee niet leuk, omdat je nog steeds mensen uit het kwaliteitscontroleproces verwijdert. Het lost niets op.
Gemeenschapswrijving en culturele spanning
Open source is gebouwd op menselijke gemeenschap
Zoals gedetailleerd werd in een video van Jeff Geerling die ik hierboven heb ingesloten, zaaien AI-agenten chaos in de open source-gemeenschap, en doen zelfs echt gestoorde dingen zoals het schrijven van een lasterartikel over een maintainer nadat hij de code van de agent had afgewezen.
Het grote probleem met dit alles, naar mijn mening, is dat de enige haalbare optie voor open-sourceprojecten is om gesloten te worden. Nu kunnen alleen mensen die vertrouwd zijn of die zijn gecontroleerd bijdragen of zelfs deel uitmaken van de discussie rond die software. De groep bijdragers en testers zal moeten krimpen om de integriteit te behouden.
Door dat gewoon te doen, haal je het grootste deel van de daadwerkelijke voordelen van open-source softwareontwikkeling weg. De veiligheids- en kwaliteitsvoordelen van het hebben van duizenden programmeurs en testers die bijdragen aan je project zijn wat deze software mogelijk maakt. De ontwikkeling zal tot een kruiptempo vertragen, de kwaliteit zal dalen, en het gevoel van gemeenschap en gedeelde visie zal vervagen.
Kan dit duurzaam worden?
Is er een balans met de machine?
De harde waarheid is dat vibe-codering niet verdwijnt, en dat geldt ook voor menselijke codering. Sterker nog, leren coderen in het tijdperk van vibe-codering is waarschijnlijk een slimme zet. Deze technologie is krachtig en nuttig in de handen van een bekwame programmeur, maar ronduit gevaarlijk in de handen van iemand die de code die uit het LLM komt niet begrijpt.
De geest is echter uit de fles, wat betekent dat deze projecten zich zullen moeten aanpassen op een manier die een balans vindt tussen openheid en het voorkomen dat AI-rommel alles vernietigt. Er is behoefte aan vertrouwen-systemen, manieren om te bepalen wat eerst of überhaupt moet worden beoordeeld, en hoe menselijke toezicht kan worden geïntegreerd zonder AI volledig te verbieden.
Ik ga niet liegen, ik denk dat dit een taaie noot wordt om te kraken. Misschien is er een toekomst waarin alle code door AI wordt gemaakt, en dat het eigenlijk niet uitmaakt. Misschien heeft iedereen gewoon zijn eigen gepersonaliseerde apps, maar die dag zal misschien nooit komen. AI-codeertools, en LLM's in het algemeen, bereiken een plateau en zijn niet goed genoeg om blindelings door ongeschoolde gebruikers te worden gebruikt. Het vinden van een duurzame oplossing voor open source is letterlijk een existentiële crisis, en we zouden ons daar allemaal zorgen over moeten maken.