Ik heb al eerder over OpenAI geschreven op Innovation Matters (en we hebben het er op de podcast over gehad), maar dit weekend kregen we een echt ongelooflijke aflevering van Silicon Valley rechtbankintriges. Ik denk echter dat het onvermijdelijk was, en het spreekt tot een veel dieper fenomeen over de mythologie rond Silicon Valley.
Mijn theorie is als volgt: de hoeveelheid mythologisering die je moet doen over je technologie of bedrijf is recht evenredig met de hoeveelheid geld die je moet inzamelen en arbeid en materiaal die je moet verbruiken. Je moet de uitgaven van je onderneming rechtvaardigen en dus krijgt het de betekenis die het nodig heeft om de kosten te evenaren. Als oprichter, investeerder of werknemer op hoog niveau geloof je in het belang van je werk omdat je salaris ervan afhangt of je erin gelooft, omdat je salaris gebaseerd is op je vermogen om geld in te zamelen (of aandelen te verkopen). De huidige commerciële prestaties, winstgevendheid of waarde van je product doet er niet echt toe - het is nu waarschijnlijk een enorme geldput; je bent vooral bezig met wat het zou kunnen zijn. Dit is heel anders dan een productiebedrijf, dat ook institutionele mythevorming kent, maar van een duidelijk prozaïscher soort, gericht op winstgevende activiteiten, uitmuntendheid in het bedienen van klanten en andere saaie, praktische kwaliteiten.
Het probleem met AI is dat het extreem duur is. De modellen trainen kost veel geld - zo'n $100 miljoen voor ChatGPT4 - en ze laten werken kost nog meer geld. Bovendien heb je een enorme hoeveelheid werk nodig (klikwerk om trainingsgegevens te ontwikkelen, die OpenAI betrekt van uitgebuite arbeiders in ontwikkelingslanden) en materiaal in de vorm van datacenters, GPU's en meer. OpenAI heeft USD 13 miljard opgehaald (waarvan USD 10 miljard van Microsoft) en de beroemde medeoprichter en CEO Sam Altman had het er blijkbaar over om nog veel meer op te halen - zowel voor OpenAI zelf als voor een aantal gerelateerde ondernemingen (om die chips te produceren, bijvoorbeeld).
Sam, het bestuur en de meeste leidinggevenden geloven ook dat AI een existentieel risico vormt voor het menselijk leven. Ik zou hier een heleboel tijd aan kunnen besteden, maar het is een mythologie die AI - en specifiek het vooruitzicht van kunstmatige algemene intelligentie (AGI) - volledig centraal stelt in de vooruitzichten voor de menselijke beschaving, ten goede of ten kwade. Hier is echt geen rationele basis voor - ik heb geen duidelijke uitleg gezien over hoe AI daadwerkelijk een einde maakt aan de wereld. Als het tegenstrijdig lijkt dat de mensen die de AI bouwen geloven dat het de volgende kernbom is, nou, dat is het ook - maar daar gaat het niet om. Ze geloven dit omdat het betekent dat AI het allerbelangrijkste is, en dus zijn alle kosten, menselijk lijden en verspilling bij de creatie ervan gerechtvaardigd. Ze geloven oprecht in deze mythologie omdat het nodig is om hun uitgaven - en dus hun salaris - te rechtvaardigen.
Op vrijdag ontsloeg de raad van bestuur van de liefdadigheidsinstelling die OpenAI beheert plotseling Sam Altman (later meer over deze structuur). De redenen waren niet meteen duidelijk: het bestuur verklaarde dat Altman niet "consequent openhartig" tegen hen was geweest, waardoor ze het vertrouwen hadden verloren; later verduidelijkten ze dat er geen sprake was geweest van wangedrag door Altman. Dit leidde tot wijdverspreide speculaties dat de bron van de breuk een existentieel AI-risico was, wat sindsdien door de meeste berichtgeving wordt bevestigd. In het weekend leek het bestuur terug te krabbelen en de onderhandelingen met Altman te heropenen, terwijl de investeerders en werknemers van OpenAI in opstand kwamen. Altman is naar verluidt aangenomen door Microsoft en de meeste werknemers van OpenAI dreigen ermee bij hem weg te gaan tenzij hij terugkeert naar OpenAI. Er is ook een heleboel zeer vermakelijk en vreselijk cringe rechtbankdrama geweest tussen de betrokken mensen, waarvan het meeste zich afspeelt op Twitter; bekijk het als je wilt lachen.
De breuk tussen Altman en het bestuur geeft aan dat de tegenstellingen tussen de realiteit en de mythe onhoudbaar zijn geworden. Het bestuur is gekocht in de non-profit mythe (dat OpenAI miljarden uitgeeft om de mensheid te redden) terwijl Altman handelde vanuit de kapitalistische realiteit (OpenAI geeft miljarden uit om Microsofts Bing zoekmachine en andere producten te verbeteren). Als je handelt volgens de mythe, moet je voorzichtig zijn; Altmans drive om AI zo agressief mogelijk op te schalen is daar niet mee in lijn.
We zien de voor de hand liggende conclusie wanneer de mythevorming botst met de kapitalistische drijfveren: de kapitalistische drijfveren winnen gemakkelijk omdat de mythe de kapitalistische drijfveren dient. Mensen geloven de mythe omdat die de kapitalistische resultaten rechtvaardigt; iedereen in OpenAI, zelfs als ze aangetrokken werden door (en misschien op een bepaald niveau geloven in) de idealistische missie, steunt Altman omdat zijn vermogen om geld in te zamelen hun salaris veilig stelt. Dit onthult de dunheid van OpenAI's non-profit structuur - hoe oprecht of cynisch de motivaties erachter ook waren (waarschijnlijk een mix van beide), het was nooit in staat om een zinvolle controle uit te oefenen op de activiteiten van het bedrijf; niet toen er miljarden dollars op het spel stonden. Zodra de non-profit structuur een belemmering vormde, werd deze terzijde geschoven; dit was duidelijk in 2019 (toen de for-profit org van OpenAI werd opgericht) en het is nog steeds waar.
Wat betekent dit allemaal voor het toekomstige traject van AI? Eerlijk gezegd waarschijnlijk niets. Al dezelfde spelers werken nog steeds aan dezelfde technologie, of ze dat nu doen onder Altman bij Microsoft of onder Altman bij een vernieuwde OpenAI met een meer conventionele kapitalistische structuur. De schijnbare mislukking van de non-profit controle van OpenAI zal de ontwikkeling van AI niet versnellen omdat die controle nooit een zinvolle controle was. We lopen geen groter existentieel risico door AI dan voorheen omdat dat risico niet echt is. Geen van de spelers in deze ruzie - Altman, het bestuur, Microsoft - is het wezenlijk oneens over de echte problemen van AI (de milieukosten, arbeidsuitbuiting of de winstgevendheid van AI-producten). Wat we dit weekend zagen was niets meer dan een intrige in ons tijdperk van miljardair-koningen.
