Ich habe schon früher auf Innovation Matters über OpenAI geschrieben (und wir haben im Podcast darüber gesprochen), aber dieses Wochenende haben wir eine wirklich unglaubliche Episode von Silicon-Valley-Gerichtsintrigen erlebt. Ich denke jedoch, dass dies unvermeidlich war und auf ein viel tieferes Phänomen der Mythologie um das Silicon Valley hinweist.
Meine Theorie ist folgende: Die Menge an Mythologisierung, die Sie für Ihre Technologie oder Ihr Unternehmen betreiben müssen, ist direkt proportional zu der Menge an Geld, die Sie aufbringen müssen, und an Arbeit und Material, das Sie verbrauchen müssen. Sie müssen die Ausgaben für Ihr Unternehmen rechtfertigen, und deshalb nimmt es die Bedeutung an , die es braucht, um die Kosten zu decken. Als Gründer, Investor oder leitender Angestellter glauben Sie an die Bedeutung Ihrer Arbeit, weil Ihr Gehalt davon abhängt, dass Sie daran glauben, weil Ihr Gehalt von Ihrer Fähigkeit abhängt, Geld zu beschaffen (oder Eigenkapital zu verkaufen). Die derzeitige kommerzielle Leistung, Rentabilität oder der Wert Ihres Produkts spielt keine Rolle - wahrscheinlich ist es jetzt eine riesige Geldgrube; Sie machen sich vor allem Gedanken darüber, was es sein könnte. Das ist ein großer Unterschied zu einem Produktionsunternehmen, das zwar auch institutionelle Mythenbildung betreibt, aber von einer entschieden prosaischeren Art, die sich auf rentable Betriebsabläufe, hervorragende Leistungen im Kundenservice und andere langweilige, praktische Qualitäten konzentriert.
Das Problem mit der KI ist, dass sie extrem teuer ist. Die Ausbildung der Modelle kostet viel Geld - etwa 100 Millionen Dollar für ChatGPT4 - und der Betrieb kostet noch mehr Geld. Außerdem benötigt man eine große Menge an Arbeitskräften (Clickwork zur Entwicklung von Trainingsdaten, die OpenAI von ausgebeuteten Arbeitskräften in Entwicklungsländern bezieht) und Material in Form von Rechenzentren, GPUs und mehr. OpenAI hat 13 Mrd. USD aufgebracht (davon 10 Mrd. USD von Microsoft), und der prominente Mitbegründer und CEO Sam Altman hatte offenbar davon gesprochen, noch viel mehr Geld aufzubringen - sowohl für OpenAI selbst als auch für eine Reihe damit verbundener Unternehmen (z. B. zur Herstellung dieser Chips).
Außerdem glauben Sam, der Vorstand und die meisten Führungskräfte, dass KI eine existenzielle Gefahr für das menschliche Leben darstellt. Ich könnte sehr viel Zeit damit verbringen, dies zu erforschen, aber es ist eine Mythologie, die der KI - und insbesondere der Aussicht auf künstliche allgemeine Intelligenz (AGI) - eine zentrale Bedeutung für die Zukunft der menschlichen Zivilisation einräumt, im Guten wie im Schlechten. Dafür gibt es wirklich keine rationale Grundlage - ich habe keine klare Erklärung dafür gesehen, wie KI tatsächlich die Welt beendet. Wenn es widersprüchlich erscheint, dass die Entwickler der KI glauben, sie sei die nächste Atombombe, dann ist das auch so - aber darum geht es nicht. Sie glauben dies, weil es bedeutet, dass die KI das Wichtigste ist und somit jeder Aufwand, jedes menschliche Leid und jede Verschwendung bei ihrer Entwicklung gerechtfertigt sind. Sie glauben aufrichtig an diesen Mythos, weil er notwendig ist, um ihre Ausgaben - und damit ihren Gehaltsscheck - zu rechtfertigen.
Am Freitag hat der Vorstand der Wohltätigkeitsorganisation, die OpenAI kontrolliert, plötzlich Sam Altman entlassen (mehr zu dieser Struktur später). Die Gründe dafür waren nicht sofort klar: Der Vorstand erklärte, Altman sei nicht "durchgängig offen" zu ihm gewesen, wodurch er das Vertrauen verloren habe; später wurde klargestellt, dass Altman kein Fehlverhalten begangen habe. Dies führte zu weit verbreiteten Spekulationen, dass der Grund für den Bruch ein existenzielles KI-Risiko sei, was seitdem von den meisten Berichten bestätigt wurde. Am Wochenende hat der Vorstand offenbar einen Rückzieher gemacht und ist eingeknickt, um die Verhandlungen mit Altman wieder aufzunehmen, nachdem sich die Investoren und Mitarbeiter von OpenAI empört hatten. Berichten zufolge wurde Altman von Microsoft angeheuert, und die meisten OpenAI-Mitarbeiter drohen damit, ihn zu verlassen und sich ihm anzuschließen, wenn er nicht zu OpenAI zurückkehrt. Es gab auch eine Menge sehr unterhaltsamer und schrecklicher Gerichtsdramen zwischen den beteiligten Personen, die sich größtenteils auf Twitter abspielten; sehen Sie es sich an, wenn Sie lachen wollen.
Der Riss zwischen Altman und dem Vorstand spiegelt wider, dass die Widersprüche zwischen der Realität und dem Mythos unhaltbar geworden sind. Der Vorstand hat sich von dem Mythos der Gemeinnützigkeit leiten lassen (dass OpenAI Milliarden ausgibt, um die Menschheit zu retten), während Altman nach der kapitalistischen Realität handelte (OpenAI gibt Milliarden aus, um die Suchmaschine Bing von Microsoft und andere Produkte zu verbessern). Wenn man nach dem Mythos handelt, ist eine gewisse Vorsicht geboten; Altmans Bestreben, KI so aggressiv wie möglich zu skalieren, ist nicht damit vereinbar.
Wir können die offensichtliche Schlussfolgerung sehen, wenn die Mythenbildung mit den kapitalistischen Anreizen kollidiert: Die kapitalistischen Anreize gewinnen leicht, weil der Mythos den kapitalistischen Anreizen dient. Die Menschen glauben an den Mythos, weil er kapitalistische Ergebnisse rechtfertigt; jeder in OpenAI, selbst wenn er von der idealistischen Mission angezogen wurde (und vielleicht auf einer gewissen Ebene an sie glaubt), unterstützt Altman, weil seine Fähigkeit, Geld zu beschaffen, seinen Gehaltsscheck sichert. Dies offenbart die Schwäche der gemeinnützigen Struktur von OpenAI - wie aufrichtig oder zynisch die Beweggründe dahinter auch gewesen sein mögen (wahrscheinlich eine Mischung aus beidem), sie war nie in der Lage, die Aktivitäten des Unternehmens sinnvoll zu kontrollieren; nicht, als es um Milliarden von Dollar ging. Sobald sich die gemeinnützige Struktur als hinderlich erwies, wurde sie verworfen; das war 2019 (als die gewinnorientierte Organisation OpenAI gegründet wurde) offensichtlich und gilt auch weiterhin.
Was bedeutet dies alles für die künftige Entwicklung der KI? Ehrlich gesagt, wahrscheinlich nichts. Alle Beteiligten arbeiten immer noch an der gleichen Technologie, ob sie nun unter Altman bei Microsoft oder unter Altman bei einer umgestalteten OpenAI mit einer konventionelleren kapitalistischen Struktur arbeiten. Das scheinbare Scheitern der gemeinnützigen Kontrolle von OpenAI wird den Einsatz von KI nicht beschleunigen, weil diese Kontrolle nie eine sinnvolle Kontrolle war. Das existenzielle Risiko, das von KI ausgeht, ist nicht größer als zuvor, weil es nicht real ist. Keiner der Beteiligten - Altman, der Vorstand, Microsoft - ist sich über die wahren Probleme der KI (Umweltkosten, Ausbeutung von Arbeitskräften oder die Rentabilität von KI-Produkten) wirklich einig. Was wir an diesem Wochenende erlebt haben, war nichts weiter als eine Gerichtsintrige in unserer Ära der Tech-Milliardärskönige.