J'ai déjà écrit sur l'OpenAI dans Innovation Matters (et nous en avons parlé dans le podcast), mais ce week-end, nous avons eu droit à un épisode vraiment incroyable de l'intrigue judiciaire de la Silicon Valley. Je pense que c'était inévitable et que cela révèle un phénomène beaucoup plus profond de la mythologie qui entoure la Silicon Valley.
Ma théorie est la suivante : la quantité de mythologie que vous devez faire à propos de votre technologie ou de votre entreprise est directement proportionnelle à la quantité d'argent que vous devez lever et à la main-d'œuvre et au matériel que vous devez consommer. Vous devez justifier les dépenses de votre entreprise, et celle-ci prend donc l'importance qu'elle doit prendre pour correspondre aux coûts. En tant que fondateur, investisseur ou employé de haut niveau, vous croyez en l'importance de votre travail parce que votre salaire dépend de cette croyance, parce que votre salaire dépend de votre capacité à lever des fonds (ou à vendre des actions à terme). Les performances commerciales actuelles, la rentabilité ou la valeur de votre produit n'ont pas vraiment d'importance - il s'agit probablement d'un énorme gouffre financier aujourd'hui ; vous vous préoccupez surtout de ce qu'il pourrait être. Cette situation est très différente de celle d'une entreprise manufacturière, qui a également un mythe institutionnel, mais d'un type résolument plus prosaïque, axé sur la rentabilité des opérations, l'excellence du service à la clientèle et d'autres qualités pratiques et ennuyeuses.
Le problème de l'IA, c'est qu'elle est extrêmement coûteuse. La formation des modèles coûte beaucoup d'argent - quelque 100 millions de dollars pour ChatGPT4 - et leur exploitation coûte encore plus d'argent. De plus, vous avez besoin d'une énorme quantité de main-d'œuvre (travail de clic pour développer les données d'entraînement, qu'OpenAI se procure auprès de travailleurs exploités dans les pays en développement) et de matériel sous la forme de centres de données, de GPU, et bien plus encore. OpenAI a levé 13 milliards de dollars (dont 10 milliards de dollars auprès de Microsoft), et son célèbre cofondateur et PDG, Sam Altman, avait apparemment parlé de lever beaucoup plus d'argent, à la fois pour OpenAI elle-même et pour un certain nombre d'entreprises connexes (pour produire ces puces, par exemple).
Par ailleurs, Sam, le conseil d'administration et la plupart des cadres supérieurs pensent que l'IA représente un risque existentiel pour la vie humaine. Je pourrais consacrer beaucoup de temps à cette question, mais il s'agit d'une mythologie qui confère à l'IA - et plus particulièrement à la perspective de l'intelligence artificielle générale (AGI) - une place centrale dans les perspectives d'avenir de la civilisation humaine, pour le meilleur ou pour le pire. Il n'y a pas vraiment de base rationnelle à cela - je n'ai pas vu d'explication claire sur la façon dont l'IA mettrait fin au monde. S'il semble contradictoire que les concepteurs de l'IA croient qu'il s'agit de la prochaine bombe nucléaire, c'est vrai, mais là n'est pas la question. Ils y croient parce que cela signifie que l 'IA est la chose la plus importante, et que toutes les dépenses, les souffrances humaines et le gaspillage liés à sa création sont justifiés. Ils croient sincèrement à cette mythologie parce qu'elle est nécessaire pour justifier leurs dépenses - et donc leur salaire.
Vendredi, le conseil d'administration de l'organisation caritative qui contrôle OpenAI a soudainement licencié Sam Altman (nous reviendrons plus tard sur cette structure). Les raisons n'ont pas été immédiatement claires : le conseil a déclaré qu'Altman n'avait pas été "constamment franc" avec eux, ce qui leur avait fait perdre confiance ; ils ont ensuite précisé qu'il n'y avait pas eu de malversations de la part d'Altman. Cela a donné lieu à de nombreuses spéculations selon lesquelles la source du désaccord était un risque existentiel lié à l'IA, ce qui a depuis été confirmé par la plupart des rapports. Au cours du week-end, le conseil d'administration a apparemment fait marche arrière et s'est incliné, rouvrant les négociations avec M. Altman, alors que les investisseurs et les employés d'OpenAI se révoltaient. Altman aurait été engagé par Microsoft et la plupart des employés d'OpenAI menacent de le quitter et de le rejoindre s'il ne revient pas à OpenAI. Il y a également eu beaucoup de drames très divertissants et terriblement cringe court entre les personnes impliquées, la plupart d'entre eux se déroulant sur Twitter ; regardez si vous voulez rire.
La rupture entre Altman et le conseil d'administration reflète le fait que les contradictions entre la réalité et le mythe sont devenues insoutenables. Le conseil d'administration a adhéré au mythe de l'organisation à but non lucratif (OpenAI dépense des milliards pour sauver la race humaine) alors qu'Altman agissait en fonction de la réalité capitaliste (OpenAI dépense des milliards pour améliorer le moteur de recherche Bing de Microsoft et d'autres produits). Si vous agissez en fonction du mythe, vous devez faire preuve d'une certaine prudence ; la volonté d'Altman de développer l'IA de la manière la plus agressive possible n'est pas alignée sur ce mythe.
Nous pouvons voir la conclusion évidente lorsque la construction du mythe entre en collision avec les incitations capitalistes : les incitations capitalistes gagnent facilement parce que le mythe sert les incitations capitalistes. Les gens croient au mythe parce qu'il justifie les résultats capitalistes ; tous les membres de l'OpenAI, même s'ils ont été attirés par la mission idéaliste (et y croient peut-être à un certain niveau), soutiennent Altman parce que sa capacité à collecter de l'argent leur assure leur salaire. Cela révèle la minceur de la structure à but non lucratif d'OpenAI - quelle que soit la sincérité ou le cynisme des motivations qui la sous-tendent (probablement un mélange des deux), elle n'aurait jamais été en mesure d'exercer un contrôle significatif sur les activités de l'entreprise ; pas une fois que des milliards de dollars ont été mis en jeu. Dès que la structure à but non lucratif s'est avérée gênante, elle a été écartée ; cela était évident en 2019 (lorsque l'organisation à but lucratif OpenAI a été créée) et cela reste vrai.
Qu'est-ce que tout cela signifie pour la trajectoire future de l'IA ? Honnêtement, probablement rien. Tous les mêmes acteurs travaillent toujours sur cette même technologie, qu'ils le fassent sous la direction d'Altman chez Microsoft ou sous la direction d'Altman au sein d'une OpenAI réorganisée et dotée d'une structure capitaliste plus conventionnelle. L'échec apparent du contrôle de l'OpenAI par les organisations à but non lucratif n'accélérera pas le déploiement de l'IA, car ce contrôle n'a jamais été significatif. L'IA ne nous fait pas courir un plus grand risque existentiel qu'auparavant, car ce risque n'est pas réel. Aucun des acteurs de ce conflit - Altman, le conseil d'administration, Microsoft - n'est en désaccord sur les véritables enjeux de l'IA (les coûts environnementaux, l'exploitation des travailleurs ou la rentabilité des produits d'IA). Ce dont nous avons été témoins ce week-end n'est rien d'autre qu'une intrigue judiciaire à l'ère des milliardaires-rois de la technologie.