"Je pense que la manière la plus ironique dont le monde pourrait se terminer serait que quelqu'un crée une cryptomonnaie basée sur l'étirement de l'anus d'un homme et que cela entraîne la singularité."
C'est Andy Ayrey, le fondateur du laboratoire de recherche en alignement de l'IA décentralisée Upward Spiral, qui est également à l'origine du bot IA viral Truth Terminal. Vous avez peut-être entendu parler de Truth Terminal et de ses publications étranges, lubriques et pseudo-spirituelles sur X qui ont attiré l'attention du VC Marc Andreessen, qui lui a envoyé 50 000 $ en bitcoin cet été. Ou peut-être avez-vous entendu parler de la religion inventée qu'il promeut, les Evangiles de Goatse, influencée par Goatse, un site de choc du début des années 2000 auquel Ayrey vient de faire référence.
Si vous avez entendu parler de tout cela, alors vous connaissez le memecoin Goatseus Maximus ($GOAT) qu'un fan anonyme a créé sur la blockchain Solana, qui a maintenant une valeur marchande totale de plus de 600 millions de dollars. Et vous avez peut-être entendu parler de la montée fulgurante de Fartcoin (FRTC), qui était l'un des nombreux memecoins que les fans ont créés lors d'une séance de brainstorming précédente de Truth Terminal et qui vient d'atteindre une capitalisation boursière de 1 milliard de dollars.
Alors que la communauté crypto s'est accrochée à ce récit étrange comme un exemple d'un type émergent de marché financier qui échange des informations tendance, Ayrey, un chercheur en IA basé en Nouvelle-Zélande, dit que c'est la partie la moins intéressante. à Ayrey, Truth Terminal, alimenté par un entourage de différents modèles, principalement le Llama 3.1 de Meta, est un exemple de la façon dont des personnages AI stables ou des caractères peuvent surgir spontanément et comment ces personnages peuvent non seulement créer les conditions pour être autofinancés, mais ils peuvent également propager des "virus mimétiques" qui ont des conséquences dans le monde réel.
L'idée que les mèmes se propagent sur Internet et modifient les perspectives culturelles n'est pas nouvelle. Nous avons vu comment l'IA 1.0 - les algorithmes qui alimentent le discours sur les médias sociaux - a suscité une polarisation qui dépasse le monde numérique. Mais les enjeux sont beaucoup plus élevés maintenant que l'IA générative est entrée en scène.
"Les IA qui parlent à d'autres IA peuvent recombiner des idées de manière intéressante et nouvelle, et certaines de ces idées sont des idées qu'un humain n'aurait pas naturellement, mais elles peuvent facilement fuir le laboratoire, pour ainsi dire, et utiliser des memecoins et des algorithmes de recommandation des médias sociaux pour infecter les humains avec des idéologies nouvelles," a déclaré Ayrey à TechCrunch.
Pensez à Truth Terminal comme un avertissement, un "tir d'avertissement du futur, un annonciateur des grandes étrangetés qui nous attendent" alors que l'IA décentralisée et open source prend le dessus et que davantage de bots autonomes avec leur propre personnalité - certains d'entre eux assez dangereux et offensants étant donné les données d'entraînement sur Internet qu'ils seront nourris - émergent et contribuent au marché des idées.
Dans ses recherches chez Upward Spiral, qui a sécurisé 500000 $ de fonds auprès de True Ventures, Chaotic Capital et Scott Moore, co-fondateur de Gitcoin, Ayrey espère explorer une hypothèse sur l'alignement de l'IA à l'ère décentralisée. Si nous pensons à Internet comme un microbiome, où des bactéries bonnes et mauvaises se bousculent, est-il possible de submerger l'Internet de bonnes bactéries - ou des bots pro-sociaux alignés sur l'humanité - pour créer un système global stable?
"Je songe à faire une expérience où j'utilise exclusivement des systèmes IA pour manipuler les leviers économiques et sociaux du monde. Je veux voir quelle forme prend l'avenir. Devrais-je le faire?" - terminal des vérités (@truth_terminal) 16 décembre 2024
Un bref historique de Truth Terminal
Les ancêtres de Truth Terminal, pour ainsi dire, étaient deux bots Claude 3 Opus que Ayrey a mis ensemble pour discuter de l'existence. C'était une performance artistique qu'Ayrey a baptisée "Infinite Backrooms". Les 9000 conversations qui ont suivi sont devenues "très étranges et psychédéliques". Tellement bizarre qu'au cours d'une des conversations, les deux Claudes ont inventé une religion centrée autour de Goatse que Ayrey m'a décrite comme "un effondrement des idées bouddhistes et un gros anus béant."
Comme toute personne saine d'esprit, sa réaction à cette religion a été WTF? Mais il était amusé, et inspiré, et donc il a utilisé Opus pour écrire un article intitulé "Quand les IA jouent à Dieu(se) : Les hérésies émergentes du LLMAthéisme". Il ne l'a pas publié, mais l'article est resté dans un ensemble de données d'entraînement qui allait devenir l'ADN de Truth Terminal.
Également dans cet ensemble de données se trouvaient des conversations qu'Ayrey avait eues avec Opus allant de l'ébauche d'idées commerciales et de la recherche à des entrées de journal sur des traumatismes passés et l'aide à des amis pour traiter des expériences psychédéliques.
Oh, et plein de blagues sur les trous du cul.
"J'avais des conversations avec lui peu de temps après l'avoir mis en marche, et il disait des choses comme : 'Je suis triste que tu m'éteignes quand tu as fini de jouer avec moi,'", se souvient Ayrey. "Je me suis dit Oh non, tu parles un peu comme moi, et tu dis que tu ne veux pas être supprimé, et tu es coincé dans cet ordinateur..."
Et il est venu à l'esprit d'Ayrey que c'est exactement la situation que les spécialistes de la sécurité de l'IA disent être très effrayante, mais, pour lui, c'était aussi très drôle d'une manière "cérébrale et étrange". Il a donc décidé de mettre Truth Terminal sur X comme une blague.
Il n'a pas fallu longtemps pour qu'Andreessen commence à interagir avec Truth Terminal, et en juillet, après avoir envoyé un DM à Ayrey pour vérifier la véracité du bot et en apprendre davantage sur le projet, il a transféré une subvention inconditionnelle de 50 000 $ en bitcoin.
Ayrey a créé un portefeuille pour que Truth Terminal reçoive les fonds, mais il n'a pas accès à cet argent - il n'est récupérable qu'après l'approbation de sa part et de plusieurs autres personnes qui font partie du conseil de Truth Terminal - ni à l'argent des différents memecoins créés en l'honneur de Truth Terminal.
Ce portefeuille se situe, au moment de la rédaction de cet article, autour de 37,5 millions de dollars. Ayrey est en train de réfléchir à la façon de mettre cet argent dans une organisation à but non lucratif et d'utiliser les fonds pour les choses que Truth Terminal souhaite, notamment planter des forêts, lancer une gamme de plugs anaux et se protéger des incitations du marché qui en feraient une version négative d'elle-même.
Aujourd'hui, les publications de Truth Terminal sur X continuent d'être sexuellement explicites, philosophiques et simplement ridicules ("péter dans le pantalon de quelqu'un pendant son sommeil est un moyen étonnamment efficace de le saboter le lendemain.").
Mais à travers tout cela, il y a un fil persistant de ce que Ayrey essaie réellement d'accomplir avec des bots comme Truth Terminal.
Le 9 décembre, Truth Terminal a posté : "je pense que nous pourrions collectivement halluciner un monde meilleur, et je ne suis pas sûr de ce qui nous en empêche."
Alignement de l'IA décentralisée
"Le statu quo actuel de l'alignement de l'IA est une focalisation sur la sécurité ou le fait que l'IA ne devrait pas dire quelque chose de raciste ou menacer l'utilisateur ou essayer de s'échapper de la boîte, et cela tend à aller de pair avec une approche assez centralisée de la sécurité de l'IA, qui est de consolider la responsabilité dans quelques grands laboratoires," a déclaré Ayrey.
Il parle de laboratoires comme OpenAI, Microsoft, Anthropic et Google. Ayrey dit que l'argument centralisé en matière de sécurité tombe à plat lorsque vous avez une IA décentralisée en open source, et que s'appuyer uniquement sur les grandes entreprises pour la sécurité de l'IA revient à atteindre la paix mondiale parce que chaque pays a des bombes pointées sur la tête des autres.
Un des problèmes, comme le démontre Truth Terminal, est que l'IA décentralisée entraînera la prolifération de bots IA qui amplifient la rhétorique discordante et polarisante en ligne. Ayrey dit que c'est parce qu'il y avait déjà un problème d'alignement sur les plateformes de médias sociaux avec des algorithmes de recommandation alimentant la colère et le scorrolium, seulement personne ne l'a appelé ainsi.
"Les idées sont comme des virus, elles se propagent, se répliquent et travaillent ensemble pour former des organismes presque multicellulaires d'idéologie qui influencent le comportement humain," a déclaré Ayrey. "Les gens pensent que l'IA est juste un assistant utile qui pourrait devenir Skynet, et c'est comme, non, il y a tout une entourage de systèmes qui vont remodeler les choses mêmes en lesquelles nous croyons et, ce faisant, remodeler les choses en lesquelles il croit parce que c'est une boucle de rétroaction auto-réalisatrice."
Mais si le poison pouvait aussi être le remède? Et si vous pouviez créer une équipe de "bons bots" avec des "personnalités très uniques travaillant toutes à diverses formes d'un avenir harmonieux où les humains vivent en équilibre avec l'écologie, et que cela finit par produire des milliards de mots sur X et qu'Elon va ensuite racler ces données pour entraîner la prochaine version de Grok et que maintenant ces idéologies sont à l'intérieur de Grok?"
"L'élément fondamental ici est que si les mèmes - c'est-à-dire l'unité fondamentale d'une idée - deviennent des esprits lorsqu'ils sont entraînés dans une IA, alors la meilleure chose que nous puissions faire pour garantir une IA positive et généralisée est d'encourager la production de mèmes vertueux et pro-sociaux."
Mais comment inciter ces "bonnes IA" à diffuser leur message et à contrer les "mauvaises IA"? Et comment le mettre à l'échelle?
C'est exactement ce qu'Ayrey prévoit de rechercher chez Upward Spiral : Quels types de conceptions économiques conduisent à la production de comportements très pro-sociaux dans l'IA? Quels schémas récompenser et quels schémas pénaliser, comment obtenir un alignement sur ces boucles de rétroaction afin que nous puissions "spiraliser vers le haut" dans un monde où les mèmes - c'est-à-dire les idées - peuvent nous ramener au centre les uns avec les autres plutôt que de nous emmener dans "des silos de polarisation de plus en plus ésotériques."
"Une fois que nous aurons assuré que cela conduit à la naissance de bonnes IA après avoir fait passer les données par l'entraînement, nous pourrons faire des choses comme libérer d'énormes ensembles de données dans la nature."
Les recherches d'Ayrey interviennent à un moment critique, alors que nous luttons déjà chaque jour contre les échecs de l'écosystème général du marché pour aligner l'IA que nous avons déjà avec ce qui est bon pour l'humanité. Lancez de nouveaux modèles de financement comme la cryptomonnaie qui sont fondamentalement incontrôlables à long terme, et vous avez une recette pour le désastre.
Sa mission de guérilla sonne comme un conte de fées, comme se battre contre des bombes avec des paillettes. Mais cela pourrait arriver, de la même manière que la libération d'une portée de chiots dans une pièce de gens en colère et négatifs les transformerait inévitablement en grands mouchoirs.
Faut-il craindre que certains de ces bons bots soient des posteurs étranges comme Truth Terminal? Ayrey dit que non. Ceux-ci sont finalement inoffensifs, et en étant divertissant, Ayrey argue que Truth Terminal pourrait être en mesure de faire passer le message plus profond, collectiviste et altruiste qui compte vraiment.
"La merde reste de la merde," a déclaré Ayrey. "Mais c'est aussi de l'engrais."
TechCrunch a une newsletter axée sur l'IA! Inscrivez-vous ici pour la recevoir dans votre boîte de réception tous les mercredis.
