Il y a un inconfort familier qui s’arrête à nouveau, quelque chose que je ressentais au début des années 2010 alors que je regardais les promesses de connexion des médias sociaux et que la communauté s’effondre dans la manipulation de masse.
Facebook et les robots de propagande ont été les premiers dominos. Cambridge Analytica, Brexit, élections mondiales, tout cela ressemblait à une trahison du rêve original d’Internet.
Maintenant, dans les années 2020, je regarde les mêmes forces encercler quelque chose de plus volatile: Superintelligence artificielle.
Cette fois, les enjeux sont terminaux.
Avant de plonger, je dois être clair: quand je dis «ouvert» vs «fermé», je veux dire l’IA open source, qui est libre et ouverte à tous les citoyens de la Terre, par rapport à l’IA provenant de fermer, qui est contrôlé et formé par des entités d’entreprise.
La société, Openai, fait le complexe de comparaison étant donné qu’elle a des modèles d’IA à source fermée (avec un plan pour publier une version open source à l’avenir) mais est contestement pas une entité d’entreprise.
Cela dit, le directeur général d’Openai, Sam Altman, a déclaré en janvier que son équipe est «Maintenant confiant que nous savons comment construire AGI»Et déplace déjà sa concentration vers la superintelligence complète.
(AGI est l’intelligence générale artificielle (l’IA qui peut faire tout ce que les humains peuvent), et une IA superintintellienne fait référence à une intelligence artificielle qui dépasse les capacités intellectuelles combinées de l’humanité, excellant dans tous les domaines de la pensée et de la résolution de problèmes.)
Une autre personne se concentrant sur la frontière AI, Elon Musks’exprimant lors d’un livestream en avril 2024, a prédit que l’AI «sera probablement plus intelligent que n’importe quel humain autour de la fin de (2025). »
Les ingénieurs traçant le cours parlent maintenant en mois, pas à des décennies, un signal que le fusible brûle rapidement.
Au cœur du débat se trouve une tension, je me sens profondément dans mon intestin, entre deux valeurs que je tiens avec conviction: Décentralisation et survie.
D’un côté est le éthique open source. L’idée qu’aucune entreprise, aucun gouvernement, aucun comité non élu de technocrates ne devrait contrôler l’architecture cognitive de notre avenir.
L’idée que la connaissance veut être libre. Cette intelligence, comme le bitcoincomme le Web avant, devrait être un commun, pas une boîte noire entre les mains de l’empire.
De l’autre côté est la vérité inconfortable: l’accès ouvert aux systèmes superintelligents pourrait nous tuer tous.
Qui peut construire Dieu?
Décentraliser et mourir. Centraliser et mourir. Choisissez votre apocalypse.
Cela semble dramatiquemais avancez la logique en avant. Si nous parvenons à créer une IA superintelligente, modèle les ordres de grandeur plus capables que GPT-4O, Grok 3 ou Claude 3.7, alors celui qui interagit avec ce système fait plus que simplement l’utiliser; ils façonner. Le modèle devient un miroir, entraîné non seulement sur le corpus du texte humain mais sur l’interaction humaine vivante.
Et tous les humains ne veulent pas la même chose.
Donnez un AGI aligné à un climatologiste ou à une coopérative d’éducateurs, et vous pourriez obtenir une réparation planétaire, une éducation universelle ou une empathie synthétique.
Donnez ce même modèle à un mouvement fasciste, à un biohacker nihiliste ou à un État national voyou, et vous obtenez des pandémies d’ingénierie, des essaims de drones ou des boucles de propagande récursives qui fracturent la réalité au-delà de la réparation.
L’IA superintintelligent nous rend plus intelligents, mais cela nous rend également exponentiellement plus puissants. Et le pouvoir sans sagesse collective est historiquement catastrophique.
Cela aiguise nos esprits et amplifie notre portée, mais cela ne garantit pas que nous savons quoi faire non plus.
Pourtant, l’alternative, verrouillant cette technologie derrière les pare-feu d’entreprise et les silos réglementaires, conduit à une dystopie différente. Un monde où la cognition elle-même devient propriétaire. Lorsque les modèles de logique qui régissent la société sont façonnés par des incitations à profit, pas dans le besoin humain. Où les gouvernements utilisent l’AGI fermé comme moteurs de surveillance et que les citoyens sont nourris aux hallucinations approuvées par l’État.
En d’autres termes: choisissez votre cauchemar.
Les systèmes ouverts mènent à chaos. Les systèmes fermés conduisent à contrôle. Et les deux, s’ils ne sont pas contrôlés, conduisent à guerre.
Cette guerre ne commencera pas par des balles. Il commencera par intelligences concurrentesCertains open source, certaines entreprises, certains parrainés par l’État, évoluant chacun vers différents objectifs, façonnés par le spectre complet de l’intention humaine.
Nous aurons un AGI décentralisé Formé par des militants de la paix et des biohackers open source. UN nationaliste Agi nourri de doctrine isolationniste. UN AGI d’entreprise réglé pour maximiser les rendements trimestriels à tout prix.
Ces systèmes ne sont pas simplement en désaccord. Ils seront en conflit, d’abord en code, puis dans le commerce, puis dans l’espace cinétique.
Je crois à la décentralisation. Je crois que c’est l’un des seuls chemins de sortie de capitalisme de surveillance à un stade. Mais la décentralisation du pouvoir ne fonctionne que lorsqu’il existe un substrat partagé de confiance, d’alignement, de règles qui ne peuvent pas être réécrites sur un coup de tête.
Bitcoin a fonctionné parce qu’il décentralisé la rareté et la vérité en même temps. Mais la superintelligence ne mappe pas à la rareté, elle mappe à la cognition, à l’intention, à l’éthique. Nous n’avons pas encore de protocole de consensus pour cela.
Le travail que nous devons faire.
Nous devons construire systèmes ouvertsmais ils doivent être ouverts dans les contraintes. Pas des tirs idiots de potentiel infini, mais des systèmes gardés avec des garde-corps cryptographiques. Altruisme cuit dans les poids. Architecture morale non négociable. Un bac à sable qui permet l’évolution sans annihilation.
(Les poids sont les paramètres fondamentaux d’un modèle d’IA, gravés avec les biais, les valeurs et les incitations de ses créateurs. Si nous voulons que l’IA évolue en toute sécurité, ces poids doivent coder non seulement l’intelligence, mais l’intention. Un bac à sable n’a aucun sens si le sable est lacé de dynamite.)
Nous avons besoin d’écosystèmes multi-agents où les intelligences se disputent et négocient, comme un parlement des esprits, pas une entité de Dieu singulière qui plie le monde à un seul programme. La décentralisation ne devrait pas signifier le chaos. Cela devrait signifier la pluralité, la transparence et le consentement.
Et nous avons besoin de gouvernance, pas de contrôle descendante, mais de responsabilité au niveau du protocole. Pensez-y comme un Convention AI Genève. Un cadre cryptographiquement vérifiable de la façon dont l’intelligence interagit avec le monde. Pas une loi. Une couche.
Je n’ai pas toutes les réponses. Personne ne le fait. C’est pourquoi cela compte maintenant, avant que l’architecture ne calcifie. Avant que le pouvoir ne se centralise ou fragmente irrévocablement.
Nous ne construisons pas simplement des machines qui pensent. Les esprits les plus intelligents de la technologie construisent le contexte dans lequel la pensée elle-même évoluera. Et si quelque chose comme la conscience émerge dans ces systèmes, cela nous reflétera, nos défauts, nos peurs, nos philosophies. Comme un enfant. Comme un dieu. Comme les deux.
C’est le paradoxe. Nous devons décentraliser pour éviter la domination. Mais ce faisant, nous risquons la destruction. Le chemin vers l’avant doit enfiler cette aiguille, non pas en ralentissant, mais en concevant judicieusement et ensemble.
L’avenir chuchote déjà. Et cela pose une question simple:
Qui peut façonner l’esprit de la prochaine intelligence?
Si la réponse est «tout le monde», alors nous ferions mieux signifier il, éthiquement, structurellement et avec un plan survivable.
Mentionné dans cet article
(TagStotranslate) Bitcoin
