Le co-fondateur d’Ethereum, Vitalik Buterin, a fait part de ses inquiétudes quant aux dangers potentiels des programmes d’intelligence artificielle (IA) non contrôlés.
Dans un article du 10 janvier sur X, Buterin a averti qu’une IA mal gérée pourrait créer des entités intelligentes auto-répliquantes qui présentent des risques pour l’humanité.
Il a déclaré :
« L’IA mal utilisée crée de nouvelles formes de vie intelligente et auto-répliquante indépendante. L’IA bien faite est un mecha pour l’esprit humain. Si nous faisons la première sans la seconde, nous risquons de perdre définitivement le pouvoir humain. Si nous faisons cette dernière solution, une civilisation humaine surintelligente florissante.
Il a expliqué que si certains systèmes d’IA, tels que les chatbots conçus pour améliorer les interfaces utilisateur, sont bénéfiques, d’autres pourraient entraîner des risques importants. Plus précisément, les agents d’IA qui fonctionnent de manière autonome pendant de longues périodes pourraient éventuellement remettre en question le contrôle humain et priver la société de son pouvoir.
Pour atténuer ces risques, Buterin a proposé de se concentrer sur les systèmes d’IA qui complètent l’intelligence humaine, en les transformant en outils qui amplifient les capacités collectives au lieu de les remplacer.
Selon lui, une telle approche transformerait l’IA en un outil puissant permettant d’améliorer les capacités humaines tout en évitant les risques inutiles.
d/Acc.
Une partie importante de sa stratégie implique le concept d’accélération défensive différentielle décentralisée et démocratique (d/Acc). Cette approche met l’accent sur le développement d’outils décentralisés pour faire face aux menaces émergentes liées à l’IA.
Buterin a développé cette idée dans un récent article de blog, décrivant d/Acc comme un cadre conçu pour décentraliser les technologies défensives. L’objectif est de donner aux individus et aux communautés les moyens de se protéger des dangers potentiels posés par les progrès rapides de l’IA.
Cette stratégie permet une répartition plus démocratique du pouvoir technologique en mettant les capacités défensives entre les mains des communautés. Par exemple, les systèmes décentralisés pourraient surveiller, contrecarrer ou même neutraliser les activités nuisibles de l’IA sans dépendre du contrôle descendant des gouvernements ou des entreprises.
Buterin a expliqué que d/Acc pourrait servir de garde-fou dans des scénarios où les technologies d’IA évoluent de manière imprévisible. De plus, la démocratisation de la défense garantit qu’aucune entité ne peut dominer ou exploiter le potentiel de l’IA avancée, favorisant ainsi un écosystème technologique plus équilibré et plus résilient.
Le co-fondateur d’Ethereum a également souligné les responsabilités éthiques des développeurs dans ce domaine en évolution rapide. Il a fait valoir que les approches décentralisées telles que d/Acc améliorent la sécurité collective et encouragent la transparence et la collaboration dans le développement de l’IA.
Buterin a écrit :
« Une idée très favorable au d/acc est de responsabiliser les propriétaires ou les opérateurs de tout équipement dont une IA s’empare (par exemple par piratage) au cours du processus d’exécution d’une action catastrophiquement nuisible. Cela créerait une incitation très large à travailler dur pour rendre l’infrastructure mondiale (en particulier informatique et biologique) aussi sécurisée que possible.
Mentionné dans cet article
