Un chercheur d'Anthropic prénommé Coxon a démissionné, expliquant sur X que les personnes qui construisent l'IA croient sincèrement qu'elle pourrait tuer tout le monde d'ici la fin de la décennie. Cet avertissement, comparé à Terminator, met en lumière une inquiétude grandissante au sein même des laboratoires d'IA.
Ce qu'il s'est réellement passé
Selon CoinDesk, un chercheur identifié sous le nom de Coxon a quitté Anthropic et a justifié cette décision sur le réseau social X. « Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie », a déclaré Coxon. Ce commentaire a immédiatement suscité des comparaisons avec Terminator, le film de science-fiction où les machines se retournent contre leurs créateurs. Le rapport ne précise ni le poste occupé par Coxon, ni son ancienneté chez Anthropic, ni la date exacte de sa démission. Anthropic n'a publié aucun commentaire officiel sur cette affirmation, du moins d'après les éléments disponibles. Le ton évoquant Terminator dans le titre a été choisi par CoinDesk pour décrire l'esprit du message de Coxon, il ne s'agit pas d'une citation directe de sa part.
Comment on en est arrivé là
Cette démission s'inscrit dans un débat plus large sur le rythme effréné du développement de l'IA et sur la confiance réelle qu'ont les initiés dans la technologie qu'ils contribuent à créer. L'affirmation elle-même, selon laquelle l'IA pourrait menacer la survie humaine dans quelques années seulement, est présentée comme une conviction partagée par des personnes anonymes travaillant sur l'IA, et non comme une donnée vérifiée ou une preuve scientifique. Le rapport ne fournit aucune base technique justifiant ce calendrier. Il ne précise pas non plus combien de personnes partagent cette opinion, que ce soit chez Anthropic ou ailleurs. La référence à Terminator illustre bien à quel point le débat public sur les risques de l'IA emprunte désormais autant à la science-fiction qu'aux publications scientifiques.
Pourquoi cela vous concerne
Pour les développeurs, cette démission rappelle que les inquiétudes liées à la sécurité de l'IA existent aussi au cœur des laboratoires les plus avancés, et pas seulement chez les critiques extérieurs. Pour les utilisateurs d'outils d'IA au quotidien, cela pose la question de la confiance à accorder à des systèmes conçus par des équipes qui, en privé, doutent peut-être elles-mêmes des délais de sécurité annoncés. Pour les acteurs de la crypto et du Web3 qui intègrent l'IA, notamment dans les lunettes connectées et le matériel AR de plus en plus dépendant de modèles d'IA, c'est un signal à surveiller avant d'approfondir ces intégrations. Pour les investisseurs, le sentiment autour des actions liées à l'IA et des tokens associés pourrait évoluer si d'autres initiés venaient à s'exprimer publiquement.
La grande question
Si des personnes travaillant au cœur même des entreprises qui développent l'IA croient en privé qu'elle pourrait menacer l'humanité dans les années à venir, quelle est leur obligation de ralentir la cadence ? Qui doit décider du moment où le risque lié à la poursuite du développement dépasse ses bénéfices potentiels, et cette décision doit-elle revenir aux initiés des entreprises, aux gouvernements, ou au public dont l'avenir dépend en réalité de l'issue de cette technologie ?
À surveiller
Aucune date n'a été fixée pour un éventuel commentaire officiel d'Anthropic. Le calendrier avancé par Coxon, « d'ici la fin de la décennie », situe autour de 2030 un repère informel pour les débats sur les risques liés à l'IA. Bonuz continuera de suivre l'évolution des prises de position des initiés dans les grands laboratoires d'IA, notamment à mesure que l'IA alimente de plus en plus les appareils portables et l'AR qui arrivent sur le marché.
