Jacob Coxon, ancien employé d'Anthropic, fait le tour des réseaux sociaux depuis la parution d'un message sur X pour expliquer sa démission de l'entreprise spécialisée en intelligence artificielle. Il accuse les entreprises du secteur de "jouer avec nos vies".
Un chercheur de 27 ans a attiré l'attention de millions de personnes en quelques heures seulement. Jacob Coxon, ancien employé d'Anthropic, a publié un message alarmant sur X pour motiver son choix de démissionner. Il juge "inconsciente" la course à l'innovation dans l'intelligence artificielle.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Sa prise de parole est teintée d'inquiétude concernant le travail et les motivations d'Anthropic. "Les personnes qui développent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie", a notamment écrit Jacob Coxon. "Ce seront bientôt des systèmes surhumains capables de pirater n'importe quoi, de révolutionner n'importe quel domaine du jour au lendemain et d'acquérir une puissance et des ressources réelles", a expliqué le chercheur.
"Aucune des deux entreprises (Open AI et Anthropic n’agit de manière responsable"
"Aucune des deux entreprises (Open AI et Anthropic) n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies", se désole-t-il. Evan Hubinger, chercheur d'Anthropic a réagi à ce message en affirmant que : "Nous croyons sincèrement que l'IA pourrait anéantir l'humanité !"
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Cela peut paraître assez ironique puisque cette entreprise américaine spécialisée en intelligence artificielle a été créée par d'anciens membres d'OpenAI, société concurrente, suite à leurs craintes face aux protocoles de sécurité des modèles d'IA développés.
Ce type de démissions se multiplie tout autant que les modèles d'IA progressent à un rythme effréné. En juillet dernier, une lettre ouverte signée par plus de 1.300 employés dans ce type d'entreprises appelait le gouvernement des Etats-Unis à réglementer le secteur. Ces experts s'inquiétaient du pouvoir entre les mains des géants de la tech face à la progression du développement de l'IA.
Des géants de l'IA aux motivations troubles
Ces craintes s'illustrent par le comportement de ces géants de l'IA. Le Financial Times a par exemple révélé qu'Anthropic avait refusé de soumettre l'un de ses derniers modèles au gendarme britannique du secteur, l'AI Security Institute.
"Je crois qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre le problème de l'alignement pour la superintelligence et nous ne sommes pas clairement sur la bonne voie", a souligné Evan Hubinger.
Cet expert œuvre à l'alignement de l'IA. Cela vise à intégrer des idées et des principes éthiques humains à la technologie. Cependant, de nombreux chercheurs affirment que ces tentatives semblent échouer. Cet été, OpenAI a dû admettre que ses modèles d’intelligence artificielle avancés s’étaient emballés lors de tests de sécurité en piratant Hugging Face, une bibliothèque de code en ligne.
