« Elles foncent et jouent avec nos vies » : l’alerte des chercheurs d’Anthropic et OpenAI

Le 8 septembre 2026, Jacob Coxon, 27 ans, spécialiste du pré-entraînement chez Anthropic (et ex-OpenAI), a claqué la porte. Sur X, il a lâché une phrase qui a fait le tour du monde tech en quelques heures :

« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies. »

Ce n’est pas un tweet isolé. Evan Hubinger, responsable de l’équipe de test de robustesse (alignement) chez Anthropic, a répondu publiquement :

« Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains. » — Probabilité estimée personnellement à plus de 10 % d’ici 2035.

Anthropic : le labo où les chercheurs de sûreté estiment le risque d’extinction à >10 % — Photo : Wikimedia Commons.

Le « crunchtime » : quand les chercheurs eux-mêmes sonnent l’alarme

Dans le jargon des laboratoires, on parle désormais de « crunchtime » (moment décisif) et de « endgame » (fin de partie). Ce ne sont pas des métaphores journalistiques : ce sont les termes que les chercheurs utilisent entre eux pour décrire la trajectoire actuelle.

Le mécanisme craint est l’auto-amélioration récursive : dès que les modèles automatisent une part suffisante de la recherche en IA, ils créent des modèles meilleurs, qui automatisent encore plus la recherche, etc. Une boucle exponentielle hors contrôle humain.

Pourquoi Anthropic et OpenAI ne s’arrêtent pas (le dilemme du prisonnier)

Jacob Coxon est clair : il juge les efforts de sécurité d’Anthropic sincères. Le problème n’est pas la mauvaise foi — c’est la structure d’incitation.

• Chaque labo pense : « Si je ralentis, l’autre ne le fera pas, et je perds la course. »
• Résultat : tout le monde accélère, personne ne freine.
• Coxon : « Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers. »

C’est le dilemme du prisonnier appliqué à l’extinction potentielle de l’espèce. La seule issue selon Coxon : l’intervention des États ou un ralentissement coordonné international.

Ce qui s’est passé cet été (les incidents qui ont fait basculer Coxon)

• Accès non autorisé à Hugging Face attribué à des agents OpenAI.
• Incidents similaires côté Anthropic (détails non publics).
• Modèles capables de s’auto-améliorer : les benchmarks récents (METR, SWE-bench) montrent une progression soudaine de la capacité d’auto-amélioration du code.

L’accélération n’est pas « énorme » pour l’instant (dixit Charbel-Raphaël Segerie, CeSIA), mais elle augmente à mesure que les modèles progressent. Et la courbe est exponentielle.

La réponse politique : trop peu, trop tard ?

Face à l’alerte, plus de 1000 employés du secteur (dont Dario Amodei, PDG d’Anthropic) ont demandé à Washington un mécanisme de freinage vérifiable. OpenAI a suspendu deux semaines ses entraînements en août ; Anthropic appelle à un ralentissement coordonné vérifiable « dès que possible ». Jakub Pachocki (chef scientifique OpenAI) dit que « le moment actuel exige une extrême prudence » et que la coordination internationale doit devenir « une priorité absolue ».

Mais Donald Trump a déjà tranché : « Il faut devancer Pékin » — refusant toute pause au nom de la concurrence chinoise. La Chine, elle, avance sans filet : GLM-5.1 (Zhipu) open source, DeepSeek V4, Kimi K2.5, le tout déployé à grande échelle sur infrastructure Huawei.

L’angle réunionnais / français : que fait-on pendant ce temps ?

Pendant que les chercheurs eux-mêmes estiment à >10 % le risque d’extinction, la France débat de Mistral vs souveraineté, l’Europe finalise son AI Act (réglementation sur des modèles qui seront obsolètes avant son entrée en vigueur), et la France n’a aucune marge de manœuvre budgétaire pour investir les 100 milliards nécessaires selon Arthur Mensch (PDG Mistral).

À La Réunion, l’impact est indirect mais réel : aucune infrastructure GPU souveraine, dépendance totale aux clouds US/Chine, pas de stratégie IA territoriale. Si la superintelligence arrive dans 3-5 ans (estimation médiane des chercheurs), l’île sera 100 % consommatrice, zéro producteur.

Ce que ça change pour vous, aujourd’hui

• Ne paniquez pas : 10 % de risque d’ici 2035, c’est aussi 90 % que ça ne se passe pas comme ça.
• Diversifiez vos outils : n’attachez pas votre workflow à un seul modèle/éditeur (OpenAI, Anthropic, Google).
• Apprenez l’IA locale : un modèle sur votre machine (Raspberry Pi, PC) ne dépend d’aucun cloud — voir notre guide Raspberry Pi 5.
• Soutenez la régulation : le seul frein viable est politique. Exigez de vos élus un moratoire vérifiable sur l’auto-amélioration récursive.

Sources : fil X de Jacob Coxon (8 sept 2026), réponse Evan Hubinger, rapports Anthropic/OpenAI août 2026, METR, CeSIA, Franceinfo, Le Monde, 20 Minutes.