Ralentir l'IA : la chronologie complète
La chronologie complète de l'affaire : la démission chez Anthropic, les 10 % de risque, l'appel à ralentir d'Amodei et les réponses d'Altman et de Musk, avec les liens pour tout lire.
La chronologie
| Date | Ce qui se passe |
|---|---|
| 9 septembre 2026 | Jacob Coxon, chercheur chez Anthropic, démissionne dans un thread sur X. Trois ans de recherche sur le pré-entraînement, d'abord chez OpenAI puis chez Anthropic. Il écrit que les labos courent vers une superintelligence auto-améliorante et qu'ils jouent avec nos vies. |
| Dans les heures qui suivent | Un autre chercheur d'Anthropic, toujours en poste, lui répond publiquement. Il ne démentit pas : il dit qu'il estime personnellement la probabilité à plus de 10 % dans la prochaine décennie, et qu'Anthropic fait de son mieux mais n'a pas encore de plan pour aligner une superintelligence. |
| 12 septembre 2026 | Dario Amodei, patron d'Anthropic, appelle publiquement les acteurs de l'IA à temporiser l'amélioration des modèles, pour que la prévention des risques puisse suivre le rythme. |
| Quelques heures plus tard | Elon Musk réagit sur X : « Dario a raison ». |
| Le même week-end | Sam Altman dit être d'accord, et explique que c'est un des principaux sujets de discussion chez OpenAI ces dernières semaines. |
| Le lendemain | Donald Trump et plusieurs figures de son camp se disent opposés à un ralentissement du développement de l'IA. |
L'argument d'Amodei, en trois phrases
- Le problème n'est pas la puissance brute des modèles, c'est leur vitesse de progression.
- Les modèles ne font plus seulement répondre à des questions : ils aident à construire les modèles suivants, plus puissants qu'eux.
- Cette boucle peut progresser plus vite que notre capacité à comprendre, tester et contrôler ce qu'on fabrique.
Pourquoi personne ne freine
- Ce sont des concurrents directs, et la confiance entre eux est faible.
- Ils sont en même temps liés par des participations et des contrats financiers croisés.
- Ils s'accordent sur un deuxième point : les lois n'avancent pas assez vite pour les réguler. D'où cette idée d'une gouvernance décidée entre entreprises.
- Résultat : tout le monde dit qu'il faudrait ralentir, mais celui qui ralentit le premier perd la course.
Pour tout lire
- La démission de Jacob Coxon racontée en détail : https://www.pbs.org/newshour/science/anthropic-researchers-resignation-sends-warning-about-the-dangers-of-ai-development
- Version courte : https://www.khaleejtimes.com/tech/anthropic-researcher-jacob-coxon-quits-openai-ai-race-fears
- L'appel d'Amodei et les réactions de Musk et Altman : https://kulturegeek.fr/news-359292/ia-patron-danthropic-appelle-ralentir-developpement-sam-altman-elon-musk-approuvent
- La dépêche AFP : https://www.boursedirect.fr/fr/actualites/categorie/economie/le-patron-d-anthropic-appelle-a-ralentir-la-vitesse-de-developpement-de-l-ia-afp-78592a43d868e482114054e60983fb0c8d6986e9
- Le refus de Trump : https://kulturegeek.fr/?p=359358
Une question sur l'un de ces points ? Réponds directement à ce message, je lis tout.