La société américaine Anthropic a publié ce jeudi un texte dans lequel elle plaide pour la création d’un système permettant aux principaux acteurs de l’intelligence artificielle de convenir, de manière coordonnée et vérifiable, de ralentir ou de suspendre temporairement le développement des modèles les plus avancés. L’objectif serait de laisser le temps aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès technologiques.
Ce document, intitulé *When AI builds itself* et signé par Marina Favaro, responsable de l’Anthropic Institute, et Jack Clark, cofondateur de l’entreprise, s’appuie sur des observations internes et externes montrant une accélération marquée des capacités des systèmes d’IA. Selon les données présentées, plus de 80 % du code intégré chez Anthropic est désormais rédigé par le modèle Claude, contre une part marginale début 2025. La productivité des ingénieurs aurait été multipliée par huit en quelques trimestres, tandis que la durée des tâches réalisables de manière autonome doublerait environ tous les quatre mois.
Le texte met en lumière le concept d’« amélioration récursive de soi », un stade où les systèmes d’IA pourraient concevoir et développer leurs propres successeurs avec une autonomie croissante. Les auteurs estiment que cette évolution, si elle se concrétise, pourrait amplifier les risques de perte de contrôle si les problèmes d’alignement se propagent. Ils soulignent toutefois que cette perspective n’est ni inévitable ni immédiate.
« Nous pensons qu’il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès de la technologie », écrivent Marina Favaro et Jack Clark. Ils précisent que toute pause crédible devrait être multilatérale, concerner plusieurs laboratoires de pointe dans différents pays et reposer sur des mécanismes de vérification robustes, afin d’éviter qu’un acteur ne profite d’un ralentissement collectif pour prendre l’avantage.
L’Anthropic Institute indique qu’il mènera des travaux, en collaboration avec d’autres parties, pour concevoir ces outils de vérification. L’entreprise affirme qu’elle serait prête à ralentir ou à suspendre ses propres activités si de tels systèmes existaient et si d’autres développeurs de premier plan y adhéraient de façon vérifiable.
La proposition a été largement relayée par les agences de presse. Reuters a de son côté souligné la nécessité d’un plan coordonné pour interrompre le développement en cas de risques accrus. Dans une interview accordée à BBC Newsnight, Jack Clark a comparé la situation actuelle à une voiture dotée d’une pédale d’accélérateur mais dépourvue de frein, estimant qu’il serait souhaitable de disposer de cette option à l’avenir.
Le texte d’Anthropic ne constitue pas un appel à l’arrêt immédiat des travaux, mais la reconnaissance qu’un outil de régulation collective pourrait s’avérer nécessaire si les progrès s’accélèrent au-delà de la capacité d’adaptation de la société. L’entreprise annonce par ailleurs son intention d’organiser, dans les mois à venir, des discussions avec des décideurs politiques, des chercheurs et d’autres acteurs du secteur sur ces questions de coordination et de gouvernance.
