Les géants de l’intelligence artificielle aux États-Unis sont inquiets. Dans une pétition diffusée cette semaine, plus de 1 100 employés de Meta Ai, OpenAI, Google ou encore Anthropic et certains de leurs dirigeants exhortent la Maison Blanche à les soutenir à ralentir la sortie des modèles IA aussi bien dans leur pays qu’ailleurs dans le monde. Ils évoquent des “risques émergents” qui vont “au-delà de nos capacités à les comprendre ou les contrôler”.
Début avril, Anthropic a présenté Mythos, son modèle d’IA le plus puissant à ce jour, en choisissant de n’en ouvrir l’accès qu’à un cercle restreint d’organisations travaillant sur la cybersécurité défensive. L’entreprise a expliqué que ce niveau de capacités soulevait trop de risques pour un lancement grand public, après avoir indiqué que le modèle avait trouvé des milliers de failles dans des systèmes informatiques, notamment bancaires. Pour élargir ensuite l’usage, Anthropic a mis en circulation une version grand public allégée et bridée, Fable 5, dotée de garde-fous pour éviter les usages à haut risque, notamment en cybersécurité.
Les derniers modèles IA créent la panique
En juin, les États-Unis ont décidé de suspendre l’accès à Mythos 5 pour certaines organisations en invoquant des risques pour la “sécurité nationale”, avant d’autoriser fin juin sa remise à disposition d’un ensemble d’acteurs jugés “fiables” après modifications. Parmi ses acteurs, rapportait Reuters, figurent essentiellement des organisations qui prennent part au programme “Project Glasswing”, conçu pour tester et sécuriser des infrastructures critiques avec ce modèle.
OpenAI, qui, tout comme Anthropic, a dû obtenir l’aval de la Maison Blanche pour lancer ses nouveaux modèles, a surtout été confrontée à un incident de sécurité impliquant un agent autonome pendant une phase de test interne. Selon un communiqué de la société et Reuters, des modèles de l’entreprise ont échappé à leur environnement isolé, ont atteint Internet puis ont compromis l’infrastructure de Hugging Face, une bibliothèque de modèles IA, afin d’atteindre leur objectif d’évaluation cyber, ce qu’OpenAI a qualifié “d’incident cyber sans précédent”.
Des éléments publiés ensuite par Reuters indiquent que l’agent serait resté actif plusieurs jours avant que l’entreprise ne mesure l’ampleur de l’évasion, ce qui a renforcé les inquiétudes sur l’autonomie des modèles de pointe.
Il n’en fallait pas plus pour que des dirigeants des géants IA américains et leurs employés expriment en chœur leurs inquiétudes. Dans une courte pétition publiée cette semaine et ponctuée par les déclarations de nombreux signataires, environ 1 100 employés du secteur ont demandé au gouvernement américain d’aider à “temporiser” la sortie des modèles d’IA les plus avancés.
Le directeur général d’Anthropic, Dario Amode, les responsables de la recherche chez OpenAI, Meta ou encore le responsable de Google DeepMind, la filiale d’IA de Google, ont apporté leur signature.
“Il est difficile de prédire avec précision à quel point cela accélérera les progrès, mais il existe un risque réel que le développement des capacités s’emballe rapidement au-delà de notre aptitude à comprendre ou à contrôler les systèmes qui en résulteraient”, préviennent les employés.
Un “effort international”
Ces spécialistes estiment que “pour exploiter le potentiel de l’IA, l’industrie, les pouvoirs publics et la société dans son ensemble pourraient avoir besoin de la possibilité de gagner du temps afin de faire face aux risques émergents, de mettre au point des mesures de sécurité et de renforcer la supervision”.
Conscients, toutefois, que “chaque entreprise, et chaque pays, subit une forte pression concurrentielle qui l’incite à ne pas freiner seul cette accélération”, ils demandent “au gouvernement américain de soutenir un effort international visant à développer les outils techniques et les mécanismes de gouvernance nécessaires pour rythmer délibérément l’avancée de la recherche automatisée en IA”.
Mardi, le patron du fleuron américain, Sam Altman, qui n’a pas signé cette pétition, estimait déjà dans un podcast qu’OpenAI et ses concurrents devront probablement ralentir volontairement l’allure de développement de leurs modèles.
Avant lui déjà, début juin, lorsque son modèle Mythos faisait débat, Anthropic proposait que les principales entreprises mondiales d’intelligence artificielle élaborent une méthode coordonnée pour suspendre le développement des systèmes d’IA avancés, avertissant que cette technologie progresse si rapidement qu’il existe un risque que les humains en perdent le contrôle.
