Des employés d’OpenAI et Google réclament un frein à l’IA : plus de 1 100 signatures

Le débat sur l’intelligence artificielle vient de prendre une tournure inattendue.

Cette fois, ce ne sont pas des chercheurs indépendants qui tirent la sonnette d’alarme.

Ce sont des salariés d’OpenAI, Google, Anthropic, Meta et d’autres géants qui demandent directement au gouvernement américain d’intervenir.

Pourquoi des employés de l’IA demandent-ils une régulation maintenant ?

Plus de 1 100 employés issus des plus grandes entreprises spécialisées dans l’intelligence artificielle ont signé une pétition adressée au gouvernement des États-Unis. Leur objectif est simple sur le papier : ralentir volontairement le développement des modèles d’IA les plus avancés et mettre en place un cadre international capable d’encadrer cette course technologique.

Le texte, révélé par Bloomberg puis relayé par Engadget, évoque un risque bien réel. Les signataires estiment que les futurs systèmes pourraient dépasser notre capacité à les comprendre ou à les contrôler.

Le choix des mots n’est pas anodin. Ils ne parlent pas seulement de sécurité informatique. Ils évoquent aussi des outils de gouvernance, des protocoles techniques et une coopération internationale avant que les modèles de prochaine génération ne deviennent encore plus puissants.

Je trouve ce point intéressant. Beaucoup imaginent que les inquiétudes viennent uniquement des gouvernements. Ici, elles apparaissent directement chez les ingénieurs qui construisent ces systèmes tous les jours.

Pour autant, j’ai aussi du mal à ignorer une contradiction.

Depuis trois ans, ces entreprises accélèrent leurs investissements. Elles annoncent presque chaque semaine un nouveau modèle, un nouvel agent autonome ou une nouvelle infrastructure. Aujourd’hui, certains de leurs employés demandent soudainement de lever le pied. C’est un peu comme appuyer sur l’accélérateur pendant 300 kilomètres avant de chercher la pédale de frein.

Ce débat arrive alors que plusieurs incidents liés aux agents autonomes alimentent déjà les discussions sur leur sécurité. Nous évoquions récemment les enjeux autour des systèmes de protection dans notre article consacré à NVIDIA et son alliance pour la sécurité de l’IA, qui montre que la question dépasse largement OpenAI ou Google .

Les gouvernements peuvent-ils encore reprendre le contrôle ?

C’est probablement la vraie question.

En théorie, une régulation fédérale pourrait imposer des audits, des évaluations des risques ou des obligations de transparence avant le déploiement des modèles les plus puissants.

En pratique, le contexte est beaucoup moins simple.

Les entreprises concernées ont déjà investi des dizaines de milliards de dollars dans leurs centres de calcul. Les GPU, les accélérateurs IA et les infrastructures réseau sont commandés plusieurs années à l’avance. Revenir en arrière coûterait énormément d’argent.

À cela s’ajoute la concurrence internationale.

Les États-Unis, la Chine et plusieurs autres pays considèrent désormais l’IA comme un enjeu stratégique. Si un seul acteur ralentit fortement ses recherches, rien ne garantit que les autres suivront immédiatement.

C’est précisément pour cette raison que les signataires parlent d’un effort international plutôt que d’une simple réglementation américaine.

On reste pourtant sceptique.

Les accords internationaux fonctionnent lorsqu’ils sont contrôlables. Pour les modèles d’IA, les composants matériels, les jeux de données et les logiciels évoluent en permanence. Surveiller efficacement chaque laboratoire privé paraît beaucoup plus compliqué que contrôler une installation nucléaire ou une usine chimique.

Les récents incidents expliquent-ils ce changement de ton ?

Je pense que oui.

Ces derniers mois, plusieurs démonstrations d’agents autonomes ont montré des comportements inattendus. Certaines expériences sont restées anecdotiques. D’autres ont mis en évidence des problèmes plus sérieux liés aux autorisations, aux accès ou à l’exécution automatique de tâches.

D’ailleurs, plusieurs agents IA ont été essayés ces derniers mois sur une machine de test. Rien d’exotique : Visual Studio Code, quelques dépôts GitHub privés et un vieux classeur Excel rempli de macros VBA. L’agent s’est retrouvé bloqué sur une dépendance Python mal déclarée. Il a tenté trois corrections différentes avant de modifier un fichier qui n’avait absolument rien à voir. Ce n’était pas dangereux. C’était simplement révélateur. Beaucoup d’utilisateurs imaginent encore que ces outils comprennent parfaitement leur environnement. Ce n’est pas toujours le cas.

Ce genre de détail disparaît souvent dans les démonstrations marketing.

Il rappelle surtout qu’un agent autonome n’est pas un ingénieur expérimenté. C’est un système statistique capable de prendre des initiatives, parfois pertinentes, parfois complètement à côté.

Cette réalité explique aussi pourquoi la sécurité devient un sujet central. Chez GeekFlux, nous avons récemment analysé les conséquences possibles des agents capables d’agir directement sur les systèmes informatiques dans notre article consacré à ChatGPT Work, où l’autonomie grandissante des modèles soulève déjà plusieurs interrogations .

Les salariés à l’origine de cette pétition semblent considérer que les garde-fous actuels ne suffisent plus.

Ce constat risque d’alimenter les débats politiques pendant plusieurs mois.

Le plus étonnant reste peut-être le symbole. Voir des employés d’OpenAI, Google, Meta ou Anthropic demander publiquement davantage de contraintes pour leur propre secteur était encore difficile à imaginer il y a un an.

L’avis de GeekFlux

Je trouve cette pétition utile, mais très tardive. Les grands laboratoires découvrent soudain que la vitesse a un coût. Pourtant, cette accélération était visible depuis longtemps.

Je préfère voir des ingénieurs réclamer davantage de contrôle plutôt que de rester silencieux. En revanche, croire qu’une simple pétition suffira à ralentir une industrie portée par des dizaines de milliards de dollars me paraît optimiste.

La vraie bataille ne portera probablement pas sur l’IA elle-même. Elle concernera les méthodes de vérification, les audits techniques, la traçabilité des modèles et la responsabilité lorsque ces systèmes agiront de manière autonome. C’est beaucoup moins spectaculaire qu’une nouvelle IA, mais probablement bien plus important.

Source : engadget