L’appel d’Anthropic à ralentir le développement des systèmes d’intelligence artificielle les plus avancés divise désormais ouvertement l’industrie. Alors qu’OpenAI soutient l’idée d’un rythme plus prudent, Meta estime que chaque laboratoire peut assurer sa propre sécurité. Mistral AI conteste de son côté des restrictions qui pourraient, selon l’entreprise française, renforcer la position des acteurs déjà dominants.
Quelques jours après l’appel de Dario Amodei à ralentir la progression des systèmes d’intelligence artificielle les plus avancés, les désaccords entre les principaux laboratoires deviennent plus visibles. Le dirigeant d’Anthropic défend notamment une meilleure coordination entre entreprises, des évaluations indépendantes et la possibilité de réduire le rythme de développement lorsque les capacités progressent plus vite que les mécanismes de sécurité. Sam Altman a par ailleurs soutenu ce principe de développement plus mesuré, tout en précisant qu’il ne s’agissait pas d’arrêter les progrès de l’IA.
Les positions divergentes sur la régulation de l'IA
Certains acteurs clés rejettent l’idée d’un ralentissement coordonné et insistent sur la responsabilité individuelle des laboratoires. Mark Zuckerberg, dirigeant de Meta, estime que chaque laboratoire possède déjà des raisons économiques et juridiques suffisantes pour développer ses modèles de manière responsable. Pour lui, des agents qui ne respecteraient pas les attentes de leurs utilisateurs perdraient leur intérêt commercial, et les entreprises pourraient être tenues responsables des dommages provoqués par leurs systèmes.
Meta utilise sa propre approche comme exemple. L’entreprise a en effet retardé le lancement de son agent Muse de plusieurs mois afin de renforcer sa sécurité, sans attendre qu’un accord similaire ne soit adopté par ses concurrents. Meta fait également appel à des évaluateurs indépendants dans divers domaines, une pratique que Zuckerberg souhaite voir se généraliser individuellement dans l’industrie.
La critique de Mistral AI : L'enjeu concurrentiel
Mistral AI a formulé une critique plus nuancée mais incisive. L’entreprise française reconnaît les risques associés aux modèles disposant d’une autonomie d’action et d’un accès à des outils externes, défendant un contrôle strict de ces accès. Toutefois, elle conteste l’idée que de nouvelles restrictions coordonnées constituent nécessairement la bonne réponse.
Dans une déclaration relayée par plusieurs médias français, Mistral estime que certains acteurs établis peuvent avoir intérêt à promouvoir des cadres réglementaires difficiles à respecter pour leurs concurrents. L’entreprise présente ainsi le débat non seulement comme une question de sécurité pure et simple, mais également comme un enjeu de concurrence et de contrôle du marché. Cette accusation est la position de Mistral AI et ne démontre pas que les appels d’OpenAI ou d’Anthropic répondent à une stratégie visant à limiter la concurrence.
De son côté, Jensen Huang, représentant Nvidia, défend l'idée que sécurité et rapidité d’innovation ne sont pas incompatibles. Il préconise plutôt que chaque entreprise ralentisse lorsqu’un produit spécifique n’est pas suffisamment sûr, au lieu d’imposer une décélération générale à l’ensemble de l’industrie.
Au-delà de la vitesse : un débat sur la gouvernance
Le débat dépasse désormais l'opposition simple entre accélération et sécurité. Anthropic et OpenAI privilégient davantage la coordination et l’évaluation commune, tandis que Meta insiste sur la responsabilité individuelle des laboratoires, et Mistral AI met en garde contre le risque de transformer les exigences de sécurité en barrières d’entrée commerciales.
Ainsi, derrière la question du rythme de développement de l'IA se dessine un second débat fondamental : déterminer qui doit fixer les règles et comment éviter que ces règles ne favorisent certains acteurs au détriment des autres.
