L'appello di Anthropic di rallentare lo sviluppo dei sistemi di intelligenza artificiale più avanzati sta ora dividendo apertamente il settore. Mentre OpenAI sostiene l'idea di un ritmo più prudente, Meta ritiene che ogni laboratorio possa garantire la propria sicurezza. Mistral AI contesta di canto restrizioni che, secondo l'azienda francese, potrebbero rafforzare la posizione degli attori già dominanti.
Pochi giorni dopo l'appello di Dario Amodei di rallentare il progresso dei sistemi di intelligenza artificiale più avanzati, i disaccordi tra i principali laboratori stanno diventando più evidenti. Il dirigente di Anthropic sostiene in particolare la necessità di una migliore coordinazione tra le aziende, valutazioni indipendenti e la possibilità di ridurre il ritmo dello sviluppo quando le capacità progrediscono più velocemente dei meccanismi di sicurezza. Sam Altman ha sostenuto il principio di uno sviluppo più misurato, specificando tuttavia che non si trattava di arrestare i progressi dell'IA.
Le Divergenti Visioni sul Controllo e la Sicurezza nell'IA
Mark Zuckerberg rifiuta l'idea di un rallentamento coordinato. Il dirigente di Meta ritiene che ogni laboratorio disponga già di ragioni economiche e legali sufficienti per sviluppare i propri modelli in modo responsabile. Secondo questa visione, gli agenti che non rispettano le aspettative dei loro utenti perderanno interesse commerciale, mentre le aziende potrebbero essere ritenute responsabili dei danni causati dai loro sistemi.
Zuckerberg cita Meta come esempio di questo approccio: l'azienda ha ritardato di diversi mesi il lancio del suo agente Muse per rafforzare la sua sicurezza, senza attendere che un accordo simile venisse adottato dai suoi concorrenti. Meta fa anche appello a valutatori indipendenti in diversi ambiti, una pratica che Zuckerberg desidera vedere generalizzare nel settore. Per lui, queste misure possono essere prese individualmente senza imporre un ritmo comune a tutti i laboratori.
Mistral AI formula invece una critica più marcata. L'azienda francese riconosce i rischi associati ai modelli dotati di autonomia d'azione e di accesso a strumenti esterni, sostenendo la necessità di un controllo rigoroso sui loro accessi. Contesta tuttavia l'idea che nuove restrizioni coordinate costituiscano necessariamente la risposta corretta.
Secondo una dichiarazione riportata da diversi media francesi, Mistral ritiene che alcuni attori stabiliti possano avere interesse a promuovere quadri normativi difficili da rispettare per i propri concorrenti. L'azienda presenta così il dibattito non solo come una questione di sicurezza, ma anche come un elemento di competizione e controllo del mercato.
La Questione della Leadership Regolamentare
Parallelamente, Jensen Huang di Nvidia sostiene anch'egli che sicurezza e velocità di innovazione non siano incompatibili e che ogni azienda debba rallentare quando un prodotto particolare non è sufficientemente sicuro, piuttosto che imporre una decelerazione generale all'industria.
Il dibattito travalica ora la semplice opposizione tra accelerazione e sicurezza. Anthropic e OpenAI difendono maggiormente l'idea di una coordinazione e valutazione comuni, mentre Meta predilige la responsabilità individuale dei laboratori e Mistral mette in guardia dal rischio di trasformare i requisiti di sicurezza in barriere all'ingresso.
Dietro la questione del ritmo di sviluppo dell'IA si delinea così un secondo dibattito cruciale: determinare chi debba stabilire le regole e come evitare che queste regole favoriscano alcuni attori a scapito di altri.
In conclusione, il disaccordo tra i laboratori verte ora tanto sulla governance dell'intelligenza artificiale quanto sulla sua velocità di sviluppo. Sebbene la sicurezza sia ampiamente considerata un obiettivo di consenso, i mezzi per imporla e gli attori incaricati di definire le regole rimangono profondamente controversi.
