“Forze negative” contro lo sviluppo dei sistemi dell’intelligenza artificiale. Il Presidente degli Stati Uniti Donald Trump, interpellato mentre si trovava al suo golf club irlandese di Doonbeg, ha risposto così alle preoccupazioni manifestate dai dirigenti delle big-tech dell’IA (in particolare Dario Amodei, amministratore delegato di Anthropic, a destra in copertina), i quali hanno sottolineato la necessità di rallentare, a livello globale, la corsa a modelli più avanzati di intelligenza artificiale per motivi di sicurezza e per valutarne i rischi (proposta che ha trovato l’appoggio di Sam Altman di OpenAI e di Elon Musk).
“Possiamo mettere dei sistemi di sicurezza, possiamo fare questo e quello, ma penso che ci siano molte forze negative che sollevano la questione e che non dovrebbero sollevarla, e tirano fuori cose che non succederanno. Siamo davanti alla Cina nell’AI, e sinceramente voglio che la situazione rimanga così, perché chiunque vinca nell’AI, vince” ha affermato il capo della Casa Bianca.
L’allarme di Dario Amodei
In un articolo pubblicato sul suo blog, Amodei ha parlato di uno scenario drammatico nel quale uno sviluppo eccessivo dei sistemi di IA potrebbe provocare una perdita del loro controllo, ma anche possibilità che compiano autonomamente attacchi informatici, dando il via a gravi conseguenze economiche.
“Senza un rallentamento, nel giro di 6-12 mesi, l’IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell’intero Internet“.
Nonostante ciò, Amodei evidenzia che “non dobbiamo farci prendere dal panico oggi e non significa che dobbiamo bloccare tutto“, ma che questo segnale di allarme deve farci capire che “dobbiamo rallentare“.
Per questo motivo l’AD di Anthropic ha proposto un piano di monitoraggio indipendente dei modelli di intelligenza artificiale durante il loro sviluppo, una regolamentazione a livello di settore e una regolamentazione globale.
Due casi avvenuti ad Anthropic
La sua dichiarazione arriva pochi giorni dopo alcune spinose vicende che hanno riguardato da vicino proprio Anthropic.
Nel primo caso il ricercatore Jacob Coxon ha deciso di lasciare il laboratorio che sviluppa Claude, sottolineando di non voler far parte di realtà che potrebbero dare impulso a sistemi in futuro difficilmente controllabili dall’uomo.
“Le persone che sviluppano l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di una mossa di marketing. Nessun’altra attività umana comporta un tale livello di pericolo”.
Nel secondo, invece, la stessa Anthropic ha dichiarato di aver bloccato diversi tentativi di ricercatori scientifici di utilizzare versioni di Claude in relazione a possibili attività legate allo sviluppo di armi biologiche.