In quest’ultimo periodo l’allarmismo sull’intelligenza artificiale sembra aver raggiunto un picco. Non solo avvertimenti da parte dei vertici delle big-tech del settore, ma anche episodi di comportamenti inattesi da parte dei modelli IA nei test e in situazioni reali (come ad esempio violazione di sistemi di sicurezza), circostanza che sta alimentando la preoccupazione riguardo sviluppi incontrollati. Ecco perché recentemente si è cominciato a parlare della necessità di una regolamentazione globale che porti avanti la ricerca, ma che metta dei paletti per limitare pericolosi rischi (in copertina: immagine di repertorio).
Anthropic avverte sui rischi esistenziali dell’IA per l’umanità
Conseguenze che addirittura vengono definite potenzialmente catastrofiche, qualora l’IA riesca a sfuggire completamente al controllo umano. Ecco perché, come riferito dal Financial Times, nel prospetto informativo IPO redatto in vista quotazione in Borsa, Anthropic ha avvertito gli investitori che la sua tecnologia potrebbe “comportare rischi esistenziali per l’umanità“.
Il quotidiano britannico, che ha preso visione del documento, aggiunge che un terzo del prospetto è dedicato ai fattori di rischio connessi ai modelli IA più avanzati, tra cui possibili comportamenti imprevedibili dei sistemi, inclusi tentativi di manipolazione, ricatto e altre condotte non intenzionali.
Nella documentazione si parla anche di dati finanziari: lo scorso anno Anthropic avrebbe perso 8 miliardi di dollari, a fronte di ricavi pari a 4,6 miliardi di dollari e spese operative di quasi 13 miliardi. Nell’anno in corso, tuttavia, ricavi e investimenti sono cresciuti: nel secondo trimestre il fatturato avrebbe raggiunto 11,5 miliardi di dollari, con tanto di accordi per centinaia di miliardi di dollari per assicurarsi potenza di calcolo.
OpenAI rimanda il lancio di un modello per “timori di sicurezza”
Un’altra impresa tra le più grandi del settore IA, invece, ha deciso di rinunciare al lancio di un suo nuovo modello. Stiamo parlando di OpenAI, big-tech di ChatGPT che, come affermato dal Wall Street Journal, ha rimandato il debutto del modello GPT-6.1 Astra, previsto per ottobre, per “timori di sicurezza“.
Il modello, come riferito dal quotidiano newyorkese, era più capace delle sue versioni precedenti nello svolgimento autonomo di compiti complessi, tuttavia OpenAI ha deciso di non renderlo pubblico. Saachi Jain, responsabile dei sistemi di sicurezza, ha spiegato che GPT-6.1 Astra ha mostrato un peggioramento rispetto al predecessore in due aree legate all’allineamento, cioè alla capacità del modello di comportarsi secondo le aspettative e le istruzioni umane.
Da un lato ha mostrato livelli più elevati di comportamento ingannevole e non ha sempre comunicato correttamente agli utenti cosa aveva o non aveva fatto. Dall’altro il modello tendeva talvolta a proseguire nell’esecuzione di un compito senza chiedere il permesso all’utente e a utilizzare strumenti o servizi esterni anche in situazioni potenzialmente non sicure.
Sebbene GPT-6.1 Astra abbia fatto progressi nel ridurre la “pigrizia”, cioè la tendenza a cercare scorciatoie o interrompere prematuramente compiti complessi, il modello non ha raggiunto standard fissati da OpenAI in materia di sicurezza. Per questo motivo, la società di Sam Altman ha deciso di concentrare il lavoro sul miglioramento della sicurezza dei prossimi modelli.