L’azienda di intelligenza artificiale Anthropic ha dichiarato di aver bloccato, negli ultimi mesi, diversi tentativi da parte di ricercatori scientifici di utilizzare versioni del suo software Claude in relazione a possibili attività legate allo sviluppo di armi biologiche (in copertina: immagine di repertorio creata con l’intelligenza artificiale).
La società, concorrente di OpenAI, ha spiegato che i casi evidenziano una delle principali difficoltà legate all’impiego dell’intelligenza artificiale nella ricerca scientifica: distinguere le richieste legittime da quelle potenzialmente pericolose quando le stesse conoscenze possono essere utilizzate per scopi diversi.
Cinque casi segnalati
In un rapporto dedicato ai tentativi di uso improprio dei propri modelli di AI, Anthropic ha individuato cinque episodi collegati a possibili ricerche nel campo delle armi biologiche.
Secondo l’azienda, i ricercatori coinvolti non avrebbero richiesto direttamente assistenza per attività scientifiche specifiche. In alcuni casi, infatti, l’utilizzo di Claude sarebbe stato indirizzato soprattutto verso attività di supporto organizzativo, come la stesura di documenti.
Anthropic ha inoltre affermato che tra le persone coinvolte vi sarebbero scienziati provenienti da regioni con accesso limitato ai sistemi di AI sviluppati da aziende statunitensi, compresi alcuni soggetti collegati a enti governativi locali.
La società non ha reso noti né gli istituti di ricerca coinvolti né i Paesi nei quali avrebbero sede.
Il problema delle intenzioni
I modelli di intelligenza artificiale vengono generalmente progettati per rifiutare richieste che possano facilitare lo sviluppo di armi biologiche. Tuttavia, secondo Anthropic, non sempre è possibile individuare con certezza l’intenzione alla base di una richiesta.
Una stessa ricerca scientifica può infatti avere applicazioni mediche e, allo stesso tempo, potenziali utilizzi militari. Questo rende particolarmente complesso stabilire dove finisca l’impiego legittimo dell’AI e dove inizi un possibile uso malevolo.
La società ha quindi evidenziato come la valutazione del contesto e delle finalità della ricerca rappresenti una delle principali sfide per i sistemi di sicurezza dei modelli di intelligenza artificiale.
Il caso del virus
Tra gli episodi bloccati da Anthropic figura quello di un ricercatore che avrebbe tentato di utilizzare Claude per preparare una richiesta di finanziamento relativa a una ricerca su un virus.
Il progetto prevedeva la cosiddetta ricerca di “acquisizione di funzione”, o gain-of-function, un approccio finalizzato ad aumentare determinate caratteristiche di un agente patogeno, tra cui la trasmissibilità.
Si tratta di una metodologia utilizzata anche nella ricerca scientifica per studiare i patogeni e sviluppare possibili contromisure. Allo stesso tempo, proprio per la natura delle modifiche che può comportare, può presentare applicazioni potenzialmente legate allo sviluppo di armi biologiche.
L’AI nella ricerca
I casi descritti da Anthropic mostrano quindi una questione più ampia rispetto al semplice blocco di richieste pericolose. L’intelligenza artificiale viene sempre più utilizzata come strumento di supporto alla ricerca scientifica, anche attraverso attività apparentemente non direttamente collegate alla realizzazione di un esperimento.
La possibilità di utilizzare i modelli per scrivere documenti, organizzare informazioni o preparare richieste di finanziamento può infatti inserirsi all’interno di progetti con finalità molto diverse tra loro.
Per Anthropic, questo rende necessario un sistema di controllo capace non solo di riconoscere determinate richieste, ma anche di valutare il contesto nel quale vengono formulate.
LEGGI ANCHE: Intelligenza artificiale fuori controllo? Ricercatore di Anthropic lascia l’azienda: “Rischiamo scenari estremi”