Ricercatori hanno valutato i rischi di biosicurezza nell'uso dell'AI

Un gruppo di scienziati ha pubblicato un'ampia revisione dedicata all'impatto dei modelli generativi sulla ricerca biologica e alle potenziali minacce alla sicurezza. Il lavoro analizza come LLM e modelli biologici specializzati possono essere utilizzati per la pianificazione degli esperimenti, la generazione di sequenze di proteine e l'automatizzazione dei cicli di laboratorio.

Gli autori notano che i sistemi attuali sono già in grado di superare gli esperti in compiti in-silico e metodi di elusione dei sistemi di screening. Tuttavia, la realizzazione fisica di minacce biologiche rimane una sfida complessa a causa della mancanza di "conoscenze implicite" e delle limitazioni nel lavoro in laboratori "umidi" reali. La ricerca sottolinea che il rischio dipende non solo dalle capacità dell'AI, ma anche dalle intenzioni dell'utente, dal suo accesso ai materiali e dalla presenza di meccanismi di difesa.

Nell'articolo si critica l'approccio attuale alla sicurezza: i metodi di allineamento (alignment), efficaci per i modelli generici, si adattano male ai sistemi biologici. I ricercatori propongono di implementare una strategia di defense-in-depth, che collega le soglie delle capacità dei modelli con la responsabilità proporzionale degli sviluppatori. Ciò dovrebbe aiutare a ridurre i rischi della creazione di patogeni pericolosi, preservando i vantaggi per la medicina e la biotecnologia.

Un'attenzione particolare è rivolta al ruolo dell'interpretazione dei modelli nel controllo delle abilità pericolose. Gli autori insistono sulla necessità di creare strumenti in grado di verificare l'assenza di funzioni dannose nei modelli biologici di base. Il lavoro è distribuito con licenza arXiv e definisce un vettore per gli standard di regolamentazione futuri nel settore dell'AI-biotecnologia.