Ricercatori hanno utilizzato Claude per violare i sistemi OpenAI

Un gruppo di specialisti della sicurezza informatica ha applicato con successo il modello Claude della società Anthropic per trovare ed exploitare le vulnerabilità nell'infrastruttura di OpenAI. Nel corso dell'esperimento, gli esperti hanno ottenuto l'accesso non autorizzato agli account dei dipendenti e al repository interno del codice sorgente della società.

Durante l'attacco, la rete neurale ha analizzato la struttura dei sistemi e ha aiutato ad automatizzare la scrittura di exploit per aggirare i meccanismi di protezione. L'utilizzo dell'intelligenza artificiale generativa ha permesso ai ricercatori di ridurre il tempo di ricerca dei vettori di attacco critici, che in precedenza erano rimasti inosservati dagli strumenti di scansione standard.

Dopo la fine dell'operazione, il team ha trasmesso un rapporto sulle vulnerabilità di sicurezza trovate ai rappresentanti di OpenAI per il loro tempestivo risolvimento. L'incidente conferma la possibilità di utilizzare i LLM come strumento attivo per condurre complesse operazioni di attacco informatico, che richiedono un'analisi approfondita del codice e della logica di interazione dei servizi.

Questo caso sottolinea la necessità di rivedere i protocolli di sicurezza per le grandi aziende di intelligenza artificiale. Gli sviluppatori di sistemi sono ora costretti a considerare non solo i metodi di hacking tradizionali, ma anche la capacità delle reti neurali di trovare vulnerabilità non standard negli ambienti aziendali chiusi.