Un gruppo di hacker ha violato la base di codice di OpenAI con l'aiuto di Claude 3 Opus

Tre ricercatori di sicurezza hanno violato con successo la base di codice principale di OpenAI, utilizzando le funzionalità del modello Claude 3 Opus. L'incidente è avvenuto nel giro di poche ore dopo il rilascio pubblico del modello, consentendo agli aggressori di accedere a dati di ricerca critici e codice di produzione dell'azienda.

Per eseguire l'attacco, gli hacker hanno speso meno di $3000 in potenza di calcolo. L'utilizzo di LLM ha consentito di automatizzare il processo di ricerca delle vulnerabilità e di analisi delle complesse scelte architettoniche, che in precedenza richiedevano notevoli sforzi temporali da parte degli specialisti della sicurezza informatica.

Durante l'operazione, i partecipanti al gruppo sono stati in grado di aggirare i protocolli di protezione standard, sfruttando la capacità del modello di scrivere rapidamente exploit e interpretare dati di sistema chiusi. L'accesso ottenuto ha coperto quasi tutti i repository chiave, compresi gli strumenti di sviluppo interni e le configurazioni infrastrutturali.

Questo caso dimostra i nuovi rischi associati all'utilizzo di modelli generativi avanzati a scopo offensivo. Il costo dell'attacco, inferiore a $3000, sottolinea l'accessibilità degli strumenti per condurre grandi operazioni di cyberdiversione contro corporation ad alta tecnologia.

L'incidente solleva interrogativi sui metodi di protezione attuali del codice proprietario dagli agenti AI. Gli sviluppatori devono rivedere gli approcci alla sicurezza, considerando che i modelli moderni sono in grado di trovare errori critici nel codice più rapidamente dei scanner di vulnerabilità automatizzati della generazione precedente.