Anthropic e Accenture investono 2 miliardi di dollari nella valutazione della sicurezza dei modelli

Anthropic ha concluso un partenariato strategico con la divisione Faculty di Accenture per implementare sistemi di valutazione della sicurezza indipendenti per i modelli. Le aziende intendono integrare gli esperti di valutazione direttamente nei processi di sviluppo e testing delle architetture.

Nell'ambito dell'accordo quinquennale, ogni parte si impegna a investire almeno $1 miliardo. Il budget complessivo del programma di $2 miliardi sarà utilizzato per creare un'infrastruttura per verificare che i modelli soddisfino gli standard di sicurezza, etica e resistenza agli impatti non autorizzati.

L'obiettivo principale dell'iniziativa è implementare metodi di "valutazione integrata" (embedded evaluation), in cui gli esperti di sicurezza lavorano in parallelo con gli ingegneri sviluppatori. Ciò consentirà di identificare vulnerabilità e rischi nelle fasi iniziali dell'addestramento, anziché dopo il rilascio finale del prodotto.

Il programma include il testing dei modelli per quanto riguarda pregiudizi, allucinazioni e potenziali minacce per la sicurezza informatica. Gli specialisti di Accenture utilizzeranno metodologie proprietarie per verificare che i sistemi di Anthropic soddisfino i parametri di sicurezza dichiarati in scenari di utilizzo aziendale reale.

Questa collaborazione segna il passaggio da un audit esterno a un modello di integrazione profonda del controllo della qualità nel ciclo di vita dello sviluppo dell'AI. Un approccio del genere è destinato a aumentare la fiducia nelle grandi modelli linguistici quando vengono implementati in processi aziendali critici e strutture governative.