Anthropic ha scelto Accenture per valutare la sicurezza dei suoi modelli

Anthropic ha concluso un accordo con la società di consulenza Accenture, che diventerà il primo partner esterno per la valutazione della sicurezza e dell'affidabilità dei modelli in sviluppo. Nel quadro della collaborazione, gli specialisti della società condurranno un audit indipendente dei sistemi prima del loro rilascio pubblico.

Il programma prevede l'integrazione di esperti nei processi di testing, dove verificheranno i modelli per la resistenza alle minacce informatiche, la parzialità e la conformità agli standard etici. Questo è il primo caso in cui uno sviluppatore di livello Anthropic delega le funzioni di "valutatore incorporato" a un'organizzazione esterna che lavora con clienti aziendali.

Durante i controlli saranno utilizzati set di dati chiusi e scenari di attacco specifici progettati per rilevare vulnerabilità nell'architettura LLM. I risultati dell'audit saranno presi in considerazione per le decisioni relative al rilascio di aggiornamenti per gli utenti finali e il settore aziendale.

La collaborazione è finalizzata a ridurre i rischi nell'implementazione delle soluzioni di intelligenza artificiale in settori critici come le finanze e la sanità. In precedenza, tali verifiche erano condotte principalmente dalle squadre di sicurezza interne, tuttavia la crescita della complessità dei modelli ha richiesto il coinvolgimento di esperti esterni per la verifica indipendente.

Questo passo riflette la tendenza generale nel settore, dove le aziende cercano di aumentare la trasparenza delle loro sviluppi attraverso partnership esterne. L'utilizzo di revisori esterni consente ad Anthropic di confermare l'affidabilità dei propri sistemi per grandi clienti aziendali, che richiedono garanzie di sicurezza rigorose prima di implementare le tecnologie nei loro processi di lavoro.