TypeSafe ha presentato il modello non generativo Jev per il controllo dell'AI

L'azienda TypeSafe ha presentato Jev — un modello non generativo specializzato per il monitoraggio e il controllo della sicurezza dei sistemi AI. Lo strumento è orientato alla rilevazione di codice maligno o "backdoor" che può essere inserito durante il funzionamento delle reti neurali.

Durante i test, il sistema ha dimostrato una precisione di rilevamento delle minacce del 90% con un tasso di falsi positivi del 2%. Il costo della verifica è di $0.04 per 1000 richieste, rendendo la soluzione uno strumento economicamente efficiente per l'integrazione nei pipeline di sviluppo.

I risultati del lavoro di Jev sono paragonabili a quelli del modello o3-mini, che utilizza il metodo della catena di ragionamento (CoT). A differenza dei modelli generativi, l'architettura di Jev esclude il rischio di allucinazioni durante l'analisi del codice, garantendo un approccio deterministico alla verifica dei dati.

L'utilizzo di sistemi non generativi come "osservatore fidato" consente di ridurre i rischi di sfruttamento delle vulnerabilità negli agenti AI. La sviluppo è finalizzata alla creazione di un livello di controllo indipendente, che non dipende dalla natura probabilistica dei grandi modelli linguistici e può essere implementato in progetti infrastrutturali critici.