I ricercatori hanno presentato il protocollo PAC-2026 per la verifica delle pubblicazioni sull'intelligenza artificiale

Un gruppo di ricercatori ha pubblicato un lavoro che descrive il PAC-2026 (Publication-Accountability Calculus) - un protocollo progettato per garantire la verificabilità delle affermazioni fatte con l'aiuto dell'AI. Il sistema introduce il concetto di "autorità di pubblicazione" come un'azione atomica e non trasferibile, che richiede una catena completa di prove per confermare l'autenticità dei dati.

Il protocollo si basa sulla specifica SF-4 (bounded semantic freeze), che impone sei condizioni obbligatorie al processo di pubblicazione. Queste condizioni coprono la base di prova, la storia degli artefatti, la divulgazione dei metodi di misurazione e la continuità del ciclo di vita del modello. Il sistema esclude la possibilità di compensare un parametro mancante con un altro: per eseguire una transazione di pubblicazione è necessario avere un set completo e corretto di registri.

Durante il test del protocollo, i ricercatori hanno analizzato 110 764 stati di sistema sicuri. In 76 casi, le configurazioni sono state ritenute non sicure, il che ha portato a violazioni previste o alla generazione di contro-modelli. I test interni hanno mostrato che il protocollo riproduce con successo 17 stati di autorizzazione congelati e 240 osservazioni archiviate, garantendo una stretta corrispondenza tra la rappresentazione superficiale dei dati e la loro storia reale.

I sviluppatori sottolineano che il PAC-2026 non garantisce la verità effettiva del contenuto, ma ne garantisce la verificabilità e la responsabilità. Il protocollo separa l'orizzonte delle prove dal tempo di verifica, prevenendo la pubblicazione di dati che hanno superato la verifica di autenticità, ma non hanno una storia di autorizzazione causalmente valida. Questa soluzione è diretta a combattere il problema per cui le affermazioni dell'AI sembrano autorevoli, ma si basano su stati di dati disparati e non collegati tra loro.