Ricercatori hanno proposto il concetto di organizzazione a sciame per scalare l'AI

I ricercatori hanno pubblicato un'analisi dell'organizzazione del swarm, che consente di tradurre l'efficienza dei calcoli durante l'esecuzione (test-time compute) da una dipendenza sublineare a una superlineare. Il metodo prevede l'utilizzo della coordinazione di molti agenti per risolvere complessi problemi di calcolo.

Il fondamento di questo approccio è il rifiuto dei modelli monolitici in favore di sistemi distribuiti. Come esempio viene citato l'esperimento OpenAI, in cui un sistema di 10 000 agenti è stato utilizzato per risolvere le equazioni di Navier-Stokes. L'utilizzo di tale architettura consente di raggiungere risultati che non sarebbero accessibili con un semplice aumento della potenza di calcolo per un unico modello.

Il fattore chiave dell'efficienza è la coordinazione, in cui ogni agente esegue una sottotask specializzata. Ciò riduce gli oneri di elaborazione del contesto e consente al sistema di ridistribuire dinamicamente le risorse in base alla complessità dell'attuale fase di calcolo. L'applicazione dell'approccio del swarm dimostra il potenziale per superare i limiti della scalabilità tradizionale dei modelli.

Questo concetto cambia l'approccio alla progettazione dei sistemi AI, spostando l'accento dalle dimensioni dei parametri del modello all'organizzazione dell'interazione tra gli agenti. Ciò consente di utilizzare più efficacemente le risorse hardware disponibili, aumentando la precisione della risoluzione dei problemi senza la necessità di riaddestrare i modelli di base.