I modelli open source hanno ridotto il divario con quelli proprietari a 4 mesi

Il progetto di ricerca State of Open Source AI ha pubblicato un rapporto secondo cui il divario di prestazioni tra i modelli frontier chiusi e gli analoghi aperti si è ridotto a 4 mesi. L'analisi mostra che l'utilizzo di API a pagamento costa alle aziende 5 volte di più per ottenere solo un vantaggio marginale nella velocità di accesso alle funzionalità avanzate.

Nel corso della ricerca, gli esperti hanno confrontato le metriche dei sistemi proprietari leader con le soluzioni aperte presentate sulla piattaforma Artificial Analysis. È emerso che i modelli aperti, comprese le sviluppi della Cina, mostrano risultati comparabili nei compiti di codifica e inferenza logica. Allo stesso tempo, il costo di esercizio dei modelli aperti con hosting autonomo si rivela sostanzialmente inferiore ai costi di abbonamento alle soluzioni cloud frontier.

I dati di Ars Technica confermano che i ritmi di riaddestramento e ottimizzazione delle architetture aperte consentono loro di raggiungere i modelli flagship della Silicon Valley in un solo trimestre. Il principale driver di questo processo è stata la disponibilità di set di dati di alta qualità e metodi di distillazione delle conoscenze, che in precedenza erano un vantaggio esclusivo delle grandi corporation.

Per le aziende, ciò significa un cambiamento nella strategia di scelta dell'infrastruttura. Se in precedenza l'utilizzo di API chiuse era l'unico modo per accedere ai risultati SOTA, ora le aziende possono passare a modelli aperti locali o cloud senza perdita di qualità, risparmiando fino all'80% del budget per l'inferenza. Il mercato sta passando da un monopolio di sistemi proprietari a un modello in cui il vantaggio di 4 mesi diventa l'unico argomento a favore delle sottoscrizioni a pagamento.