Uno studio ha rilevato una bassa accuratezza degli AI chatbot in materia finanziaria

L'edizione di Financial Times ha condotto un'ampia indagine, mostrando che i popolari chatbot AI forniscono risposte errate alle richieste finanziarie nella maggior parte dei casi. L'analisi ha riguardato la capacità dei modelli di interpretare i dati di mercato e fornire raccomandazioni corrette agli utenti.

Durante il test, gli esperti hanno posto alle reti neurali domande relative all'analisi dei bilanci delle società e alla previsione dei dati finanziari. I risultati hanno mostrato che i modelli spesso commettono errori di fatto, confondono i numeri nei bilanci e forniscono dati non aggiornati, che possono portare a perdite nell'adozione di decisioni di investimento.

Simili incidenti sottolineano il problema critico delle "allucinazioni" in domini specializzati. Nonostante la velocità di generazione del testo, le attuali architetture LLM non possiedono meccanismi di verifica dei dati finanziari integrati, il che rende il loro utilizzo come consulenti per la gestione del capitale estremamente rischioso.

La discussione dei risultati della ricerca è attivamente condotta nella comunità di Hacker News, dove gli utenti indicano la mancanza di accesso ai modelli ai database verificati in tempo reale. Gli specialisti notano che senza l'integrazione con API finanziarie affidabili, l'utilizzo dei chatbot per l'analisi degli asset rimane insicuro.

Questo studio mette in discussione gli attuali standard di sicurezza nell'implementazione dell'AI nel settore bancario e nei servizi fin-tech. Gli sviluppatori devono risolvere il problema della precisione delle risposte prima che tali strumenti possano aspirare al ruolo di consulenti finanziari completi.