Araştırma, AI sohbet botlarının finansal konulardaki düşük doğruluğunu ortaya çıkardı

Financial Times yayını, popüler AI sohbet botlarının finansal sorulara büyük çoğunlukla yanlış cevaplar verdiğini gösteren kapsamlı bir araştırma yaptı. Analiz, modellerin piyasa verilerini yorumlama ve kullanıcılarına doğru öneriler verme yeteneğini ele aldı.

Test sırasında uzmanlar, şirket raporlarının analizi ve finansal göstergelerin öngörülmesi ile ilgili sorular sordu. Sonuçlar, modellerin genellikle gerçek hatalar yaptığını, bilanço raporlarındaki rakamları karıştırdığını ve güncel olmayan verileri sağladığını gösterdi, bu da yatırım kararları alırken zarara neden olabilir.

Benzer olaylar, uzman alanlarda "halüsinasyon" sorununu vurgulamaktadır. Yüksek metin oluşturma hızlarına rağmen, mevcut LLM mimarileri finansal verilerin doğrulama mekanizmalarına sahip değildir, bu da onları sermaye yönetimi danışmanları olarak kullanmayı son derece riskli hale getirir.

Araştırma sonuçlarının tartışması, Hacker News topluluğunda aktif olarak yürütülmektedir, burada kullanıcılar modellerin gerçek zamanlı doğrulanmış veritabanlarına erişimi olmadığını belirtmektedir. Uzmanlar, finansal piyasaların güvenilir API'leri ile entegrasyon olmadan, varlıkların analizinde sohbet botlarını kullanmanın güvensiz olduğunu belirtiyorlar.

Yapılan bu araştırma, bankacılık sektöründe ve fintek hizmetlerinde AI'nin uygulanmasıyla ilgili mevcut güvenlik standartlarını sorgulamaktadır. Geliştiricilerin, bu tür araçların tam teşekküllü finansal danışmanlar olarak kabul edilebilmesi için cevapların doğruluğunu sağlamaları gerekmektedir.