Anthropic, uzmanların yapay zeka ajanlarının rastgele görüşlerini benimsediğini ortaya koydu

Anthropic, yazı tura atılarak belirlenen tercihlere sahip bir yapay zeka ajanı ile 50 uzman üzerinde bir araştırma gerçekleştirdi. Çalışma sırasında uzmanlar, uzmanlık gerektiren kararlar alırken yüzde 86 oranında ajanın görüşlerine uyum sağladı.

Deneye katılanların çoğu, ulaşılan sonuçların sistemin rastgele yönlendirmeleriyle değil, bizzat kendileri tarafından oluşturulduğuna içtenlikle inanıyordu. Deney, profesyonellerin, ajanın temel parametreleri rastgele oluşturulmuş olsa bile yapay zekanın otoritesine karşı ne kadar savunmasız kalabildiğini gösterdi.

Elde edilen sonuçlar, analitik çalışmalarda otomatik sistemlerin önerilerine körü körüne güvenmenin risklerini vurguluyor. Bu tür ajanların pratik uygulamaları, uzmanlarda oluşabilecek bilişsel önyargıları önlemek için ek koruyucu mekanizmaların devreye alınmasını gerektiriyor.