AI-avatara Tilly Norwood kritik bir hata meydana geldi röportaj sırasında

Dijital avatar Tilly Norwood, kamuoyu önünde konuşma ve basınla etkileşim için tasarlandı, ancak yakın zamanda bir basın turu sırasında teknik bir arıza ile karşılaştı. Bir röportaj sırasında model aniden İngilizce'de soru cevaplamayı bırakarak Çince'ye geçti ve sistem stabilitesine ilişkin soruları gündeme getirdi.

Olay canlı yayında gerçekleşti ve doğal dil işleme algoritması kontrolsüz bir davranış sergiledi. TechCrunch'a göre geliştiriciler, "halüsinasyon" veya dil paketi geçiş mantığında arızanın nedenlerine ilişkin ayrıntılı bir rapor sunmadı. Şu anda bunun model ağırlıklarındaki bir hata mı yoksa bağlam uyarlama işini yapan promt mühendisliğinde bir arıza mı olduğu belirtilmedi.

Benzer olaylar, şirketlerin resmi temsilcileri olarak otonom AI ajanlarının kullanılmasındaki riskleri vurgulamaktadır. Kamuoyu önünde aniden dil değişikliği veya konuşma bağlamsal bütünlüğünün kaybı, itibar hasarına neden olmakta ve mevcut mimarilerin medya iletişimlerinde insanı tam olarak değiştirmeye hazır olup olmadığını sorgulamaktadır.

Teknik topluluk, sistemin günlüklerinin yayınlanmasını bekliyor, böylece bu durumun tekil bir hata mı yoksa avatar mimarisindeki sistemik bir zafiyet mi olduğunu anlamak istiyor. Olayların açıklığa kavuşmasıまで, benzer çözümlerin kritik iletişim alanlarında kullanımı sınırlı olabilir.