OpenAI işten çıkardığı alt yüklenicileri veri etiketlemesinde AI kullanmaktan dolayı çıkardı

Şirket OpenAI AI'yi eğitmek ve modelleri etiketlemek için görevleri gerçekleştirmek amacıyla üçüncü taraf AI araçlarını kullanan bir grup çalışanın sözleşmelerini feshetti. Olay, insanların el ile oluşturulan içeriği kontrol etmesi ve düzeltmesi gereken sinir ağlarının cevap kalitesini iyileştirme programı kapsamında meydana geldi.

İç raporlara göre, alt yükleniciler cevapları oluşturmak için otomatik sistemler uyguladı ve bunları kendi emeklerinin sonuçları olarak sundu. Etiketleme görevlerini gerçekleştirmek için AI kullanmak, şirketin güvenlik protokollerini ihlal ediyor, çünkü bu, sentetik verilerin eğitim örneklerine girmesine neden oluyor ve bu da "model çökmesi" etkisini tetikleyebilir.

Tartışmalarda uzmanlar, benzer eylemlerin insanların geri bildirimlerine dayalı pekiştirme öğrenimi (RLHF) doğruluğunu düşürdüğünü belirtiyorlar. Bir model, başka bir model tarafından oluşturulan verilerle eğitildiğinde, önceki modelin hatalarını ve hayal gücünü miras alır, bu da son kullanıcılar için nihai sonucu daha az güvenilir hale getirir.

Şu anda OpenAI, veri doğrulama sürecindeki denetimi güçlendirdi. Şirket, tüm eğitim aşamalarının, kalite değerlendirmesiyle ilgili olanlar da dahil olmak üzere, yalnızca insan katılımıyla gerçekleşmesini, eğitim veri kümesinin otomatikleştirilmiş içerikle "zehirlenmesi" nedeniyle gelecekteki model sürümlerinin bozulma riskini ortadan kaldırmak için gerektiriyor.