Google Gemini yüklenicilerinin bilmedikleri yanıtları değerlendirmek zorunda kaldıkları bildirildi

Tüm genAI modellerinde olduğu benzer biçimde, Google Gemini yanıtları da kimi zaman hatalı olabilir, sadece bu durumda bunun sebebi, kontrol uzmanlarının bu tarz şeyleri doğrulayacak uzmanlığa haiz olmaması olabilir.

TechCrunch'a bakılırsa Gemini'nin doğruluğunu çoğaltmak için işe alınan şirket, artık kontrol uzmanlarının “alan bilgisine” haiz olmasalar bile yanıtları değerlendirmesini sağlıyor.

Rapor, Google'ın Gemini'yi doğruluk açısından kontrol ederken uyguladığını söylediği titizlik ve standartlar hakkında soruları gündeme getiriyor. Gemini 2.0'ın “Görevli bir halde inşa etmek” bölümünde duyuruGoogle, “güvenilir kontrol uzmanları ve harici uzmanlarla çalıştığını ve kapsamlı risk değerlendirmeleri ile güvenlik ve güvence değerlendirmeleri yaptığını” söylemiş oldu. Kırılgan ve zararı olan içeriğe yönelik yanıtların değerlendirilmesine makul bir halde odaklanılıyor, sadece ne olursa olsun tehlikeli olmayan sadece yalnızca hatalı olan yanıtlara daha azca dikkat ediliyor.

Google, “Gemini hata yapabilir, bu yüzden onu iki kez deneyin” şeklinde bir mesuliyet reddi beyanı ilave ederek halüsinasyon ve hata sorununu göz ardı ediyor benzer biçimde görünüyor, bu da onu her türlü sorumluluktan etkili bir halde kurtarıyor. Sadece bu, perde arkasında işi icra eden insanları hesaba katmıyor.

Daha ilkin Hitachi'nin bir yan kuruluşu olan GlobalLogic, süratli mühendislerine ve analistlerine, tam olarak anlamadıkları bir Gemini yanıtını atlamaları emirini vermişti. Çıkış tarafınca görüntülenen yönergelerde, “Bu istemi derecelendirecek tehlikeli sonuç uzmanlığınız (örn. kodlama, matematik) yoksa, lütfen bu görevi atlayın” dedi.

Sadece geçen hafta GlobalLogic, “Hususi alan bilgisi gerektiren istemleri atlamamalısınız” ve bunun yerine “data isteminin anladığınız bölümlerini derecelendirin” diyerek talimatlarını değiştirdi ve bu mevzuda lüzumlu uzmanlığa haiz olmadıklarını ihmal etmeyin. onların analizi. Doğrusu uzmanlık bu işin ön koşulu olarak görülmüyor.

TechCrunch'a bakılırsa yükleniciler artık yalnızca “tamamen noksan data” içeren yada onay formu gerektiren duyarlı içerik içeren istemleri atlayabilir.