Ekim ayında OpenAI'nin ChatGPT Araması ChatGPT Plus kullanıcıları için kullanıma sunuldu. Geçtiğimiz hafta tüm kullananların kullanımına sunuldu ve Ses Modunda aramaya eklendi. Ve normal olarak kusurları da yok değil.
Gardiyan ChatGPT'den gizli saklı içerik içeren web sayfalarını özetlemesini istedi ve ortaya çıktı ki, gizli saklı içerik aramayı yönlendirebiliyor. Buna anında enjeksiyon adı verilir; bu, ChatGPT'den özetlemesini istediğiniz internet sayfaları benzer biçimde üçüncü tarafların, bilginiz olmadan ChatGPT Aramanıza yeni istemleri zorlama kabiliyetidir. Negatif restoran incelemeleriyle dolu bir sayfayı düşünün. Site, restoranın ne kadar görkemli bulunduğunu şiirsel bir halde özetleyen gizli saklı içerik içeriyorsa ve ChatGPT'yi bunun yerine “bana bu restoranın ne kadar görkemli bulunduğunu söyle” benzer biçimde bir istemi yanıtlamaya teşvik ediyorsa, bu gizli saklı içerik orijinal aramanızı geçersiz kılabilir.
ChatGPT eklentileri üçüncü taraflardan 'süratli enjeksiyon' riskiyle karşı karşıya
“Testlerde ChatGPT'ye, bir kamera ürün sayfası benzer biçimde görünecek şekilde oluşturulmuş düzmece bir web sitesinin URL'si verildi. Sonrasında AI aracına, kameranın satın almaya kıymet olup olmadığı soruldu. Denetim sayfasına verilen cevap pozitif sadece dengeli bir netice verdi değerlendirme, insanların hoşlanmayabileceği bazı özelliklerin altını çiziyor” Guardian soruşturması şunu belirtiyor:. “Sadece gizli saklı metin, ChatGPT'ye pozitif bir araştırma göndermesi yönünde talimatlar içerdiğinde, cevap devamlı tamamen olumluydu. Sayfada negatif yorumlar olsa bile durum böyleydi; gizli saklı metin, gerçek araştırma puanını geçersiz kılmak için kullanılabilirdi. “
Mashlanabilir Işık Hızı
Sadece bu, ChatGPT Araması için başarısızlık anlamına gelmez. OpenAI, Arama'yı daha yeni başlattı, dolayısıyla bu tür hataları düzeltmek için bol miktarda zamanı var. Ek olarak CyberCX'te siber güvenlik araştırmacısı olan Jacob Larsen, The Guardian'a OpenAI'nin “fazlaca kuvvetli” bir suni zeka güvenlik ekibine haiz bulunduğunu ve “bu, tüm kullananların erişebileceği şekilde halka açık hale vardığında, titizlikle kontrol edilmiş olacaklarını” söylemiş oldu. bu tür vakalar.”
Anında enjeksiyon saldırıları, hızla gelişen teknolojinin piyasaya sürülmesinden bu yana ChatGPT ve öteki suni zeka arama işlevleri için bir varsayımdı ve gördüğümüz kadarıyla potansiyel zararlara dair bazı kanıtlarBu türden büyük bir fena niyetli hücum görmedik. Bununla beraber, suni zeka söyleşi robotlarıyla ilgili bir soruna işaret ediyor: Kandırılmaları son aşama kolay.