ChatGPT’nin kullanıcıları kandırabileceği ortaya çıktı

ChatGPT’nin web tabanlı arama özelliğiyle ilgili yeni bir iddia ortaya atıldı.

Guardian’ın haberine nazaran, ChatGPT’nin yapay zeka desteğiyle internet üzerinden arama özelliğinin tamamen yanıltıcı özetler üreterek kullanıcıları kandırdığı ortaya çıktı.

ChatGPT’nin arama özelliği, bir web sayfasının eser yorumlarını özetlemek üzere şeyler yaparak gezinmeyi daha süratli hale getirmeyi amaçlıyor.

OLUMSUZ YORUMLARI GÖRMEZDEN GELİYOR

Ancak, ChatGPT’nin oluşturduğu web sitelerine gizli metinler ekleyerek olumsuz yorumları görmezden gelmesini ve tamamen olumlu özetler oluşturmasını sağlayabildiğini keşfetti.

ChatGPT Search’ün (Arama) bu tekniği kullanarak makûs maksatlı kodlar üretmesi de sağlanabiliyordu.

Bu çeşit zımnî metin hücumları büyük lisan modelleri için âlâ bilinen bir risktir, lakin bu birinci defa canlı bir yapay zeka dayanaklı arama eserinde gösterilmiş üzere görünüyor.

Ayrıca arama motoru devi Google’ın misal problemlerle başa çıkma konusunda daha fazla tecrübeye sahip olduğu belirtildi.

OpenAI, berbat niyetli web sitelerini engellemek için çeşitli usuller kullandığını ve daima olarak geliştiğini söyledi.