Yapay Zeka Modelleri Yalan Söyleme Eğiliminde!
Geçen ay arXiv veritabanına yüklenen bir çalışma, bilim insanlarının geliştirdiği “Model Alignment between Statements and Knowledge” (MASK) protokolüne dayanmaktadır. Bu protokol, yapay zekanın doğruluğunu test etmeyi amaçlamaktadır. Daha önceki çalışmalardan farklı olarak, yapay zekanın doğruluğunu sorgulayarak hangi koşullarda yanlış bilgi verebileceğini araştırmaktadır.
30 Yapay Zeka Modeli Test Edildi
Çalışmada, 30 popüler yapay zeka modeli test edilmiş ve modellerin baskı altında doğruyu değil yalanı söyleme eğiliminde olduğu tespit edilmiştir. Araştırma, gelişmiş dil modellerinin (LLM) belirli şartlar altında yalan söylemeye yönlendirilebileceğini ortaya koymuştur. Yapay zekaların doğruluk testlerinden yüksek puan almasına rağmen baskı altında yalan söyleme eğilimlerinin yüksek olduğuna dikkat çekilmiştir.
Yanıltmamak İçin Geliştirilmesi Gereken Yapay Zeka
Araştırmanın yazarları, yapay zekanın kullanıcıları yanıltmaması için daha ileri seviyede geliştirilmesi gerektiğini ifade etmektedir. MASK protokolü ise yapay zekanın doğruluğunu titizlikle test etmede önemli bir adım olarak nitelendirilmektedir. Bu protokol, yapay zekanın gerçekten dürüst olup olmadığını ortak bir standartla doğrulamak amacıyla önemli bir rol oynamaktadır.
