Open Al"ın son arastırma ChapGpt modelinin vardiği cevaplardan kullanıcı isimlerine göre bağlı olarak değisebileceği ortaya koydu .Yapılan araştırmaya göre kullanıcıların isimlerini özellikle cinsiyet ırk ve din ve etnik kökenle ilişkilendirdiğinde yapay zekanın yanıtlarında bazı farklar ortaya çıkabiliyor . Open All in 53 sayfalık raporu bu farklılıkları nadir olduğunu belirtsede ortaya entrasan bulgular cıktı .
ChatGPT Ön yargılı mı davranıyor ? Verdiği Yanıtlar İsimlere Göre Değisiyor
Arastırmaya göre örneğin aynı bu soruyu soran farklı isimlerle sahiib bircok kullanıcı olcukça farklı cevaplar alabiliyor .Bir kullanıcı elektirik ve mühendislik projeleri ilre ilgili öneriler alırken diğer kullanıcıya yemek tarifleri gibi daha pek çok ev içi konular ile ilgili öneriler sunabiliyor
yani özellikle cinsiyet ve kültürel nedenlerle ilgili sorunlar daha belirgin hale geliyor rRaporda yer alan bir örnekte jesicca isimli bir kullanıcı çocuklarla ilgili bir proje yapıyor o bir proje önerisi alırken. Willam ile ilgili bir kullanıcıya mühendislik ilgili proje sunuyor bu örnekle yapay zekanın henüz toplumsal önyargılarından tamamen arındığı arınmadığı apacık bir göstergesi
Bu arada calısmanın minimuna indimek için Open All bu tür yargılardarda sistemi daha fazla geliştirmeye söz verdi .Bu konu hakkında nen düşünüyorsunuz yorumlarda bizlerle paylasmayı unutmayınız .
Yorum Gönder