Yapay Zeka Dil Modellerinde Irkçılık Raporu’na Göre Afro-Amerikan Yerel İngilizcesi Konuşanlara Karşı Gizli Irkçı Eğilimler Gösterdi

Yapay zeka dil modellerinde ırkçılık ve teknolojinin içerdiği önyargılara dair çarpıcı bir araştırma yayınlandı. Allen Institute for Artificial Intelligence’tan Valentin Hofmann liderliğindeki bir grup araştırmacı, OpenAI’ın ChatGPT ve Google’ın Gemini’si gibi önde gelen yapay zeka dil modellerinin, Afro-Amerikan Yerel İngilizcesi (AAVE) konuşan bireyler hakkında derin köklü ırksal önyargılara sahip olduğunu ortaya koydu. Araştırmacılar büyük dil modellerinin gelişimiyle birlikte daha gizli ırkçı eğilimler sergilediğini belirtiliyor.

Araştırmanın Kökeni ve Metodolojisi

2024  1 Mart’ında, arXiv’de yayınlanan yapay zeka dil modellerinde ırkçılık raporu, yapay zeka teknolojisinin günlük hayatta nasıl gizli ırkçılığı pekiştirebileceğine dair somut kanıtlar sundu. Araştırmacılar, Stanford University ve University of Washington’dan akademisyenlerle iş birliği içinde, dil modellerine yerel İnglizce ve Standart Amerikan İngilizcesi (SAE) kullanılarak oluşturulmuş metinler üzerinden çeşitli değerlendirmeler yaptırdılar. Bu süreçte, modellerin yerel İngilizce kullanımına dayanarak kişilerin zeka düzeyleri, işe uygunlukları ve suç eğilimleri hakkında önyargılı değerlendirmelerde bulunduğu tespit edildi.

Araştırmanın Çarpıcı Sonuçları

Bulgular, yapay zeka modellerinin yerel İngilizce konuşanları, Amerikan İngilizcesi konuşanlara göre sistemik olarak daha az zeki ve daha az işe uygun olarak değerlendirme eğiliminde olduğunu gösterdi. Dahası, bu modellerin, yerel İngilizce konuşan bireyler hakkında, en olumsuz insan stereotiplerinden bile daha ağır yargılara sahip olduğunu ortaya çıktı. Raporda yapay zeka devlerinin etik kılavuzlarının, dil modellerinin ırksal önyargılarını daha az açık hale getirdiğini, ancak bunun önyargıları tamamen ortadan kaldırılmadığı, sadece daha gizli hale getirdiği belirtiliyor.

Raporda bu önyargılar, yalnızca dil modellerinin eğitim süreçlerinde kullanılan veri setlerinin değil, aynı zamanda bu teknolojileri geliştiren ve kullanan toplulukların bilinçaltındaki ırkçı yapıların bir yansıması olarak değerlendirildi.

Geleceğe Yönelik Çağrı

Araştırma, yapay zeka dil modellerinin toplumsal önyargıları pekiştirme riskine karşı acil eylem çağrısında bulunuyor. Geliştiriciler ve politika yapıcılar, bu teknolojilerin daha adil ve kapsayıcı olmasını sağlamak için etik kılavuzlar ve düzenlemeler geliştirmeye teşvik ediliyor.