Açıklanan Riskler ve Şeffaflık Çağrısı

Eski ve mevcut OpenAI ile Google çalışanları, yapay zeka risklerine ilişkin tehlikeli gizlilik kültürüne dikkat çekmek amacıyla bir açık mektup yayımladı. Bu mektup, yapay zeka şirketlerinin finansal hedeflere odaklanarak güvenlik konularını ihmal ettiğini ve çalışanların endişelerini dile getirmelerini caydıran cezai gizlilik anlaşmalarını kullandığını öne sürüyor.

Öne Çıkan İsimler ve Destekçiler, Bengio, Hinton ve Russell da Destek Verdi

Eski OpenAI araştırmacıları Daniel Kokotajlo ve William Saunders’ın yanı sıra, hala Google’da çalışan Neel Nanda da mektubu imzalayanlar arasında yer alıyor. Bu isimler, YZ şirketlerinin potansiyel riskleri konusunda yeterince şeffaf olmadığını ve çalışanların bu riskleri dile getirme konusunda cesaretlendirilmeleri gerektiğini savunuyor. Mektup ayrıca, Yoshua Bengio, Geoffrey Hinton ve Stuart Russell gibi önde gelen YZ uzmanları tarafından da destekleniyor.

Şirketlerin Gizlilik Politikaları ve Çalışanların Sesini Duyurma Mücadelesi

Mektupta, mevcut gizlilik anlaşmalarının ve ihbarcı korumalarının yetersiz olduğu vurgulanıyor. YZ şirketlerinin, çalışanların güvenlik endişelerini dile getirmelerini zorlaştıran politikaları eleştiriliyor. Özellikle, bu endişelerin çoğunun henüz düzenlenmediği belirtiliyor ve çalışanların bu riskleri anonim olarak iletebilecekleri bir süreç talep ediliyor.

Dört Temel İlke ile Şeffaflık ve Güvenlik İçin Talepler

Açık mektupta yayımlanan talepler ise şu şekilde:

Eleştiri Yasağına Son: Şirketlerin, güvenlik endişeleri nedeniyle eleştiriyi yasaklayan anlaşmalara girmemesi.

Anonim İhbar Süreci: Çalışanların riskle ilgili endişelerini anonim olarak iletebilecekleri mekanizmaların oluşturulması.

Açık Eleştiri Kültürü: Çalışanların riskle ilgili endişelerini kamuya açık bir şekilde dile getirebilmelerine izin veren bir kültürün desteklenmesi.

Misilleme Yapmama: Gizli bilgileri kamuya açıklayan çalışanlara misilleme yapılmaması.

Çalışanların Çıkış Noktası: Endişeler ve Geleceğe Dair Korkular

Bu mektup, yapay zeka teknolojilerinin potansiyel zararlarını gözler önüne sererek, bu konuda farkındalık yaratmayı amaçlıyor. İmzacıların çoğu, şirketlerinin bu konudaki tutumlarından endişe duyuyor ve bu endişelerini kamuoyuyla paylaşmak istiyor. Bu çağrı, YZ şirketlerinin daha şeffaf ve sorumlu bir şekilde hareket etmeleri için bir uyarı niteliği taşıyor.

Mektubun tam metnine linkten ulaşabilirsiniz.