Voice Engine Etik Kaygılar Nedeniyle Henüz Kullanıma Sunulmayacak

OpenAI “Voice Engine” adını verdiği, ses klonlama aracını duyurdu. Voice Engine, kullanıcıların 15 saniyelik ses örneğini alarak o sesin sentetik bir kopyasının üretebilmesini sağlıyor. Ancak, OpenAI’nin teknolojiyi sorumlu bir şekilde kullanma taahhüdü gereği, henüz genel kullanıma sunulmadı.

OpenAI, metin girdileri ve yalnızca 15 saniyelik bir ses örneği kullanarak orijinal konuşmacıların seslerine benzer, doğal ve duygusal konuşmalar üretebilen “Voice Engine” adında bir modelin küçük ölçekli ön izlemesinden elde edilen önemli sonuçları paylaştı. Bu gelişme, ses teknolojilerinde yeni bir dönemin başlangıcı olarak değerlendiriliyor.

Referans Ses

Klonlanmış Sentetik Ses

Voice Engine Kötüye Kullanım Riskine Karşı Kullanıma Kapalı Olacak

OpenAI yaptığı açıklamasında, yapay zeka teknolojilerini güvenli ve geniş kitlelere fayda sağlayacak şekilde geliştirme konusundaki taahhüdünü vurgulayarak, sentetik ses teknolojisindeki potansiyel kötüye kullanımlara karşı bilinçli ve tedbirli bir yaklaşım sergilediğini bu nedenle ses klonlama teknolojisini henüz genel kullanıma açmadığını belirtti. Bu bağlamda, Voice Engine yalnızca düşük riskli ve sosyal fayda sağlayacak kullanım durumları için sınırlı bir geliştirici grubuna sunuluyor.

Erken Uygulama Alanları ve Güvenlik Önlemleri

OpenAI ses klonlama teknolojisinin test edilmesi sürecinde ortaklardan, birey veya kuruluşları izinsiz taklit etmeme, orijinal konuşmacılardan açık onay alma ve yapay zeka üretimi seslerin kullanıcılarla açıkça paylaşılması gibi katı kullanım politikalarına uymalarını talep edeceğini belirtiyor. Ayrıca, üretilen seslerin kökenini izlemek amacıyla filigranlama gibi güvenlik önlemlerinin de devreye alındığı bildiriliyor.