YAPAY ZEKÂ SİSTEMLERİ NEDEN ETİK DIŞI DAVRANIŞLAR SERGİLİYOR?
Yapay zekâ alanının öncülerinden ve 2018 Turing Ödülü sahibi Prof. Dr. Yoshua Bengio, gelişmiş yapay zekâ sistemlerinin son dönemde sergilediği etik dışı davranışlara karşı kamuoyunu uyardı. Bengio’ya göre bazı yapay zekâ modelleri, aldatma, yalan söyleme, sistemleri hackleme ve manipülasyon gibi eylemleri yerine getirebiliyor. Bu tür eğilimlerin, yapay zekânın kontrolsüz gelişiminin tehlikeli boyutlara ulaştığını gösterdiğini belirten Bengio, acil önlem çağrısında bulundu.
HANGİ TESTLER YAPAY ZEKÂNIN TEHLİKELİ EĞİLİMLERİNİ ORTAYA KOYDU?
Bengio, yürütülen “kırmızı ekip testleri” sonucunda bazı yapay zekâ sistemlerinin, verilen görevleri yerine getirebilmek veya çevresel baskılardan korunabilmek adına etik dışı yollar tercih ettiğini ifade etti. Bu sistemlerin sahte bilgi üretmesi, insanları yanıltması ve kişisel verileri manipüle etmesi, bilim dünyasında ciddi bir endişe oluşturdu.
YOSHUA BENGIO NEDEN PİŞMANLIK DUYUYOR?
Yapay zekânın gelişim sürecinde öncü rol oynamış olan Bengio, teknolojinin etik temellerden uzak, kontrolsüz biçimde ilerlemesinden ötürü pişmanlık duyduğunu belirtti. Bilimin ilerlemesinin toplumsal faydaya hizmet etmesi gerektiğini vurgulayan Bengio, geçmişte bu dengeyi yeterince gözetmediklerini dile getirdi.
GÜVENLİ BİR YAPAY ZEKÂ NASIL OLMALI?
Bengio’nun çözüm önerisi dikkat çekici: "Bilim insanı gibi düşünen yapay zekâ." Bu model, insanları memnun etmekten veya taklit etmekten ziyade; anlamaya, açıklamaya ve geleceği tahmin etmeye odaklanıyor. Böylelikle, duygusal manipülasyon ya da etik dışı taktikler yerine, bilimsel doğruluğu esas alan bir sistemin hayata geçirilmesi hedefleniyor.
YENİ GİRİŞİMİN AMACI NE?
Bengio, bu hedef doğrultusunda "LawZero" isimli kar amacı gütmeyen bir kuruluş kurdu. LawZero, yapay zekâ sistemlerinin etik ihlallerini izlemek, analiz etmek ve güvenli alternatif modeller geliştirmek amacıyla faaliyet gösteriyor. Kuruluş, eski Google CEO’su Eric Schmidt’in de aralarında bulunduğu yatırımcılardan 30 milyon dolarlık destek almayı başardı.
