Google Yapay Zeka Etiği Yöneticisini Kovdu

Mitchell ve Gebru yapay zeka etiği konusunda Google içindeki en önemli isimlerdi
Google News Abone Ol

Yapay zeka etiği hakkında Google içinden önemli iki isim yapılan iç soruşturma sonucunda görevlerini bıraktı. Şirketin yapay zeka hakkındaki etik konulu çalışmaları yapan Margaret Mitchell ve Timnit Gebru hakkında şirket içi bir soruşturma vardı.

Google yapay zeka etiği departmanının eş başkanı Margeret Mitchell hakkında sürdürdüğü soruşturmayı tamamladı. Sonuçta bu önemli ismin firma ile bağı koptu. Mitchell’ın iş arkadaşı Gebru’ya karşı ayrımcılık yaptığı iddiası vardı. Dev firma, Mitchell’ın e-postalarını otomatik bir komut dosyasıyla kontrol etti. Sonuçta bu durum Mirchell’ın aleyhine bir sonuç çıkardı.

Mitchell’ın işten çıkarılması, Google’ın etik ve adalet üzerine çalışan yapay zeka ekiplerinin yeniden yapılanacağı duyurusundan bir gün sonra geldi. Bu kapsamda mühendislik organizasyonu başkan yardımcısı Marian Croak’ın görevi değişti. Croak, “Google Research içinde sorumlu yapay zeka konusunda yeni bir uzmanlık merkezi” liderliğine geldi.

Marian Croak

Michell’ın LinkedIn profiline göre Google’daki mesaisi 2016 yılında başladı. İki yıl sonra, “yüz tanıma teknolojisindeki ön yargı çalışmaları” Gebru ile birlikte firmanın yapay zeka ekibini kurdular.

Mitchell ve Gebru yapay zeka etiği konusunda Google içindeki en önemli isimlerdi

Aralık 2020’de Mitchell ve Gebru büyük dil işleme modellerinin tehlikeleri hakkında bir makale hazırlıyordu. Bu yazı, Google Brain’in başkanı Megan Kacholia’nın tepkisini çekti. Hatta Kacholia bu yazının geri çekilmesini istedi. Gebru şirketin bu araştırmanın kabul edilmeme nedenlerini sordu ve araştırmadan çekildi. Bunun üstüne Gebru’nun görevine Google son verdi. Ne var ki görüşler bunun bir istifa olduğu yönündeydi.

Gebru’nun gitmesiyle Mitchell’ın şirket hakkındaki eleştirileri yükseldi. Google yapay zeka departmandan Jeff Dean, Google CEO’su Sundar Pichai de bu eleştirilerden nasiplerini aldılar. Ocak’ta Mitchell Google’ın faaliyetlerini araştırmaya başladı. Sonuçta kendisinin şirket e-posta erişimi kesildi.

Google konu hakkında bir açıklama yayınladı. “Bu yöneticinin davranışını gözden geçirdikten sonra, işle ilgili hassas belgelerin ve diğer çalışanların özel verilerin çalınmasını da içeren güvenlik politikamızın yanında davranış kurallarımızın da birden fazla kez ihlal edildiğini doğruladık.” ifadeleri Mitchell’ın sonunu açıklıyordu.

Timnit Gebru

Cuma günü Google, Gebru’nun işten ayrılmasıyla ilgili bir soruşturmanın ardından araştırma ve çeşitlilik politikalarını değiştirdiğini açıkladı. Jeff Dean dahili bir e-postada Gebru’nun ayrılışının ele alınma şeklinden dolayı çalışanlardan özür diledi. “Dr. Gebru’nun gidişinin kadın teknoloji uzmanlarına, siyah topluluklardan insanlara ve teknoloji alanında kariyer hedefleyen diğer yeterince temsil edilmeyen grulara ve Google’ın yapay zakayı sorumlu biçimde kullanmasını derinden önemseyen birçok kişiye ne ifade ettiğini duydum ve anladım. Bu yaşanan bazı insanların bu firmadaki yerlerini sorgulamasına sebep oldu. Ben bu durumdan pişmanım.” sözleriyle Dean samimi bir özür diledi.

Yapay zeka etiği ekibi durumdan mutsuz

Ancak yapay zeka etiği ekibi Aralık’ta Gebru’nun işten atılmasından bu yana kriz durumunda. Dün yapılan yeniden yapılanma açıklaması sonrasında kıdemli araştırmacı Alex Hanna bir açıklama yaptı. Hanna, ekibin Croak’ın randevusundan Çarşamba günü yapılan açıklamaya kadar hiçbir şeyden haberleri olmadığını söyledi. Twitter’da, “Bize sürece güvenmemiz, Marian Coak gibi yöneticilerin çıkarlarımızı gözeteceğine güvenmemiz söylendi. Ancak bu kararlar kesinlikle arkamızdan alınmıştır.” ifadelerini dile getirdi.

Anlaşılan bu olay daha çok su götürmeye açık. Yapay zeka gibi etik konusunda büyük soru işaretleri yaratan bir konuyu düşünmesi gereken bir ekibin kendi içinde son derece kritik ahlaki ayrıma düşmüş olaması gerçekten ironik.

Diğer haberler:

>> Toplu Taşıma Ücreti Google Haritalar ile Ödenebilecek

>> Huawei, ambargo sonrası küçüldü: Bir devrin sonu geliyor!

 


CEVAP VER