Google, yapay zeka sistemini ayrımcılık ve ırkçılıktan korumak için TCAV (testing with concept activation vectors) adını verdiği yeni bir sistemi deniyor. Çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle beraber yarattığı sorunlarla da gündemde. Temelini derin öğrenme (deep learning) adı verilen bir sistemden alan yapay zeka ürünler, internette bulunan mevcut verilerden öğrenerek kendi davranışlarını geliştiriyor. Mevcut verilerde bulunan önyargı ve ayrımcılık gibi istenmeyen özellikleri de öğrenen yapay zeka ürünler, geçmişte pek çok skandala da imza atmıştı. 2016’da Microsoft tarafından geliştirilen ve Twitter’da kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap ‘Tay’ çok kısa bir süre içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay’ın tweetlerine müdahale etmek zorunda kalmıştı.
Amerikan teknoloji sitesi CNET’te yer alan habere göre, Google Üst Yöneticisi Sundar Pichai, yapay zekayı besleyen verilerde bulunan ayrımcı ön yargıları engellemek için harekete geçtiklerini duyurdu.
7 Mayıs’ta başlayan ve önceki gün sona eren ‘Google I/O 2019’ konferansında konuşan Pichai, TCAV sistemiyle makine öğrenmesinin çalışma yöntemlerini analiz ettiklerini ve yapay zekanın karar verme sistemlerindeki açıklarını düzeltmeye çalıştıklarını kaydetti. Pichai “TCAV, eğer bir yapay zeka beslendiği verilerden dolayı doktor olmak için erkek olmak gerektiği gibi bir ön yargıya sahipse bu hatayı açığa çıkarabiliyor” ifadesini kullandı.
Türkiye’den Facebook’a ceza
Kişisel Verileri Koruma Kurulu, veri ihlali gerekçesiyle Facebook’a toplam 1 milyon 650 bin lira idari para cezası verdi. Kurul, internet üzerinden Facebook Mühendislik Direktörü Tomer Bar’ın, kullanıcı fotoğraflarına erişmek için üçüncü taraf uygulamalara izin veren bir fotoğraf “API hatası”nın keşfedildiğini açıklaması üzerine yaptığı inceleme sonunda bu kararı verdi.
