Yapay zekâ yasası neleri öngörüyor?

MUSA SAVAŞ/Yasaya baktığımızda özetle şunları anlıyoruz: İlk olarak, Avrupa Birliği vatanlarında kullanılacak suni zekâ sistemlerinin güvenli olması, temel haklara ve Avrupa Birliği değerlerine saygı göstermeleri gerekiyor.

İkinci olarak, suni zekâ sistemleri, topluma zarar verme ihtimaline nazaran “risk temelli” bir yaklaşımla düzenlenmeli. Risk mevzusu şekilde değerlendiriliyor. Yüksek riskli, sınırı olan riskli ve risk hiçbir şekilde kabul edilemez.

Yüksek riskli suni zekâ sistemlerine daha katı kurallar getirilecek. Çeşitli yüksek riskli suni zekâ sistemlerine izin verilebilecek fakat yüksek riskli suni zekâ sistemlerinin AB pazarına girebilmesi bir takım katı kaide ve yükümlülüklere doğal olarak olacak. Fakat kolluk kuvvetleri, acil durum prosedürü ile normalde uygunluk değerlendirme prosedürünü geçemeyen yüksek riskli bir suni zekâ aracını devreye sokabilecek.

Sınırı olan riskli suni zekâ sistemleri, yüksek risklilere nazaran daha hafifçe şeffaflık yükümlülüklerine doğal olarak tutulacak. Ek olarak kullananların bilgili kararlar alabilmesi için içeriğin suni zekâ tarafınca oluşturulduğunu açık şekilde bildirmesi gerekecek.

BİRÇOK KONU YASAK KAPSAMINDA

Suni zekanın kullanımında risk kabul edilemez olarak değerlendirilen sistemler Avrupa Birliği’nde yasaklanacak. Mesela; iş yerinde ve eğitim kurumlarında duygu tanıma, toplumsal puanlama, bilişsel davranış manipülasyonu, cinsel yönelim yada dini inançlar şeklinde kırılgan verileri çıkarmak için biyometrik sınıflandırma yapılması ya da herhangi bir yerde yüz görüntülerinin internetten yada kapalı kamera sistem görüntülerinden hedefsiz alınması yasak kapsamında olacak.

Üçüncü olarak gördüğümüz, kolluk kuvvetlerine çeşitli istisnalar getiriliyor. Güvenlik birimleri, istisnai ve lüzumlu durumlarda kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemlerini izin alarak kullanabilecek. Bu tarz şeyleri yapabilmek için gerekseme duydukları suni zekâ sistemlerinin kullanımı, terör saldırıları, mevcut yada öngörülebilir tehditlerin önlenmesi ve en ciddi suçlardan şüphelenilen kişilerin aranması şeklinde durumlarla sınırı olan olacak.

Son olaraksa, video, metin, görüntü oluşturma, başka dilde konuşma, hesaplama yada bilgisayar kodu yazma şeklinde oldukca çeşitli görevleri ifa edebilen büyük sistemler hususi kurallara doğal olarak olacak. Bu mevzularla ilgili söz mevzusu genel amaçlı suni zekâ sistemlerinin piyasaya sürülmeden ilkin çeşitli şeffaflık yükümlülüklerine uymaları gerekecek. Gördüğümüz kadarıyla bu kısım en oldukca Gemini ve ChatGPT’yi etkileyecek.

Kaide ihlallerinde şirketlere yüksek para cezaları kesileceğini belirtmeme gerek yok sanırım.

Öteki taraftan, bu mevzuyla ilgili olarak mevzuatın tüketicileri korumak için daha da ileri gitmesi icap ettiğini vurgulayan Avrupa Tüketici Örgütü (BEUC) Genel Müdür Yardımcısı Ursula Pachl’ın söylediklerine bakacak olursak, bu yasanın hemen hemen başlangıç olduğu hissine kapılmıyor değiliz.