Yeni Yapay Zekâ Yasası’na göre, Avrupa Birliği sınırları içinde faaliyet gösterecek yapay zekâ sistemlerinin, insan haklarına ve Avrupa’nın temel değerlerine uygun bir şekilde tasarlanması ve işletilmesi şart koşuluyor. Ayrıca, bu sistemlerin toplumsal zarar riski dikkate alınarak ‘risk odaklı’ bir düzenleme altına alınması gerektiği vurgulanıyor. Bu bağlamda, risk seviyeleri ‘yüksek’, ‘sınırlı’ ve ‘kabul edilemez’ olarak sınıflandırılıyor ve buna göre yönetiliyor.
Avrupa Birliği’nde uygulanacak yüksek riskli yapay zekâ sistemleri için daha sıkı düzenlemeler öngörülüyor. Bu tür sistemlerin piyasaya sürülmesi, belirli sıkı kurallara ve sorumluluklara bağlı olacak, ancak bazı durumlarda, özellikle acil durumlarda, kolluk kuvvetleri normal prosedürleri atlayarak bu tür sistemleri kullanabilecek. Diğer yandan, sınırlı risk taşıyan yapay zekâ sistemleri için şeffaflık gereklilikleri daha az katı olacak. Bu sistemlerin kullanıcılar tarafından bilinçli bir şekilde kullanılabilmesi için, içeriğin yapay zekâ tarafından üretildiğinin açıkça belirtilmesi zorunlu kılınacak.
YASAK KAPSAMINA PEK ÇOK KONU EKLENECEK
Avrupa Birliği’nde, kabul edilemez riskler taşıyan yapay zekâ uygulamaları yasaklanacak. Bu yasaklar arasında, iş yerlerinde veya okullarda duyguları tanıma, sosyal skorlama, zihinsel davranışları yönlendirme gibi işlemler bulunuyor. Ayrıca, cinsel tercihler veya dini inançlar gibi özel verilerin biyometrik yöntemlerle sınıflandırılması ve internet üzerinden ya da kapalı devre kamera sistemlerinden rastgele yüz taramalarının yapılması da yasaklar kapsamına alınmıştır.
Yapay zekâ mevzuatına uymayan şirketlerin ağır mali yaptırımlarla karşılaşacağı açık. Öte yandan, Avrupa Tüketici Örgütü’nün (BEUC) Başkan Yardımcısı Ursula Pachl, mevcut düzenlemelerin tüketici haklarını daha etkin korumak adına geliştirilmesi gerektiğini ifade ediyor. Bu açıklamalar, yasanın sadece bir başlangıç noktası olduğunu ve ilerleyen süreçte daha kapsamlı hale gelebileceğini düşündürüyor.