Draqon
Aktif Üye
“Yarı pişmiş”: Yapay zeka düzenlemesi biyometrik kitle gözetimi için arka kapıları açıyor
Sırt sıvazlama, AB Parlamentosu, Bakanlar Konseyi ve Komisyon’dan müzakerecilerin, üç günlük son müzakere maratonunun ardından Cuma günü geç saatlerde AB’nin yapay zeka (AI) sistemlerine ilişkin düzenlemesi konusunda bir anlaşma üzerinde anlaşmaya varmasının ardından Brüksel’de başladı. . Komisyon Başkanı Ursula von der Leyen (CDU), yapay zeka için “dünyanın ilk kapsamlı yasal çerçevesi”nin artık mevcut olması nedeniyle “tarihi bir an”dan bahsetti. “Yapay Zeka Yasası” Avrupa değerlerini yeni bir döneme taşıyor. Anlaşma, “tanımlanabilir risklere ilişkin düzenlemeye odaklanıyor, yasal kesinlik sağlıyor ve güvenilir yapay zeka alanında yeniliklerin önünü açıyor.” Brüksel hükümet kurumu bunu Nisan 2021’deki taslağıyla oluşturdu – şimdi eş yasa koyucular teslim etti.
Reklamcılık
Biyometrik yüz tanıma istisnaları
Konsey Başkanlığı adına İspanya Dijitalleşmeden Sorumlu Devlet Sekreteri Carme Artigas Brugal, anlaşmayla AB’nin “toplumlarımızın ve ekonomilerimizin geleceği için kilit bir alanda hızla gelişen teknolojik ortamda küresel bir sorunu” ele aldığını söyledi. “Ve bu çabamızda son derece hassas bir dengeyi korumayı başardık: Vatandaşlarımızın temel haklarına tamamen saygı göstererek, Avrupa genelinde yapay zekanın yenilikçiliğini ve benimsenmesini teşvik ediyoruz.”
Sivil haklar aktivistleri ve özgürlük savaşçıları, üye devletlerin Büyük Birader yöntemlerini zorlamasının ardından, özellikle bahsedilen son noktada, durumu çok farklı değerlendiriyor. Avrupa Dijital Haklar Girişimi (EDRi), anlaşmaların prensipte kamusal alanlarda gerçek zamanlı biyometrik yüz tanımanın yasaklanmasını sağlayacağını açıklıyor. Ancak bu, örneğin belirli mağdurların, şüphelilerin aranması ve terör saldırılarının önlenmesi gibi çeşitli istisnalar içermektedir. Her ne kadar bu koşullar hükümet yetkililerinin talep ettiğinden daha sıkı olsa da, “bu sistemlerin tehlikeli, ayrımcı şekillerde ve kitlesel gözetim amacıyla kullanılması olasılığını hâlâ ön plana çıkarıyor.”
EDRi ayrıca, ciddi suçlarla mücadelede, Hamburg polisinin G20 zirvesinden sonra tartışmalı bir operasyonla gerçekleştirdiği, şiddet içeren suçluların yüz tanıma kullanılarak otomatik olarak aranmasına izin verilmesi gerektiğinden de şikayetçi. Net eşikleri tanımlayan bir katalog bile yok.
“Biri aranıyor, hepsi izleniyor mu?”
AB Milletvekili Patrick Breyer (Korsan Partisi) “Biri aranıyor, hepsi izleniyor mu? Biyometrik kitlesel gözetime yönelik bu yasal kılavuzla, yüzlerimiz kamuya açık olarak her zaman ve her yerde şüpheye yer vermeden taranabilir” diye korkuyor. Ona göre “varsayılan istisnalar” “göz yıkama”dır. Çünkü binlerce ciddi suç şüphelisi sürekli olarak hakimlerin talimatıyla aranıyor. Otomatik yüz tanıma henüz herhangi bir saldırıyı önleyemedi ancak çok sayıda masum insandan şüphelenildi ve bazıları tutuklandı. Breyer’e göre hukuk mahkemelerin işidir. Barajın bu şekilde ihlal edilmesini kabul edemezdi.
EDRi ayrıca anlaşmanın tahmine dayalı polisliğe yalnızca kısmi bir yasak getirmesini de eleştiriyor. Bu, kişisel özelliklere ve karakter özelliklerine göre suç işleme olasılığı hakkında tahminlerde bulunmayı içerir. Bu, ilgili tahmin sistemlerinin çoğunluğu için geçerli değildir. Parlamentonun iki raportöründen biri olan Brando Benifei (Sosyal Demokratlar), yasağın “geçici” olduğunu düşünüyor. Müzakere edilen metin yalnızca “suç analitiği” yazılımının kullanımına izin vermektedir ve bu yazılım herhangi bir bireysel referans sağlamamaktadır. Yalnızca anonimleştirilmiş tahminlere izin verilir. Benifei’nin meslektaşı Dragoș Tudorache (Liberal) şunu ekledi: Hiç kimse soruşturmacıların “işleri için ihtiyaç duydukları” araçları elinden almak istemez. Ancak soruşturmacıların hatalı şüphe araçlarını kullanmasına izin verilmemektedir.
Genel koruma seviyesinde geniş boşluklar
AlgorithmWatch kuruluşu, AB yasa koyucularının önemli koruyucu önlemler getirmesinden kısmen memnun. Yönetmelik artık yüksek riskli yapay zeka sistemlerinin kullanımına ilişkin temel haklar ve kamu şeffaflığı yükümlülükleri için zorunlu bir etki değerlendirmesi sağlıyor. İşyerlerinde ve eğitimde kullanılan duygu tanıma sistemlerine de yasak getirildi. Ancak aynı zamanda anlaşma, örneğin yasadışı göç veya suçla mücadelede arka kapıdan yüz tanıma da dahil olmak üzere “bu tür yanlış uygulamaları mümkün kılacak” büyük boşluklar içeriyor.
AlgorithmWatch ve EDRi ayrıca genel koruma seviyesindeki büyük boşluklara da işaret ediyor. Örneğin, yapay zeka geliştiricilerinin sistemlerini “yüksek riskli” olarak sınıflandırmama ve dolayısıyla özel gereksinimlerden kaçınma konusunda oldukça fazla takdir yetkisi vardır. Üye devletlerin sorumluluğunda olan ulusal güvenlik ve savunma alanlarına yönelik temel düzenleme özgürlüğü, aynı zamanda “en endişe verici yapay zeka sistemlerinin kamu gözetimi önünde” de büyük engeller yarattı.
AB tüketici koruma derneği Beuc’tan Ursula Pachl, “Genel olarak tüketicileri korumaya yönelik önlemler ikna edici değil” diye şikayet ediyor. “Çok fazla husus yetersiz bir şekilde düzenleniyor ve şirketlerin iyi niyetine çok fazla güveniliyor.” Örneğin sanal asistanlar veya yapay zeka kontrollü oyuncaklar için yeterli düzenleme yok çünkü bunlar yüksek riskli sistemler olarak değerlendirilmiyor. Pachl ayrıca ChatGPT veya Bard gibi sık kullanılan uygulamalar için “tüketicilerin onlara güvenebilmesi için gerekli koruyucu önlemleri” de atlıyor.
“Yarı pişmiş” uzlaşma
BT derneği Bitkom’un genel müdürü Bernhard Rohleder ise tam tersi görüşte. Ona göre anlaşma “ekonomi ve toplum pahasına bir vitrin başarısı”. Yasa, “özellikle üretken yapay zekanın düzenlenmesi söz konusu olduğunda hedefi aşıyor ve teknolojiye derinlemesine müdahale ediyor.” AB böylece şirketleri durma noktasına getiriyor. Uygulanabilir olmayan projeler nedeniyle Avrupalı şirketlerin gelecekte hızlı teknolojik gelişmeleri takip edememe riski büyük. Üyeleri arasında çok sayıda büyük teknoloji şirketinin yer aldığı dijital dernek CCIA Europe da bu uzlaşmayı “yarı pişmiş” olarak görüyor. Anlaşma “birçok alt sistemin temelini oluşturan ileri teknolojilerin geliştiricilerine katı yükümlülükler getiriyor ve bu nedenle muhtemelen Avrupa’da inovasyonu yavaşlatacak.”
TÜV Derneği anlaşmayı memnuniyetle karşıladı. Avrupa “dünyaya açık bir sinyal gönderiyor: yapay zeka güvenli olmalı.” Teknoloji insanları tehlikeye atmamalı veya dezavantajlı duruma düşürmemelidir. Özellikle övgüye değer olan şey, ChatGPT’nin arkasındaki GPT modeli gibi “çok amaçlı yapay zekanın” da temel güvenlik ve şeffaflık gereksinimlerini karşılaması gerektiğidir. Bu, son kullanıcılar için güven yaratır ve bu tür temel modelleri temel alarak kendi yapay zeka programlarını geliştiren profesyonel kullanıcılar için yasal kesinliği artırır. Öte yandan basit sohbet robotlarının yalnızca belirli etiketleme gereksinimlerini karşılaması gerekiyor.
Yeni başlayanlar için “korumalı alanlar”
İspanyol müzakereci Brugal, yeni kurulan şirketler için “korumalı alan” gibi yüksek düzenleyici yükümlülüklere ilişkin çeşitli istisnaların altını çizdi. Bu özgürlük aynı zamanda Fransız Mistral AI şirketinin açık kaynak olarak sunulan AI modeli için de geçerlidir. Ancak risk düzeyi düşük olan bu tür ticari başvuruların da prensip olarak en azından temel haklara yönelik bir etki değerlendirmesi yapması gerekecektir. AB İç Pazar Komiseri Thierry Breton birkaç kez şunu ileri sürdü: Yapay Zeka Yasası “tamamen yeniliğin yanındadır”. Müzakerecilerin önümüzdeki birkaç hafta içinde hâlâ yasal metnin teknik ayrıntılarını müzakere etmesi gerekiyor ve daha sonra Parlamento ve Konsey’in sonucu onaylaması gerekecek. Düzenleme büyük ölçüde iki yıl sonra yürürlüğe girecek.
(benim)
Haberin Sonu