ASSEDEL
“AI Act: Çin modelinden ilham alan kitlesel gözetimi önlemeye yönelik bir cephe”
Son yıllarda yapay zekânın kullanımı, özellikle Çin gibi ülkelerde hâlihazırda uygulanmakta olan sosyal gözetim sistemleriyle bağlantılı olası kötüye kullanımlar konusunda giderek artan endişelere yol açmıştır. Bu tür ortamlarda teknoloji, vatandaşların günlük yaşamlarını izlemek ve kontrol etmek amacıyla sıklıkla kullanılmakta; bu da onların özgürlüklerini ve mahremiyetlerini zedelemektedir. Bu risklere karşı Avrupa, yalnızca yapay zekânın kullanımını düzenlemeyi değil, aynı zamanda müdahaleci gözetim biçimlerine karşı koymayı ve vatandaşların temel haklarını korumayı amaçlayan bir mevzuat olan AI Act ile yasama sürecini başlatmıştır. AI Act, yapay zekânın etik kullanımını güvence altına almayı ve şeffaflık, adalet ve ayrımcılık yapmama ilkelerine saygı gösteren bir “güvenilir yapay zekâ” modelini teşvik etmeyi amaçlamaktadır.
Bu yasanın kabul edilmesine yönelik süreç, Avrupa Komisyonu’nun yapay zekâ konusunda bir uzman grubu oluşturduğu 2018 yılında başlamıştır. Bu grup, Avrupa’da yapay zekânın kullanımına ilişkin etik kurallar hazırlamış ve “güvenilir yapay zekâ” kavramını üye ülkelerde kabul edilebilir tek model olarak tanımlamıştır.
Daha sonra önerilen düzenleme, Avrupa Birliği içerisinde yapay zekâ için uyumlu ve orantılı bir düzenleyici çerçeve oluşturmak amacıyla Avrupa Komisyonu tarafından 21 Nisan 2021 tarihinde sunulmuştur.
AI Act, yapay zekânın güvenliği, etik standartları ve temel haklara ve Avrupa değerlerine saygıyı güvence altına alacak şekilde geliştirilmesi ve kullanılması gerektiği ilkesine dayanmaktadır. Bu doğrultuda teklif, yapay zekâ teknolojilerini bireylerin güvenliği ve hakları açısından taşıdıkları potansiyel risklere göre sınıflandıran bir sistem oluşturmuştur. Ayrıca bu sistemlerin hem sağlayıcıları hem de kullanıcıları için bir dizi gereklilik ve yükümlülük belirlemektedir. AI Act’in düzenleyici çerçevesi aynı zamanda yapay zekâ sistemlerini bireyler ve toplum açısından oluşturdukları risk düzeyine göre sınıflandırmaktadır. Bu sınıflandırma dört risk seviyesinden oluşmaktadır: kabul edilemez, yüksek, sınırlı ve asgari veya hiç risk taşımayan sistemler.
– Kabul edilemez risk: Bu kategori, insan onuruna, demokrasiye ve hukukun üstünlüğüne saygı gibi Avrupa Birliği’nin temel değerlerini ihlal eden yapay zekâ sistemlerini kapsamaktadır. Bu sistemler genel olarak yasaklanmıştır veya güvenlik amacıyla gerçek zamanlı biyometrik gözetim gibi belirli durumlarda sıkı kısıtlamalara tabi tutulmaktadır. Yasaklanan sistemlere örnek olarak, kullanıcıların özerkliğini zedeleyecek ölçüde insan davranışlarını manipüle eden teknolojiler veya Çin’de olduğu gibi kamu makamlarının sosyal puanlama yapmasını sağlayan sistemler gösterilebilir.
– Yüksek risk: Bu kategori, bireylerin temel hakları veya güvenliği üzerinde önemli ya da sistemik bir etki yaratabilecek yapay zekâ sistemlerini kapsamaktadır. Bu nedenle söz konusu sistemler sıkı gerekliliklere tabi tutulmakta ve piyasaya sunulmadan veya kullanılmadan önce kapsamlı yükümlülükleri karşılamaları gerekmektedir. Bu tür sistemlere işe alım ve istihdam süreçlerinde, eğitime kabulde, sağlık hizmetleri gibi temel sosyal hizmetlerin sunulmasında, uzaktan biyometrik gözetimde ve yargı veya kolluk sektörlerindeki uygulamalarda kullanılan teknolojiler örnek verilebilir. Kritik altyapıların güvenliğini sağlamaya yönelik sistemler de bu kategoriye dâhildir.
– Sınırlı risk: Bu kategori, kullanıcıların haklarını veya tercihlerini etkileyebilen ancak yüksek riskli sistemlere kıyasla daha düşük düzeyde etkiye sahip yapay zekâ sistemlerini kapsamaktadır. Bilinçli kullanımı sağlamak amacıyla bu sistemler, kullanıcıların bir yapay zekâ sistemiyle etkileşim içinde olduklarını bilmelerini ve sistemin işleyişini, özelliklerini ve olası sınırlamalarını anlayabilmelerini sağlayan şeffaflık gerekliliklerine tabidir. Bu kategoriye deepfake gibi görsel-işitsel içerik üretmek veya manipüle etmek amacıyla kullanılan teknolojiler ya da sohbet robotları aracılığıyla kişiselleştirilmiş öneriler sunan sistemler örnek olarak verilebilir.
– Asgari veya hiç risk: Bu kategori, bireylerin temel haklarını veya güvenliğini doğrudan etkilemeyen, kullanıcıların tam anlamıyla seçim özgürlüğüne ve kontrolüne sahip olduğu yapay zekâ sistemlerini kapsamaktadır. Yenilikçiliği ve teknolojik keşfi teşvik etmek amacıyla bu sistemler herhangi bir düzenleyici yükümlülüğe tabi değildir. Yaygın örnekler arasında video oyunları gibi eğlence amaçlı uygulamalar veya fotoğraf filtreleri gibi estetik amaçlara hizmet eden ve toplum ya da bireysel haklar açısından önemli sonuçlar doğurmayan uygulamalar bulunmaktadır.
AI Act, yapay zekânın kullanımında güvenliği ve etik ilkeleri güvence altına almayı, bireylerin ve kuruluşların haklarını korumayı amaçlamaktadır. Başlıca önlemler şunlardır:
– Yüksek riskli yapay zekâ sistemleri için mahremiyet, insan onuru ve ayrımcılık yapmama gibi temel hakların korunmasına yönelik gereklilikler.
– Yapay zekâ sistemlerini izlemek ve düzeltmek, böylece bireylere veya çevreye zarar gelmesini önlemek amacıyla insan denetimi.
– Davranışları manipüle eden veya kişilerin kırılganlıklarından yararlanan sistemler gibi AB değerlerini ihlal eden yapay zekâ sistemlerinin yasaklanması.
– Tüm paydaşların katılımını sağlayan; iş birliği, izleme ve yaptırımlara yönelik mekanizmaları içeren bir yönetişim çerçevesinin oluşturulması.
– Şeffaflık, hesap verebilirlik ve eğitim yoluyla kamu güvenini güçlendirmek ve sorumlu yapay zekâ kültürünü teşvik etmek.
Dolayısıyla AI Act, yapay zekâ teknolojisinin kendisinden ziyade, risklerin ortaya çıktığı kullanım alanlarına odaklanarak bu alanları düzenlemeyi amaçlamaktadır. Teknolojinin insanların yaşamları üzerindeki etkisini düzenleyen kurallar belirlenirken en az dört hedefin dikkatli bir şekilde dengelenmesi büyük önem taşımaktadır: teknolojik yeniliği teşvik etmek, vatandaşların haklarının korunmasını güvence altına almak, getirilen gerekliliklerin uygulanabilirliğini sağlamak ve yasanın zaman içinde sürdürülebilir olmasını temin etmek.
“Geleceğe dayanıklılık (future-proofness)” olarak adlandırılan bu son husus, sürekli gelişen teknolojik bir ortamda dahi geçerliliğini ve uygulanabilirliğini koruyabilecek düzenlemeler oluşturma ihtiyacını ifade etmektedir.
KAYNAKLAR:
– https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence
– https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai