Avrupa Birliği yetkilileri, “AB Yapay Zekâ Yasası” (EU AI Act) olarak bilinen düzenleme konusunda 36 saatlik maraton müzakerenin ardından anlaşmaya vardı. 2024’ün ilk aylarında Avrupa Parlamentosu’nda oylanacak AB Yapay Zekâ Yasası’nın 2025’te yürürlüğe girmesi bekleniyor.
ChatGPT gibi sohbet botlarından güvenlik amaçlı yüz tanıma sistemlerine dek yapay zekâ teknolojilerine dayanan birçok uygulama bu yasa kapsamında denetime tâbi olacak. Medyayı da doğrudan etkileyecek AB Yapay Zekâ Yasası’nın içeriğini özetledik.
ABD, Çin ve İngiltere gibi birçok ülkede yapay zekânın yasal çerçevesini oluşturmak üzere çalışmalar sürerken bu alanda kapsamlı bir kanun için ilk somut adımı Avrupa Birliği (AB) attı.
Birlik’in yasama organı olan Avrupa Parlamentosu’nun (AP) geçen hazirandaki kararı ile yapay zekâ konusunda dünyanın ilk yasa tasarısı onaylanmıştı. Tasarının sonbaharda AB’nin yürütme organı olan Avrupa Komisyonu tarafından da onaylanması bekleniyordu ancak takvim sarktı.
Bu gecikmenin, ChatGPT‘yi de yaratan OpenAI’ın tasarıyı “sulandırmak” amacıyla yürüttüğü lobicilik faaliyetlerinden kaynaklandığı ileri sürüldü. Haberlere göre bu ABD şirketi, yapay zekânın önemli bir uygulama alanını oluşturan ve “üretici/üretken yapay zekâ” (generative AI) için kullanılan GPT gibi “temel modellerin” AB’deki yasal düzenlemelerden muaf tutulması için çalışıyordu.
Komisyon’un hazırladığı ilk taslağa AP tarafından temel modelleri doğrudan hedef alan bir denetim maddesi eklenmişti. Bu modellerin insan haklarına saygı gösterecek biçimde çalışması, enerji verimli olması ve ürettiği içeriklerin yapay zekâ tarafından yaratıldığını tüketicilere bildirmesi şart koşulmuştu. Tasarıda, medyayı ve gazetecileri en yakından ilgilendiren bölüm de burasıydı.
Katı sorumluluklar listesi tasarıdan çıktı, özdenetim şartı getirildi
Müzakeler bu yüzden uzadı ancak son tahlilde AB’nin en büyük ekonomileri olan Almanya, Fransa ve İtalya’nın önerisiyle bir orta yol bulundu. Sadece açık kaynak kodlu temel modeller yasadan muaf tutuldu. GPT gibi ticari modeller ise “kullanım şartları yoluyla zorunlu özdenetim” yapacak. AP’nin eklediği ve yapay zekâ geliştiricilerini bağlayan uzun bir sorumluluklar listesi içeren denetim maddesi tasarıdan çıkarıldı.
AP’nin ve Komisyon’un müzakerecileri, 36 saatlik görüşmelerin ardından cumartesi günü (9 Aralık) AB Yapay Zekâ Yasası konusunda anlaşmaya vardı. AB bu sayede hem yapay zekâ uygulamalarına yasal düzlemde netlik kazandırmayı, hem kamu yararını ve insan haklarını korumayı, hem de bunları yaparken inovasyon ve yatırımları engellememeyi amaçlıyor.
Avrupa Komisyonu Başkanı Ursula von der Leyen, AB Yapay Zekâ Yasası sayesinde bu alandaki yeni teknolojilerin, insanların güvenliklerini ve haklarını ihlal etmeden “güvenle” geliştirilebileceğini söyledi. AB Komiseri Thierry Breton da “tarihi” diye nitelediği yasanın “yapay zekâ kullanımı konusunda net kurallar” getireceğini vurgularken düzenlemenin “bir kural kitabından daha fazlası” olduğunu da belirtti.
Komisyon ilk tasarıyı Nisan 2021’de hazırlamış, Aralık 2022’de bu dosya üzerinde genel bir yaklaşım (müzakere yetkisi) konusunda anlaşmaya varmış, Haziran 2023’te ise AP ile kurumlar arası görüşmelere (“üçlü müzakerelere”) başlamıştı.
2024 başında AP’de oylanması beklenen AB Yapay Zekâ Yasası’nın hükümlerinin üye ülkelerde en erken 2025’te yürürlüğe girmesi bekleniyor. AB Genel Veri Koruma Regülasyonu (GDPR) gibi etkili bir yasal düzenleme çerçevesi sunması beklenen AB Yapay Zekâ Yasası‘nın üzerinde uzlaşılan metninin neler içerdiğini, Avrupa Konseyi şöyle özetliyor:
Yapay zekâda risk ne kadar yüksekse kurallar o kadar katı
YZ Yasası, güvenli ve güvenilir yapay zekânın hem özel hem de kamu aktörleri tarafından AB’nin tek pazarında geliştirilmesini ve benimsenmesini teşvik etme potansiyeline sahip amiral gemisi niteliğinde bir yasama girişimidir. Ana fikir, yapay zekânın topluma zarar verme kapasitesine göre “risk temelli” bir yaklaşımla düzenlenmesidir: Risk ne kadar yüksekse, kurallar da o kadar katı olacaktır.
Bu yasa önerisi, dünyada türünün ilk örneği olması nedeniyle, tıpkı GDPR gibi, diğer hukukî yetki alanlarında küresel bir standart belirleme ve böylece, Avrupa’nın teknoloji düzenlemesine yaklaşımıyla dünya sahnesinde emsal teşkil etme potansiyeline sahiptir.
İlk Komisyon teklifiyle karşılaştırıldığında, geçici anlaşmadaki başlıca yeni maddeler aşağıdaki şekilde özetlenebilir:
- Gelecekte sistemik riske neden olabilecek yüksek etkili genel amaçlı yapay zekâ (YZ) modellerine ve yüksek riskli YZ sistemlerine ilişkin kurallar
- AB düzeyinde birtakım yaptırım yetkilerine sahip gözden geçirilmiş bir yönetişim sistemi
- Kolluk kuvvetleri tarafından kamuya açık alanlarda uzaktan biyometrik kimlik tespitinin birtakım tedbirlere tâbi olarak kullanılabilmesi kaydıyla, yasaklar listesinin genişletilmesi,
- Yüksek riskli YZ sistemlerinin dağıtıcılarına, bir YZ sistemini kullanıma sokmadan önce temel haklar etki değerlendirmesi yapma yükümlülüğü getirilerek hakların daha etkin korunması.
AB Yapay Zekâ Yasası’nın kapsamı ve tanımlar
Daha somut ifadelerle, geçici anlaşma aşağıdaki hususları kapsıyor:
Uzlaşma anlaşması, yapay zekâyı daha basit yazılım sistemlerinden ayırt etmeyi mümkün kılacak şekilde daha açık ve belirgin kriterler içermesi için, YZ sisteminin tanımını Avrupa Güvenlik ve İşbirliği Teşkilatı (AGİT) tarafından önerilen yaklaşıma uygun bir şekilde düzenlenmiştir.
Geçici anlaşma, düzenlemenin AB hukuku kapsamı dışındaki alanlara uygulanmayacağını ve hiçbir durumda üye devletlerin ulusal güvenlik alanındaki yetkilerini veya bu alanda görev üstlenen herhangi bir kuruluşu etkilememesi gerektiğini de açıkça ortaya koymaktadır. Ayrıca, yapay zekâ yasası münhasıran askeri veya savunma amaçlı kullanılan sistemler için geçerli olmayacaktır. Benzer şekilde, anlaşma, düzenlemenin yalnızca araştırma ve inovasyon amacıyla kullanılan YZ sistemleri veya profesyonel olmayan nedenlerle YZ kullanan kişiler için geçerli olmayacağını öngörmektedir.
Düşük riskli uygulamalarda ve kişisel kullanımda “hafif” yükümlülükler var
Uzlaşma anlaşması, ciddi temel hak ihlallerine veya diğer önemli risklere neden olması muhtemel olmayan YZ sistemlerinin kapsam dışı bırakılmasını sağlamak için yüksek risk sınıflandırması da dâhil olmak üzere, yatay bir koruma katmanı öngörmektedir. Yalnızca sınırlı risk arz eden YZ sistemleri, kullanıcıların daha fazla kullanım konusunda bilinçli kararlar verebilmeleri için içeriğin YZ tarafından oluşturulduğunun açıklanması gibi çok hafif şeffaflık yükümlülüklerine tâbi olacaktır.
Geniş bir yelpazedeki yüksek riskli YZ sistemlerine izin verilecek, ancak AB pazarına erişim sağlamak için bir dizi zorunluluk ve yükümlülüğe tabi kılınacaktır. Bu zorunluluklar, örneğin veri kalitesi veya yüksek riskli YZ sistemlerinin gerekliliklere uygun olduğunu ispatlamak için KOBİ’ler tarafından hazırlanması gereken teknik dokümantasyona yönelik olarak, ortak yasa koyucular tarafından teknik olarak daha uygulanabilir ve paydaşların uyması için daha az külfetli olacak şekilde netleştirilmiş ve düzenlenmiştir.
YZ sistemleri karmaşık değer zincirleri aracılığıyla geliştirildiğinden ve dağıtıldığından, uzlaşma anlaşması, bu zincirlerdeki çeşitli tarafların, özellikle de YZ sistemlerinin sağlayıcıları ve kullanıcılarına yönelik sorumlulukların ve görevlerin dağılımını netleştiren değişiklikler içermektedir. Ayrıca, YZ Yasası kapsamındaki sorumluluklar ile mevcut AB veri koruma mevzuatı veya sektörel düzenlemeler gibi diğer mevzuat kapsamındaki sorumluluklar arasındaki ilişkiyi de açıklığa kavuşturmaktadır.
Davranış manipülasyonu gibi YZ uygulamaları AB’de yasaklanıyor
Yapay zekânın bazı kullanımlarında risk kabul edilemez olarak değerlendirildiğinden bu sistemlerin AB’ye girişi yasaklanacaktır. Geçici anlaşma, örneğin, bilişsel davranış manipülasyonunu, internetten veya güvenlik kamerası görüntülerinden yüz görüntülerinin hedeflenmemiş bir şekilde kazınmasını, işyerinde ve eğitim kurumlarında duygu tanımayı, sosyal puanlamayı, cinsel yönelim veya dini inançlar gibi hassas verileri elde etmek için biyometrik kategorizasyonu ve bireyler üzerinde bazı tahmine dayalı denetim uygulamalarını yasaklamaktadır.
Kolluk kuvvetlerinin özellikleri ve hayati önem taşıyan çalışmalarında YZ kullanma imkânlarını koruma ihtiyacı göz önünde bulundurularak Komisyon teklifinde YZ sistemlerinin kolluk kuvvetlerinin amaçları doğrultusunda kullanılmasına ilişkin bazı değişiklikler kabul edilmiştir. Uygun tedbirlere tâbi olarak bu değişiklikler, faaliyetleriyle ilgili hassas operasyonel verilerin gizliliğine saygı gösterme ihtiyacını yansıtmayı amaçlamaktadır. Örneğin acil durumlarda kolluk kuvvetlerinin, uygunluk değerlendirme prosedürünü geçmemiş yüksek riskli bir YZ aracını kullanmasına izin veren bir acil durum prosedürü getirilmiştir. Bununla birlikte, temel hakların YZ sistemlerinin olası kötüye kullanımlarına karşı yeterince korunmasını sağlamak için özel bir mekanizma da oluşturulmuştur.
Ayrıca kamuya açık alanlarda gerçek zamanlı uzaktan biyometrik kimlik tespiti sistemlerinin kullanımına ilişkin olarak geçici anlaşma, bu tür kullanımın kolluk kuvvetleri için kesinlikle gerekli olduğu ve bu nedenle kolluk kuvvetlerinin bu tür sistemleri kullanmasına istisnaî olarak izin verilmesini gerektiren amaçları açıklığa kavuşturmaktadır. Uzlaşma anlaşması ek tedbirler öngörmekte ve bu istisnaları belirli suçların mağdurları, gerçek, mevcut veya öngörülebilir tehditlerin (örneğin terör saldırılarının) önlenmesi ve ciddi suçlardan şüphelenilen kişilerin aranması ile ilgili vakalarla sınırlandırmaktadır.
Genel amaçlı yapay zekâ sistemleri ve temel modeller
YZ sistemlerinin birçok farklı amaç için kullanılabildiği (genel amaçlı YZ) ve genel amaçlı YZ teknolojisinin daha sonra başka bir yüksek riskli sisteme entegre edildiği durumları değerlendirmek için yeni hükümler eklenmiştir. Geçici anlaşma ayrıca genel amaçlı YZ (GPAI) sistemlerinin özel durumlarını da ele almaktadır.
Video, metin, görüntü üretme, sohbet, hesaplama veya bilgisayar kodu üretme gibi çok çeşitli farklı görevi yetkin bir şekilde yerine getirebilen büyük sistemler olan temel modeller için de özel kurallar kabul edilmiştir. Geçici anlaşma, temel modellerin piyasaya sürülmeden önce belirli şeffaflık yükümlülüklerine uygun olmasını gerektirmektedir. “Yüksek etkili” temel modeller için daha katı bir rejim getirilmiştir. Bunlar, büyük miktarda veri ile eğitilen ve gelişmiş karmaşıklığa, yetkinliklere ve ortalamanın çok üzerinde performansa sahip olan ve sistemik riskleri değer zinciri boyunca yayabilecek temel modellerdir.
YZ Ofisi ve YZ Kurulu ile AB’de yeni bir yönetişim mimarisi
GPAI modellerine ilişkin yeni kurallar ve bunların AB düzeyinde uygulanmasına yönelik bariz ihtiyaç sonrasında, Komisyon bünyesinde, bu en gelişmiş YZ modellerini denetlemek, standartların ve test uygulamalarının geliştirilmesine katkıda bulunmak ve tüm üye ülkelerde ortak kuralları uygulamakla görevli bir YZ Ofisi kurulmuştur. Bağımsız uzmanlardan oluşan bilimsel bir panel, temel modellerin kapasitelerini değerlendirmek için metodolojilerin geliştirilmesine katkıda bulunarak yüksek etkili temel modellerin belirlenmesi ve oluşturulması konusunda tavsiyeler sunup temel modellerle ilgili olası önemli güvenlik risklerini izleyerek YZ Ofisi’ne GPAI modelleri hakkında tavsiyelerde bulunacaktır.
Bu tarihi bir başarı ve geleceğe yönelik büyük bir kilometre taşıdır! Anlaşma, hızla gelişen teknolojik ortamda toplumlarımızın ve ekonomilerimizin geleceği için kilit öneme sahip küresel bir meseleyi etkin bir biçimde ele almaktadır. Ve bu çabalarımız sonucunda son derece hassas bir dengeyi sağlamış durumdayız: Bir yandan vatandaşlarımızın temel haklarına bütünüyle saygı gösterirken, diğer yandan Avrupa genelinde yapay zekânın inovasyonunu ve yaygınlaşmasını desteklemekteyiz. —Carme Artigas, İspanya Dijitalleşme ve Yapay Zekâdan Sorumlu Devlet Bakanı
Üye devletlerin temsilcilerinden oluşacak YZ Kurulu, bir koordinasyon platformu ve Komisyon için bir danışma organı olarak varlığını sürdürecek, temel modeller için uygulama kurallarının tasarlanması da dâhil olmak üzere mevzuatın uygulanması konusunda Üye Devletlere önemli bir görev yükleyecektir. Son olarak, YZ Kurulu’na teknik uzmanlık desteği sağlamak üzere endüstri temsilcileri, KOBİ’ler, start-up’lar, sivil toplum ve akademi gibi paydaşlar için bir danışma forumu oluşturulacaktır.
AB Yapay Zekâ Yasası’nda öngörülen ceza ve yaptırımlar
YZ yasası ihlalleri nedeniyle uygulanacak para cezaları, ihlalde bulunan şirketin bir önceki mali yıldaki küresel yıllık cirosunun bir yüzdesi veya önceden tespit edilmiş bir miktar (hangisi daha yüksekse) olarak belirlenmiştir. Bu, yasaklanan YZ uygulamalarına ilişkin ihlaller için 35 milyon Euro veya %7, YZ yasasındaki yükümlülüklere ilişkin ihlaller için 15 milyon Euro veya %3 ve yanlış bilgi temini için 7,5 milyon Euro veya %1,5 olacaktır. Bununla birlikte geçici anlaşma, YZ Yasası hükümlerinin ihlali durumunda KOBİ’ler ve start-up’lar için idari para cezalarında daha orantılı üst sınırlar öngörmektedir.
Uzlaşma anlaşması ayrıca, YZ Yasası ihlali ile ilgili olarak, bir gerçek veya tüzel kişinin ilgili piyasa gözetim otoritesine şikâyette bulunabileceğini ve böyle bir şikâyetin ilgili otoritenin kendi özel prosedürlerine uygun olarak ele alınmasını bekleyebileceğini açıkça ortaya koymaktadır.
Geçici anlaşma, dağıtıcıları tarafından piyasaya sürülmeden önce, yüksek riskli YZ sistemlerinin temel haklar etki değerlendirmesine tâbi tutulmasını öngörmektedir. Anlaşma ayrıca yüksek riskli YZ sistemlerinin kullanımına daha fazla şeffaflık getirmektedir. Özellikle, Komisyon teklifinin bazı hükümleri, yüksek riskli bir YZ sisteminin kamu tüzel kişisi niteliğindeki belirli kullanıcılarının da bu sistemler için AB veri tabanına kayıt yaptırmakla yükümlü olacağını belirtecek şekilde değiştirilmiştir. Ayrıca, yeni eklenen hükümler, duygu tanıma sistemi kullanıcılarının, gerçek kişiler bu tür bir sisteme maruz kaldıklarında onları bilgilendirme yükümlülüğüne vurgu yapmaktadır.
İnovasyonu destekleyici tedbirler
Daha inovasyon dostu bir yasal çerçeve oluşturmak ve kanıta dayalı düzenleyici öğrenmeyi teşvik etmek amacıyla, inovasyonu destekleyici tedbirlere ilişkin hükümler Komisyon teklifine kıyasla önemli ölçüde değiştirilmiştir.
Özellikle, yenilikçi YZ sistemlerinin geliştirilmesi, test edilmesi ve doğrulanması için kontrollü bir ortam oluşturması beklenen YZ düzenleyici kum havuzlarının, yenilikçi YZ sistemlerinin gerçek dünya koşullarında test edilmesine de olanak tanıması gerektiği açıklığa kavuşturulmuştur. Ayrıca, YZ sistemlerinin gerçek dünya koşullarında, belirli şartlar ve güvenlik önlemleri altında test edilmesine olanak tanıyan yeni hükümler eklenmiştir. Daha küçük şirketlerin idari yükünü hafifletmek için geçici anlaşma, bu tür işletmeleri desteklemek amacıyla üstlenilecek faaliyetlerin bir listesini içermekte ve bazı sınırlı ve açıkça belirtilmiş muafiyetler sağlamaktadır.
AB Yapay Zekâ Yasası ne zaman yürürlüğe girecek
Geçici anlaşma, belirli hükümlere yönelik bazı istisnalar hariç olmak üzere, YZ Yasası’nın yürürlüğe girmesinden iki yıl sonra uygulanmasını öngörmektedir.
Bugünkü geçici anlaşmanın ardından, yeni düzenlemenin detaylarına son şeklinin verilmesi için önümüzdeki haftalarda teknik düzeyde çalışmalar devam edecek. Bu çalışmalar tamamlandıktan sonra Başkanlık uzlaşma metnini onay için üye devletlerin temsilcilerine (Daimî Temsilciler Meclisi) sunacak.
Ortak yasa koyucular tarafından resmi olarak kabulünden önce, metnin tamamının her iki kurum tarafından onaylanması ve yasal-dilsel revizyondan geçmesi gerekecek.
İLGİLİ: YAPAY ZEKÂ HABERLERİ
Dünyanın ilk yapay zekâ yasasını Avrupa Parlamentosu onayladı
ChatGPT doğru cevap veriyor mu? Sohbet botlarının yanıtlarının %30’u yanlış, %3’ü uydurma çıktı
Cesur yeni dünya: Habercilikte yapay zekâ stratejisi için 5 tavsiye
Yapay zekanın tarihçesi: Cezeri’nin robotlarından derin sinir ağlarına 1000 yıl
