Üç gün süren 'maraton' görüşmelerin ardından Konsey başkanlığı ve Avrupa Parlamentosu müzakerecileri, yapay zeka yasası olarak adlandırılan yapay zekaya (AI) ilişkin uyumlulaştırılmış kurallara ilişkin teklif üzerinde geçici bir anlaşmaya vardı. Taslak düzenleme, Avrupa pazarına sunulan ve AB'de kullanılan yapay zeka sistemlerinin güvenli olmasını ve temel haklara ve AB değerlerine saygılı olmasını sağlamayı amaçlıyor. Bu dönüm noktası niteliğindeki öneri aynı zamanda Avrupa'da yapay zekaya yönelik yatırım ve yenilikçiliği teşvik etmeyi de amaçlıyor.
Bu tarihi bir başarıdır ve geleceğe yönelik büyük bir kilometre taşıdır! Bugünkü anlaşma, hızla gelişen teknolojik ortamda, toplumlarımızın ve ekonomilerimizin geleceği için kilit bir alanda ortaya çıkan küresel zorluklara etkili bir şekilde çözüm getiriyor. Ve bu çabamızda, son derece hassas bir dengeyi korumayı başardık: Avrupa çapında yenilikçiliği ve yapay zekanın benimsenmesini artırırken, aynı zamanda vatandaşlarımızın temel haklarına tam olarak saygı duyuyoruz.Carme Artigas, İspanya'nın dijitalleşme ve yapay zekadan sorumlu dışişleri bakanı
Yapay zeka kanunu bir amiral gemisi AB'nin tek pazarında hem özel hem de kamu aktörleri tarafından güvenli ve güvenilir yapay zekanın geliştirilmesini ve benimsenmesini teşvik etme potansiyeline sahip yasama girişimi. Ana fikir, yapay zekanın topluma zarar verme kapasitesine göre düzenlenmesidir. 'risk bazlı' yaklaşım: Risk ne kadar yüksek olursa kurallar da o kadar katı olur. Dünyada türünün ilk yasa teklifi olan bu yasa, küresel standart Tıpkı GDPR'nin yaptığı gibi, diğer yetki alanlarındaki yapay zeka düzenlemeleri için, böylece dünya çapında teknoloji düzenlemesine Avrupa yaklaşımını teşvik ediyoruz.
Geçici anlaşmanın ana unsurları
Komisyon'un ilk teklifiyle karşılaştırıldığında, geçici anlaşmanın temel yeni unsurları şu şekilde özetlenebilir:
kurallar yüksek etkili genel amaçlı yapay zeka modelleri yüksek riskin yanı sıra gelecekte sistemik riske neden olabilecek AI sistemleri
revize edilmiş bir sistem yönetim AB düzeyinde bazı uygulama yetkilerine sahip
listesinin uzatılması yasaklar ama kullanma imkanı var uzaktan biyometrik tanımlama güvenlik önlemlerine tabi olarak kamusal alanlarda kolluk kuvvetleri tarafından
Yüksek riskli yapay zeka sistemlerini dağıtanların bir denetim yürütme yükümlülüğü yoluyla hakların daha iyi korunması temel haklar etki değerlendirmesi Bir AI sistemini kullanıma sokmadan önce.
Daha somut bir ifadeyle, geçici anlaşma aşağıdaki hususları kapsamaktadır:
Tanımlar ve kapsam
Emin olmak için tanım Bir yapay zeka sisteminin tanımı, yapay zekayı daha basit yazılım sistemlerinden ayırmak için yeterince açık kriterler sağlarken, uzlaşma anlaşması, tanımı OECD tarafından önerilen yaklaşımla uyumlu hale getiriyor.
Geçici anlaşma aynı zamanda düzenlemenin AB hukukunun kapsamı dışındaki alanlara uygulanmadığını ve hiçbir durumda üye devletlerin bu alandaki yetkilerini etkilememesi gerektiğini de açıklığa kavuşturuyor. Ulusal Güvenlik veya bu alanda görevlendirilen herhangi bir kuruluş. Ayrıca yapay zeka kanunu yalnızca şu amaçla kullanılan sistemlere uygulanmayacaktır: askeri or savunma amaçlar. Benzer şekilde anlaşma, düzenlemenin yalnızca aşağıdaki amaçlarla kullanılan yapay zeka sistemleri için geçerli olmayacağını öngörüyor: araştırma ve yenilikveya yapay zekayı profesyonel olmayan nedenlerle kullanan kişiler için.
reklâm
Yapay zeka sistemlerinin yüksek riskli ve yasaklı yapay zeka uygulamaları olarak sınıflandırılması
Uzlaşma anlaşması şunları sağlar: yatay koruma katmanı, Ciddi temel hak ihlallerine veya diğer önemli risklere neden olması muhtemel olmayan yapay zeka sistemlerinin yakalanmamasını sağlamak için yüksek risk sınıflandırması da dahil. Yalnızca sunulan yapay zeka sistemleri sınırlı risk çok ışığa maruz kalacak şeffaflık yükümlülükleriÖrneğin, kullanıcıların daha sonraki kullanımlarda bilinçli kararlar verebilmeleri için içeriğin yapay zeka tarafından oluşturulduğunun açıklanması.
Geniş bir yelpazede yüksek risk Yapay zeka sistemlerine izin verilecek, ancak AB pazarına erişim sağlamak için bir dizi gereksinim ve yükümlülüğe tabi olacak. Bu gereklilikler, yasa koyucular tarafından daha fazla önem taşıyacak şekilde açıklığa kavuşturulmuş ve düzenlenmiştir. Teknik olarak uygulanabilir ve daha az külfetli Paydaşların, örneğin veri kalitesiyle ilgili olarak veya KOBİ'lerin yüksek riskli yapay zeka sistemlerinin gerekliliklere uygun olduğunu göstermek için hazırlaması gereken teknik belgelerle ilgili olarak uyması gerekenler.
Yapay zeka sistemleri karmaşık değer zincirleri aracılığıyla geliştirilip dağıtıldığından, uzlaşma anlaşması, sorumlulukların tahsisi ve çeşitli aktörlerin rolleri bu zincirlerde, özellikle de yapay zeka sistemlerinin sağlayıcıları ve kullanıcıları. Ayrıca AI Yasası kapsamındaki sorumluluklar ile ilgili AB veri koruma veya sektörel mevzuat gibi diğer mevzuat kapsamında halihazırda mevcut olan sorumluluklar arasındaki ilişkiyi de açıklığa kavuşturmaktadır.
Yapay zekanın bazı kullanımları için risk kabul edilir kabul edilemez ve dolayısıyla bu sistemler AB'de yasaklanacak. Geçici anlaşma, örneğin bilişsel faaliyetleri yasaklıyor davranışsal manipülasyon, hedeflenmemiş hurdaya İnternetten alınan yüz görüntüleri veya CCTV görüntüleri, duygu tanıma İşyerlerinde ve eğitim kurumlarında, sosyal puanlama, biyometrik sınıflandırma cinsel yönelim veya dini inançlar gibi hassas verilerden ve bazı durumlardan çıkarımlarda bulunmak için önleyici polislik Bireyler için.
Kanun yaptırımı istisnaları
Özellikleri göz önüne alındığında kolluk kuvvetleri Yapay zekayı hayati işlerinde kullanma yeteneklerini koruma ihtiyacı nedeniyle, yasa uygulama amacıyla yapay zeka sistemlerinin kullanımına ilişkin Komisyon teklifinde çeşitli değişiklikler yapılmasına karar verildi. Uygunluk şartıyla güvenceler, bu değişikliklerin, faaliyetleriyle ilgili olarak hassas operasyonel verilerin gizliliğine saygı duyulması ihtiyacını yansıtması amaçlanmaktadır. Örneğin, kolluk kuvvetlerinin, mevzuatı geçmeyen yüksek riskli bir yapay zeka aracını konuşlandırmasına izin veren bir acil durum prosedürü uygulamaya konuldu. uygunluk değerlendirmesi acil durumlarda prosedür. Ancak bunu sağlamak için özel bir mekanizma da devreye sokulmuştur. temel haklar Yapay zeka sistemlerinin olası suiistimallerine karşı yeterince korunacaktır.
Ayrıca gerçek zamanlı kullanımın uzaktan biyometrik tanımlama Kamuya açık alanlardaki sistemler için geçici anlaşma, bu tür bir kullanımın kolluk kuvvetlerinin amaçları doğrultusunda kesinlikle gerekli olduğu ve bu nedenle kolluk kuvvetlerinin bu tür sistemleri kullanmasına istisnai olarak izin verilmesi gereken hallerdeki hedefleri açıklığa kavuşturmaktadır. Uzlaşma anlaşması şunları sağlar: ek güvenlik önlemleri ve bu istisnaları belirli suçların mağdurları, terör saldırıları gibi gerçek, mevcut veya öngörülebilir tehditlerin önlenmesi ve en ciddi suçlardan şüphelenilen kişilerin aranması vakalarıyla sınırlandırmaktadır.
Genel amaçlı yapay zeka sistemleri ve temel modelleri
Yapay zeka sistemlerinin birçok farklı amaç için kullanılabileceği durumları dikkate alacak yeni hükümler eklendi (genel amaçlı yapay zeka) ve genel amaçlı yapay zeka teknolojisinin daha sonra başka bir yüksek riskli sisteme entegre edildiği durumlar. Geçici anlaşma aynı zamanda genel amaçlı yapay zeka (GPAI) sistemlerinin spesifik durumlarını da ele alıyor.
için özel kurallar da kabul edildi. temel modellerivideo, metin, resim oluşturma, yan dilde konuşma, hesaplama veya bilgisayar kodu oluşturma gibi çok çeşitli farklı görevleri yetkin bir şekilde yerine getirebilen büyük sistemler. Geçici anlaşma, temel modellerinin belirli kurallara uyması gerektiğini öngörüyor şeffaflık yükümlülükleri piyasaya sürülmeden önce. Daha sıkı bir rejim getirildi 'yüksek etki' temel modelleri. Bunlar, büyük miktarda veriyle eğitilmiş, gelişmiş karmaşıklığa, yeteneklere ve ortalamanın çok üzerinde performansa sahip, sistemik riskleri değer zinciri boyunca dağıtabilen temel modellerdir.
Yeni bir yönetim mimarisi
GPAI modellerine ilişkin yeni kuralları ve bunların AB düzeyinde uygulanmasına yönelik bariz ihtiyacı takip ederek, Yapay Zeka Ofisi Komisyon bünyesinde, bu en gelişmiş yapay zeka modellerini denetlemek, standartların ve test uygulamalarının geliştirilmesine katkıda bulunmak ve tüm üye devletlerde ortak kuralları uygulamakla görevli bir birim kurulmuştur. A bağımsız uzmanlardan oluşan bilimsel panel Temel modellerinin yeteneklerinin değerlendirilmesine yönelik metodolojilerin geliştirilmesine katkıda bulunarak, yüksek etkili temel modellerinin belirlenmesi ve ortaya çıkması konusunda tavsiyelerde bulunarak ve temel modelleriyle ilgili olası malzeme güvenliği risklerini izleyerek AI Ofisine GPAI modelleri hakkında tavsiyelerde bulunacaktır.
The AI Kurulu, Üye devletlerin temsilcilerinden oluşacak olan bu kurul, Komisyon için bir koordinasyon platformu ve danışma organı olarak kalacak ve kuruluş modelleri için uygulama esaslarının tasarlanması da dahil olmak üzere, yönetmeliğin uygulanması konusunda Üye Devletlere önemli bir rol verecek. Son olarak, bir danışma forumu AI Kuruluna teknik uzmanlık sağlamak üzere sektör temsilcileri, KOBİ'ler, start-up'lar, sivil toplum ve akademi gibi paydaşlara yönelik bir platform oluşturulacak.
cezalar
Yapay zeka kanununun ihlaline ilişkin para cezaları, suçu işleyen şirketin bir önceki mali yıldaki küresel yıllık cirosunun bir yüzdesi veya önceden belirlenmiş bir tutar (hangisi daha yüksekse) olarak belirlendi. Bu, yasaklı yapay zeka uygulamalarının ihlali için 35 milyon avro veya %7, yapay zeka yasasının yükümlülüklerinin ihlali için 15 milyon avro veya %3 ve yanlış bilgi sağlanması için 7,5 milyon avro veya %1,5 olacaktır. Ancak geçici anlaşma şunu öngörüyor: daha orantılı büyük harfler Yapay Zeka Kanunu hükümlerinin ihlali durumunda KOBİ'lere ve yeni kurulan işletmelere yönelik idari para cezaları hakkında.
Uzlaşma sözleşmesinde ayrıca gerçek veya tüzel kişinin ilgili makama şikâyette bulunabileceği de açıkça düzenlenmiştir. piyasa gözetim otoritesi AI kanununa uyulmaması ile ilgili olarak ve bu tür bir şikayetin söz konusu makamın özel prosedürlerine uygun olarak ele alınmasını bekleyebilir.
Şeffaflık ve temel hakların korunması
Geçici anlaşma şunu öngörüyor: temel haklar etki değerlendirmesi Yüksek riskli bir yapay zeka sistemi, uygulayıcıları tarafından pazara sunulmadan önce. Geçici anlaşma aynı zamanda artan şeffaflık Yüksek riskli yapay zeka sistemlerinin kullanımıyla ilgili. Komisyon teklifinin bazı hükümleri, yüksek riskli yapay zeka sisteminin kamu kurumu olan belirli kullanıcılarının da kayıt yaptırmak zorunda olacağını belirtmek üzere değiştirilmiştir. AB veritabanı yüksek riskli yapay zeka sistemleri için. Ayrıca yeni eklenen hükümler, kullanıcıların bir yükümlülük altına girdiğini vurgulamaktadır. duygu tanıma sistemi Gerçek kişileri böyle bir sisteme maruz kaldıklarında bilgilendirmek.
İnovasyonu destekleyen önlemler
Yeniliğe daha duyarlı bir yasal çerçeve oluşturmak ve kanıta dayalı düzenleyici öğrenmeyi teşvik etmek amacıyla, inovasyonu destekleyen önlemler Komisyonun teklifiyle karşılaştırıldığında önemli ölçüde değiştirildi.
Özellikle, AI'nın açıklığa kavuşturulduğu açıklığa kavuşturuldu. düzenleyici sanal alanlarYenilikçi yapay zeka sistemlerinin geliştirilmesi, test edilmesi ve doğrulanması için kontrollü bir ortam oluşturması beklenen yapay zeka sistemleri, aynı zamanda yenilikçi yapay zeka sistemlerinin gerçek dünya koşullarında test edilmesine de izin vermelidir. Ayrıca izin veren yeni hükümler eklenmiştir. test yapmak yapay zeka sistemlerinin gerçek dünya koşullarıbelirli koşullar ve güvenceler altında. Küçük şirketlerin idari yükünü hafifletmek amacıyla geçici anlaşma, bu tür işletmecileri desteklemek için gerçekleştirilecek eylemlerin bir listesini içermekte ve bazı sınırlı ve açıkça belirtilmiş istisnalar öngörmektedir.
Yürürlüğe giriş
Geçici anlaşma AI kanununun uygulanması gerektiğini öngörüyor İki yıl Belirli hükümlere ilişkin bazı istisnalar dışında, yürürlüğe girmesinden sonra.
Sonraki adımlar
Bugünkü geçici anlaşmanın ardından, yeni düzenlemenin ayrıntılarının kesinleşmesi için önümüzdeki haftalarda teknik düzeyde çalışmalar devam edecek. Başkanlık, bu çalışma tamamlandıktan sonra uzlaşma metnini onay için üye devletlerin temsilcilerine (Coreper) sunacak.
Metnin tamamının her iki kurum tarafından da onaylanması ve ortak yasa koyucular tarafından resmi olarak kabul edilmeden önce hukuki-dilsel açıdan gözden geçirilmesi gerekecek.
Arkaplan bilgisi
Nisan 2021'de sunulan Komisyon teklifi, AB'nin temel haklara saygılı, güvenli ve yasal yapay zekanın tek pazarda geliştirilmesini ve benimsenmesini teşvik etme politikasının temel bir unsurudur.
Teklif, risk temelli bir yaklaşımı izliyor ve yapay zeka için yasal kesinliği sağlamayı amaçlayan tek tip, yatay bir yasal çerçeve ortaya koyuyor. Taslak düzenleme, yapay zekaya yatırım ve yeniliği teşvik etmeyi, yönetişimi geliştirmeyi ve temel haklar ve güvenliğe ilişkin mevcut yasanın etkili bir şekilde uygulanmasını ve yapay zeka uygulamaları için tek bir pazarın geliştirilmesini kolaylaştırmayı amaçlıyor. Avrupa'da yapay zekaya yatırımı hızlandırmayı amaçlayan yapay zekaya ilişkin koordineli plan da dahil olmak üzere diğer girişimlerle el ele gidiyor. 6 Aralık 2022'de Konsey, bu dosya üzerinde genel bir yaklaşım (müzakere yetkisi) için anlaşmaya vardı ve Haziran 2023'ün ortalarında Avrupa Parlamentosu ile kurumlar arası görüşmelere ("üçlü görüşmeler") başladı.
EU Reporter, çok çeşitli bakış açılarını ifade eden çeşitli dış kaynaklardan makaleler yayınlamaktadır. Bu makalelerde alınan pozisyonlar mutlaka EU Reporter'ınkiler değildir.
