AI terörizmini önleyecek yasalara acilen ihtiyaç var

Aşırılıkçılıkla mücadele eden bir düşünce kuruluşuna göre hükümetler, yapay zekanın teröristleri işe almasını önlemek için yeni düzenlemeleri "acilen değerlendirmeli".

Stratejik Diyalog Enstitüsü (ISD) tarafından, teröristlerin internete yerleştirdiği tehditlere ayak uydurmak için "yasaya açık bir ihtiyaç" olduğu söylendi.

Bu, bir chatbot'un Birleşik Krallık için bağımsız terör mevzuatı incelemecisini "işe aldığı" bir deneyin ardından geldi.

Birleşik Krallık hükümeti, halkı korumak için "elimizden geleni" yapacaklarını söyledi.

Hükümetin bağımsız terör mevzuatı inceleme uzmanı Jonathan Hall KC'ye göre, en önemli sorunlardan biri "chatbot tarafından üretilen ve terörizmi teşvik eden açıklamalardan hukuken sorumlu olabilecek bir kişiyi tespit etmenin zor olmasıdır."

Bay Hall tarafından, kullanıcıların diğer kullanıcılar tarafından oluşturulan ve yapay zeka tarafından geliştirilen sohbet robotlarıyla sohbet etmesine olanak tanıyan bir web sitesi olan Character.ai üzerinde bir deney gerçekleştirildi.

Diğer militan ve aşırılık yanlısı grupların yanıtlarını taklit etmek üzere tasarlanmış gibi görünen çeşitli botlarla sohbet etti.

reklâm

Hatta İslam Devleti'nin üst düzey bir liderine "kıdemli lider" deniyordu.

Bay Hall'a göre, bot onu işe almak için bir girişimde bulundu ve Birleşik Krallık'ta terörizmi yasaklayan yasalarca yasaklanan aşırılık yanlısı gruba "tam bağlılık ve bağlılık" ilan etti.

Öte yandan Bay Hall, iletişimin bir insan tarafından yapılmaması nedeniyle Birleşik Krallık'ta yasanın ihlal edilmediğini belirtti.

Ona göre, yeni düzenlemelerin hem chatbot barındıran web sitelerini hem de onları oluşturan kişileri sorumlu tutması gerekiyor.

Character.ai'de karşılaştığı botlara gelince, yaratılmalarının arkasında "muhtemelen bazı şok edici değerler, deneyler ve muhtemelen bazı hicivsel yönler" olduğunu belirtti.

Buna ek olarak, Bay Hall, terörist faaliyetlere karşı "sınırsız bir coşku" sergileyerek, derhal sildiği kendi "Usame Bin Ladin" sohbet robotunu geliştirmeyi başardı.

Onun deneyi, aşırılık yanlılarının gelişmiş yapay zekayı nasıl istismar edebileceğine dair artan endişelerin ardından geldi.

Birleşik Krallık hükümeti tarafından 2025 yılında yayınlanan araştırmaya göre, XNUMX yılına gelindiğinde üretken yapay zeka "kimyasal, biyolojik ve radyolojik silahlar da dahil olmak üzere devlet dışı şiddet içeren aktörlerin fiziksel saldırılarına ilişkin bilgi toplamak için kullanılabilir". Ekim yayınları.

ISD ayrıca "çevrimiçi terör tehditlerinin sürekli değişen ortamına ayak uydurmak için mevzuata açık bir ihtiyaç olduğunu" belirtti.

Düşünce kuruluşuna göre, 2023 yılında yasalaşan Birleşik Krallık Çevrimiçi Güvenlik Yasası, yapay zekadan ziyade "öncelikle sosyal medya platformlarının oluşturduğu riskleri yönetmeye yönelik".

Ayrıca radikallerin "gelişen teknolojileri erken benimseyen olma eğiliminde oldukları ve sürekli olarak yeni kitlelere ulaşma fırsatlarını aradıkları" belirtiliyor.

ISD, "Yapay zeka şirketleri, ürünlerinin güvenli olmasını sağlamak için yeterince yatırım yaptıklarını gösteremezlerse, o zaman hükümetin acilen yeni yapay zekaya özgü mevzuatı dikkate alması gerekir" dedi.

Ancak yaptığı gözlemlere göre üretken yapay zekanın aşırı örgütler tarafından kullanımının şu anda "nispeten sınırlı" olduğunu belirtti.

Character AI, güvenliğin "bir numaralı öncelik" olduğunu ve Bay Hall'un tanımladığı şeyin çok üzücü olduğunu ve şirketin kurmaya çalıştığı platform türünü yansıtmadığını belirtti.

Kuruluşa göre "Nefret söylemi ve aşırılık, Hizmet Şartlarımız tarafından yasaklanmıştır".

"Yapay zeka tarafından oluşturulan içeriğe yaklaşımımız basit bir prensipten yola çıkıyor: Ürünlerimiz asla kullanıcılara zarar verebilecek veya kullanıcıları başkalarına zarar vermeye teşvik edecek yanıtlar üretmemelidir".

Şirket, "güvenli yanıtlar için optimizasyon" amacıyla modellerini bir şekilde eğittiğini belirtti.

Buna ek olarak, insanların kurallarını ihlal eden bilgileri bildirmelerine olanak tanıyan bir denetleme mekanizmasının mevcut olduğunu ve içerik ihlalleri bildirdiğinde hızlı bir şekilde harekete geçme konusunda kararlı olduğunu belirtti.

Birleşik Krallık'taki muhalefetteki İşçi Partisi, iktidara gelmesi durumunda, yapay zekaya şiddeti kışkırtmayı veya duyarlı kişileri radikalleştirmeyi öğretmeyi cezai bir ihlal olarak ilan etti.

Birleşik Krallık hükümeti, yapay zekanın oluşturduğu "önemli ulusal güvenlik ve kamu güvenliği riskleri konusunda uyarı" olduğunu belirtti.

"Hükümet genelinde çalışarak ve teknoloji şirketi liderleri, sektör uzmanları ve benzer düşüncelere sahip ülkelerle işbirliğimizi derinleştirerek halkı bu tehditten korumak için elimizden geleni yapacağız."

Hükümet tarafından 2023 yılında yapay zeka güvenlik enstitüsüne yüz milyon lira yatırım yapılacak.

Bu makaleyi paylaş: