Bizimle iletişime geçin

Bilgisayar Teknolojisi

OASI, hükümetlerin ve şirketlerin vatandaşlar üzerinde kullandığı algoritmaları bulan ilk arama motoru

HİSSE:

Yayınlanan

on

Kaydınızı, onayladığınız şekillerde içerik sağlamak ve sizi daha iyi anlamak için kullanırız. İstediğiniz zaman abonelikten çıkabilirsiniz.

  • Sosyal Etkiye Sahip Algoritmalar Gözlemevi olan Eticas Vakfı tarafından oluşturulan OASI, sosyal etkileri hakkında daha fazla bilgi edinmek için dünya çapında Kamu İdareleri ve şirketler tarafından kullanılan düzinelerce algoritmadan bilgi toplar.
  • Amaç, hem hükümetler hem de şirket algoritmaları hakkındaki bilgilere kamu erişimi sağlamak ve diğer özelliklerin yanı sıra bunları kimin kullandığını, kimin geliştirdiğini, hangi tehditleri temsil ettiklerini ve denetlenip denetlenmediklerini bilmektir.
  • Algoritma yanlılığı ve ayrımcılık, diğer değerlerin yanı sıra genellikle yaş, cinsiyet, ırk veya engelliliğe dayalı olarak ortaya çıkar, ancak genel şeffaflık eksikliği nedeniyle, etkilenen gruplar üzerindeki tüm sonuçlarını bilmek hala mümkün değildir.

Algoritmaların ve Yapay Zeka (AI) sistemlerinin sorumlu kullanımını teşvik eden kar amacı gütmeyen bir kuruluş olan Eticas Vakfı, Sosyal Etkiye Sahip Algoritmalar Gözlemevi'ni (OASI) oluşturdu. Bu Gözlemevi, dünyanın her yerindeki vatandaşlar, tüketiciler ve kullanıcılar hakkında önemli otomatik kararlar veren araçlar hakkında daha fazla bilgi sahibi olmak için bir arama motoru sunar.

Şu anda hem şirketler hem de Kamu İdareleri kararları algoritmalar sayesinde otomatik hale getiriyor. Yine de, geliştirilmesi ve devreye alınması, dış kalite kontrollerini takip etmiyor, olması gerektiği kadar şeffaf değil, bu da nüfusu korumasız bırakıyor. Bu arama motoruyla herkes bu algoritmalar hakkında daha fazla bilgi edinebilir: bunları kimin geliştirdiği, kimin kullandığı, uygulama kapsamı, denetlenip denetlenmediği, amaçları veya sosyal etkileri ve temsil ettikleri tehditler.

Şu anda, OASI 57 algoritma topluyor, ancak önümüzdeki aylarda 100'e ulaşmayı bekliyor. Bunlardan 24'ü ABD'de Hükümet ve Büyük Teknoloji şirketleri tarafından halihazırda uygulanıyor. Örneğin, ShotSpotter, Oakland Polis Departmanı tarafından ses izleme mikrofonları aracılığıyla silah şiddetiyle mücadele etmek ve azaltmak için kullanılan bir algoritma aracı ve Allegheny County, Pennsylvania tarafından kullanılan olası çocuk istismarı ve ihmalini tahmin etmeye yönelik bir algoritma. Bir şirketten başka bir örnek, Amazon'un 2019'un başlarında MIT Medya Laboratuvarı tarafından denetlenen ve bir bireyin cinsiyetini kadın veya daha koyu tenliyse tanımlarken önemli ölçüde daha kötü performans gösterdiği tespit edilen yüz tanıma sistemi Rekognition'dır.

En yaygın ayrımcılık yaş, cinsiyet, ırk veya engelliliğe dayalıdır, Bu teknolojinin etkisini anlamak için sosyoekonomik becerilerden yoksun geliştiriciler tarafından kasıtsız olarak üretilmiştir. Bu anlamda bu mühendisler algoritmaları sadece teknik becerilere dayalı olarak tasarlarlar ve harici kontroller olmadığı ve beklendiği gibi çalıştığı için algoritma eksik verilerden öğrenmeye devam eder.

Bu algoritmaların bazılarının işleyişi hakkında şeffaflık eksikliği göz önüne alındığında, Eticas Vakfı, OASI'nin başlatılmasının yanı sıra bir dış denetim projesi geliştiriyor. Birincisi, İspanya İçişleri Bakanlığı tarafından aile içi şiddet vakalarına maruz kaldıktan sonra koruma arayan kadınlara risk atamak için kullanılan algoritma olan VioGén. Eticas, sonuçları geniş ölçekte toplamak için tersine mühendislik ve idari veriler, görüşmeler, raporlar veya tasarım senaryoları aracılığıyla bir dış denetim gerçekleştirecektir. Bütün bunlar, bu kadınların korunmasında iyileştirme fırsatlarını tespit etmek amacıyla.

Eticas Vakfı'nın kurucusu Gemma Galdon, "Teknolojinin mevcut düzenlemelere ve temel haklara saygı duymasını sağlamak için algoritmik kontrol ve denetim yöntemlerinin varlığına rağmen, İdare ve birçok şirket vatandaşlardan ve kurumlardan gelen şeffaflık taleplerine kulak tıkamaya devam ediyor" dedi. . “OASI'ye ek olarak, Alpha Telefónica, Birleşmiş Milletler, Koa Health veya Inter-Amerikan Kalkınma Bankası gibi şirketler için bir düzineden fazla denetim geliştirdiğimiz birkaç yıldan sonra, ayrıca bir Algoritmik Denetim Kılavuzu yayınladık. herkesin bunları gerçekleştirebileceğini. Amaç her zaman farkındalığı artırmak, şeffaflık sağlamak ve kendi içinde zararlı olmak zorunda olmayan teknolojiye olan güveni yeniden tesis etmektir.”

Bu anlamda, geçmiş kararlara dayanarak seçim yapmayı "öğretmek" için büyük miktarda geçmiş veri kullanan makine öğrenme teknikleri ile eğitilmiş algoritmalar. Genellikle bu veriler, uygulandıkları sosyoekonomik ve kültürel gerçekliği temsil etmezler, ancak birçok durumda, sürdürülmesi amaçlanmayan haksız bir durumu yansıtırlar. Bu şekilde, gerçek, tavsiyeleri veya tahminleri önyargılı veya ayrımcı olsa da, algoritma eğitimine göre teknik olarak "doğru" kararlar alacaktır.

reklâm

Eticas Vakfı Hakkında

Eticas Vakfı, hayatımızla ilgili otomatik kararlar veren teknolojilerde yer alan fırsat eşitliği, şeffaflık ve ayrımcılık yapmama gibi topluma yön veren ilkeleri teknik şartnamelere dönüştürmek için çalışıyor. Değişen toplumsal değerler, son gelişmelerin teknik olanakları ve yasal çerçeve arasında bir denge arar. Bu amaçla algoritmaları denetler, başta Yapay Zeka olmak üzere dijital dünyaya yasal garantilerin uygulandığını doğrular, farkındalık yaratmak ve sorumlu, kaliteli teknoloji ihtiyacını yaygınlaştırmak için yoğun çalışmalar yürütür.

Bu makaleyi paylaş:

EU Reporter, çok çeşitli bakış açılarını ifade eden çeşitli dış kaynaklardan makaleler yayınlamaktadır. Bu makalelerde alınan pozisyonlar mutlaka EU Reporter'ınkiler değildir.

Trend