İçeriğe geç
Teknoaktif
Son haberler
EFF’nin Yapay Zeka Siber Güvenlik Politikası Çerçevesi
Aksesuar

EFF’nin Yapay Zeka Siber Güvenlik Politikası Çerçevesi

Son zamanlarda haberler, yapay zekanın web sitelerinin güvenliğini ihlal etmesine ilişkin hikayelerle dolup taştı. Bu durum, yapay zekanın rolü nedeniyle…

Son zamanlarda haberler, yapay zekanın web sitelerinin güvenliğini ihlal etmesine ilişkin hikayelerle dolup taştı. Bu durum, yapay zekanın rolü nedeniyle yeni bir sorun gibi görünse de aslında bu şirketlerin —dünyanın en büyük teknoloji şirketlerinden bazılarının— bu ihlalleri önlemek için uygulayabileceği ve uygulaması gereken uzun süredir var olan siber güvenlik en iyi uygulamaları mevcut.

Son siber güvenlik olayları, dünyanın en büyük teknoloji şirketlerinden bazılarının, internete bağlı sistemlerde gelişmiş yapay zeka sistemlerini test ederken temel güvenlik önlemlerini almadığını gösterdi. Ne yazık ki bu ihmaller, Hugging Face adlı bir yapay zeka araştırma paylaşım platformu ve Avustralya sağlık sisteminin web sitesi de dahil olmak üzere çok sayıda üçüncü taraf web sitesinin ihlal edilmesine yol açtı. Daha da kötüsü, yapay zeka geliştiricileri, test sırasında sistemlerin yetersiz izlenmesi nedeniyle olayların çoğunu meydana geldikten uzun süre sonra fark edemedi. Şirketler temel ve mantıklı güvenlik protokollerine uysaydı, bu olayların büyük olasılıkla yaşanmayacağı söylenebilir.

White House ve önde gelen yapay zeka şirketlerinin liderleri hiçbir eylemin gerekli olmadığını iddia etseler de, anlaşılabilir bir şekilde, tüm düzeylerdeki ve her iki partiden yasa koyucular yeni ve ek güvenlik protokolleri oluşturmak için yasalar öneriyor. Bu olaylar yasama eylemini hak edebilir. Ancak iyi haber şu ki, olay sonrası raporlar yeni protokollerin büyük ölçüde gereksiz olduğunu gösteriyor. Mevcut en iyi uygulamalara uyulması, OpenAI-Hugging Face olayını ve benzerlerini önlemek için yeterli olurdu. Başka bir deyişle, sorumlu yapay zeka geliştiricileri, sistemlerini geliştirirken ve test ederken köklü güvenlik önlemlerini uygulayarak halkı korumak için derhal harekete geçebilirler.

Yasa koyucular, ihmal, ağır ihmal, mülkiyet ihlali, Dijital Milenyum Telif Hakkı Yasası’nın (DMCA) 1201. Maddesi ve Tüketici Dolandırıcılığı ve Kötüye Kullanım Yasası (CFAA) gibi bilgisayar ihlali yasaları ile Kaliforniya Ceza Kanunu’nun 502. Maddesi gibi benzer eyalet yasaları da dahil olmak üzere mevcut yasal korumaları referans alarak başlamalıdır.

Politika yapıcılar, yapay zeka geliştiricilerinin yerleşik güvenlik protokollerine uymasını zorunlu kılarak ve bunu yapmamaları durumunda yasal sorumluluk oluşturarak halkın korunmasına yardımcı olabilirler. Bu politikalar, inovasyonu engellemeden halkı yapay zeka geliştiricilerinin sorumsuz eylemlerinden koruyacaktır. Mevcut yasalardaki boşluklar yeni mevzuatı gerektirdiği ölçüde, EFF aşağıdaki politika çerçevesini önermektedir:

  • YASAL GÜVENLİK GEREKLİLİKLERİ: Yasa koyucular, yapay zeka geliştiricilerinin yapay zeka sistemlerini test ederken güçlü sandboxing ve ağ izolasyonu, en az ayrıcalıklı erişim, etkili günlük tutma ve izleme ile net olay müdahale prosedürleri gibi köklü siber güvenlik en iyi uygulamalarına uymasını gerektiren yasalar çıkarmalıdır.
  • DÜZENLEYİCİ STANDARTLAR: Kongre, Ulusal Standartlar ve Teknoloji Enstitüsü (NIST)1 gibi mevcut bir federal kurumun, yukarıda belirtilen yerleşik en iyi uygulamalara dayanarak üretici yapay zeka sistemlerinin dağıtımdan önceki geliştirme ve testleri için güvenlik standartları benimsemesini zorunlu kılmalıdır. Kurumun bu standartları her 2 yılda bir veya bildirilen güvenlik olayları ve/veya önemli teknolojik gelişmeler nedeniyle daha erken güncellemesi gerekecektir. Bu standartlar, akademik ve kar amacı gütmeyen yapay zeka araştırmacıları, sivil özgürlük örgütleri ve ticari yapay zeka geliştiricileriyle istişare edilerek geliştirilmeli ve bir bildirim ve yorum sürecinin ardından resmi kurum kural yapımı yoluyla benimsenmelidir. Bu istişare, düzenleyici standartların potansiyel rakipleri etkili bir şekilde dışlamamasını sağlamak amacıyla rekabet üzerindeki olumsuz etkilerin bir değerlendirmesini de içermelidir.
  • SORUMLULUK: Yasa, NIST veya bu düzenlemeleri benimsemekten sorumlu başka bir federal kurum tarafından kabul edilen siber güvenlik standartlarını karşılamayan koşullar altında gerçekleştirildiğinde, üçüncü taraf bir sisteme yetkisiz erişime neden olan yapay zeka geliştirme ve test faaliyetleri için hukuki sorumluluk öngörmelidir; ancak şirket, üçüncü taraf sisteme yetkisiz erişimi önlemek için mevcut koşullar altında makul davrandığını kanıtlayabilirse bu durum istisna olacaktır.
  • UYGULAMA: Hem federal hem de eyalet makamları, NIST gibi belirlenmiş federal kurum tarafından kabul edilen asgari standartları karşılamayan yapay zeka geliştiricilerini sorumlu tutabilmelidir. Federalin yanı sıra eyalet düzeyinde uygulama yetkisinin sağlanması, düzenleyici ele geçirme riskini azaltır. Düzenleyiciler, üçüncü taraf bir bilgisayar sistemine yetkisiz erişim içeren bir güvenlik olayı durumunda bağımsız soruşturmalar ve etkilenen tarafların bilgilendirilmesini zorunlu kılmalıdır. Son olarak, mevzuat uygun şekilde hedeflenmiş bir özel dava hakkını da içermelidir.

Halkın, sorumsuz yapay zeka geliştiriminin risklerinden endişe etmesi veya sorumsuz geliştiricilerin zarar vermesini önlemek için yapay zekanın faydalarından vazgeçmesi gerekmemelidir. Kanıtlanmış riskleri ele alan politikaları benimseyerek, yasa koyucular faydalı araçların geliştirilmesini engellemeden halka anlamlı bir koruma sağlayabilirler.

1NIST, NSA ve CISA, yapay zeka ajanlarının eğitimi ve değerlendirilmesi sırasında güvenlik olaylarının yönetimi için yakın zamanda bir dizi gönüllü uygulama yayınladı. Bu uygulamalar, burada ana hatlarıyla belirtilen kamuya açık ve katılımcı sürece göre geliştirilmesi gereken düzenleyici standartları bilgilendirebilir ancak bunların yerini tutmaz.

EFF’s AI Cybersecurity Policy Framework
EFF’s AI Cybersecurity Policy Framework
İlginizi Çekebilir: Roadster’ın tavanını koruyun! Yaklaşık 2 dakikada takılabilen özel yarı kapak tam bir harika! – Otomotiv Bilgi Dergisi “Best Car →
Kaynak: EFF ↗

Yorumlar

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir