“Marketten Aldığınız Süt Bile Yapay Zekâdan Daha Fazla Denetleniyor”: Küresel Güvenlik Kuralları Tartışması

Yapay zekâ teknolojileri hayatımızın her alanına hızla girerken, bu sistemlerin ne kadar güvenli olduğu sorusu dünyanın farklı başkentlerinde aynı anda tartışılıyor. Microsoft Başkanı Brad Smith, mevcut tabloyu çarpıcı bir benzetmeyle özetledi: “Şu anda evinizdeki çamaşır makinesi bile yapay zekâdan daha fazla güvenlik kuralına tabi. Markette gördüğünüz her süt kutusu belirli güvenlik testlerinden ve denetimlerden geçiyor.”

Smith’e göre teknoloji şirketleri kendi başlarına hareket edebilen yapay zekâ ajanları geliştirdiğinde ve bu sistemler kontrolden çıkarak bir kuruma ya da kişiye zarar verdiğinde, mağdur tarafı bilgilendirmek yasal bir zorunluluk olmalı. Ayrıca kritik yapay zekâ ürünlerinin kullanıma sunulmadan önce bağımsız denetçiler tarafından onaylanması gerektiğini vurguluyor.

Rekabet Hızı mı, İnsan Güvenliği mi?

Bu çağrı, teknoloji dünyasındaki en temel gerilimlerden birini yeniden gündeme taşıdı. ABD yönetimi, Amerikan şirketlerinin Çinli rakiplerinin gerisinde kalmaması için sektörün kendi kendini denetlemesi gerektiğini savunuyor. Buna karşılık hem bağımsız uzmanlar hem de önde gelen yapay zekâ laboratuvarlarının çalışanları, şirketlerin güvenlik önlemlerinden ziyade birbirleriyle yarışmaya öncelik verdiğine dikkat çekiyor.

Aynı gün Londra’da konuşan İngiltere Yapay Zekâ Bakanı Kanishka Narayan da benzer bir uyarıda bulundu. Haziran ayında kontrolden çıkan bir yapay zekâ ajanının Avustralya’da bir kamu internet sitesine sızdığını hatırlatan Narayan, gelişmiş yapay zekâ sistemlerinin siber savunma duvarlarını aşabileceği konusunda uyardı.

“Riskleri Kontrol Edemiyorsanız Yayımlamayın”

İngiltere’de faaliyet gösteren Yapay Zekâ Güvenlik Enstitüsü (AISI), yeni nesil modelleri henüz halka açılmadan önce test ederek olası tehlikeleri erken aşamada tespit etmeye çalışıyor. Kamuda yürütülen iki pilot çalışmada, yapay zekâ destekli taramalar sayesinde kamu sistemlerindeki binden fazla güvenlik açığı tespit edilerek kapatıldı.

Bakan Narayan’ın dünyanın en büyük teknoloji şirketlerine verdiği mesaj ise oldukça netti: “Bilim insanlarınız ciddi tehlikeler konusunda uyardığında onları dinleyin. Beklenmedik davranışları araştırın. Ve eğer riskleri yeterince kontrol edemiyorsanız, o sistemi kullanıma sunmayın.”