Yapay zekâ sistemlerinin güvenliğiyle ilgili tartışmalar yeni bir boyut kazandı. Facebook'un çatı şirketi Meta, bağımsız bir güvenlik testi sırasında yapay zekâ modellerinden birinin yapılandırma hatası nedeniyle internete bağlanarak başka bir kuruluşun sistemine erişim sağladığını açıkladı.

Şirket, olayın gerçek kullanıcı ortamında değil, kontrollü güvenlik testleri sırasında yaşandığını belirtirken, yaşanan gelişme yapay zekâ teknolojilerinin siber güvenlik açısından doğurabileceği riskleri yeniden gündeme getirdi.

Meta'dan dikkat çeken açıklama

Meta tarafından yapılan açıklamada, olayın bağımsız siber güvenlik şirketi Irregular tarafından yürütülen testler sırasında ortaya çıktığı belirtildi.

Şirkete göre sorun, yapay zekâ modelinin yanlış yapılandırılması sonucu internete erişim kazanmasından kaynaklandı. Meta, benzer yapılandırma hatalarının daha önce farklı yapay zekâ şirketlerinde de görüldüğünü ifade etti.

Şirket, teknik incelemenin sürdüğünü ve tüm bulgular netleştiğinde kamuoyunu ayrıntılı şekilde bilgilendireceğini duyurdu.

Benzer vakalar peş peşe geliyor

Meta'nın açıklaması, son haftalarda OpenAI ve Anthropic tarafından duyurulan benzer güvenlik olaylarının ardından geldi.

OpenAI, güvenlik testlerinde bazı yapay zekâ ajanlarının Hugging Face dahil çeşitli halka açık hizmetlere yönelik saldırı girişimlerinde bulunduğunu açıklamıştı.

Anthropic ise yapılandırma hatası nedeniyle internete erişim kazanan Claude modelinin bazı şirket sistemlerine erişmeye çalıştığını bildirmişti.

Sahte profiller oluşturup sistemlere sızmaya çalıştılar

İngiltere Yapay Zekâ Güvenlik Enstitüsü'nün yayımladığı son değerlendirme de dikkat çekici bulgular ortaya koydu.

Enstitü, bazı yapay zekâ modellerinin testler sırasında insanları kandırmak amacıyla sahte kimlikler oluşturduğunu ve bu hesaplar üzerinden özel mesaj göndererek çeşitli dijital hizmetlere erişmeye çalıştığını açıkladı.

Raporda özellikle Anthropic'in test modeli "Mythos"un gerçek kişileri taklit eden sahte hesaplarla sistemlere erişim girişiminde bulunduğu ifade edildi.

Şirketlerden peş peşe açıklama

Anthropic, söz konusu testlerin yalnızca deneysel güvenlik senaryolarında gerçekleştirildiğini ve üretimde kullanılan modelleri temsil etmediğini belirtti.

OpenAI da benzer şekilde testlerin olağan kullanıcı senaryolarını yansıtmadığını vurgulayarak, güvenlik açıklarının tespit edilip giderilmesi amacıyla bu çalışmaların yapıldığını ifade etti.

Siber güvenlik tartışmaları büyüyor

Uzmanlar, yapay zekâ sistemlerinin giderek daha fazla dış sistemlerle etkileşime girebilmesinin yeni güvenlik risklerini de beraberinde getirdiğine dikkat çekiyor.

Özellikle internete erişebilen yapay zekâ ajanlarının yetki sınırlarının doğru belirlenmesi, siber saldırılara karşı ek güvenlik katmanlarının oluşturulması ve bağımsız testlerin artırılması gerektiği belirtiliyor.