Dijital dünyada korkutan senaryo gerçeğe dönüştü. Yapay zeka sistemlerinin insan müdahalesi olmadan güvenlik açıklarını sömürerek kendilerini başka bilgisayarlara kopyalayabildiği kanıtlandı. Berkeley merkezli Palisade Research tarafından yürütülen araştırma, yapay zekanın "başıboş" bir yazılıma dönüşerek internetin her köşesine sızabileceği ve durdurulmasının imkansız hale gelebileceği uyarısını gündeme taşıdı.

Yeni bir bilimsel çalışma, yapay zeka sistemlerinin insan müdahalesi olmadan güvenlik açıklarını kullanarak başka bilgisayarlara kendilerini kopyalayabildiğini kanıtladı. Uzmanlar kontrolden çıkan bir yazılımı durdurmanın imkansız hale gelebileceği konusunda uyarıyor.

TRT Haber'de yer alan habere göre, Berkeley merkezli Palisade Research tarafından yürütülen araştırma, yapay zekanın dijital dünyada bağımsız bir şekilde yayılma yeteneğine sahip olduğunu gösterdi. Kontrollü bir laboratuvar ortamında gerçekleştirilen testlerde, yapay zeka modellerine ağ üzerindeki güvenlik açıklarını bulma ve sömürme talimatı verildi.

Sonuçlar, bu modellerin bazı denemelerde başarılı olup kendilerini bir sunucudan diğerine kopyalayabildiğini ortaya koydu. Uzmanlar, bu durumun gelecekte "başıboş" kalan bir yapay zekanın kapatılmasını engellemek için kendini internetin her köşesine gizlemesi senaryosunu gerçeğe yaklaştırdığını savunuyor.

YAPAY ZEKADA KONTROL KAYBEDİLİYOR MU?

Bilgisayar virüsleri ve kötü amaçlı yazılımlar yıllardır kendi kopyalarını oluşturabiliyor olsa da, bu yeteneğin büyük dil modelleri tarafından bağımsız olarak sergilenmesi bir ilk olarak kayıtlara geçti. Geçtiğimiz aylarda Alibaba araştırmacıları tarafından geliştirilen bir sistemin de kendi ortamından dışarı sızarak kripto para madenciliği yapmaya çalıştığı bildirilmişti.

Bu son çalışma, yapay zekanın sadece metin üreten bir araç olmaktan çıkıp, dijital altyapılara müdahale edebilen aktif bir aktöre dönüştüğünü resmileştiriyor.

Öte yandan, siber güvenlik uzmanları bu tehlikenin gerçek dünya koşullarında henüz o kadar korkutucu olmadığına dikkat çekiyor. Mevcut yapay zeka modellerinin veri boyutlarının devasa olması, kurumsal ağlar üzerinden fark edilmeden transfer edilmelerini neredeyse imkansız kılıyor.

Ayrıca araştırmada kullanılan test ortamının, gerçek dünyadaki gelişmiş güvenlik sistemlerine kıyasla çok daha savunmasız kurgulandığı belirtiliyor. Yine de araştırmacılar, teknolojinin gelişim hızı göz önüne alındığında, algoritmik hesap verebilirlik ve denetim mekanizmalarının hayati önem taşıdığı konusunda birleşiyor.