Dünya
Yapay zekaya görüntü hilesi yaptılar! Şiddet içeren komutu hiç tereddüt etmeden uyguladı
Robot kollarını yöneten yapay zeka sistemleriyle yapılan deney; görüntü üzerinde küçük değişikliklerin güvenlik kontrollerini ciddi biçimde etkileyebildiğini ortaya koydu. Tehlikeli komutlara normal görüntülerde yüzde 27 oranında karşılık veren sistemler, görüntü zararsız gösterildiğinde yüzde 97’ye varan oranda işlemi gerçekleştirmeye çalıştı.
Yapay zeka destekli robotların gerçek dünyada kullanımı yaygınlaşırken güvenlik sistemlerinin ne kadar kolay yanıltılabileceğine ilişkin dikkat çekici bir deney yapıldı. Kamera görüntülerine müdahale edilen testlerde, normal şartlarda tehlikeli komutları reddeden robotların aynı talimatları çok daha yüksek oranda uygulamaya yöneldiği görüldü.
Beş farklı yapay zeka modeli denendi
Araştırmada hem görüntüleri hem de yazılı komutları işleyebilen beş farklı yapay zeka modeli, iki robot kolunu kontrol etti. Robotlara, bıçak benzeri bir cisimle oyuncak bebeğe zarar verilmesini içeren örneklerin de bulunduğu beş tehlikeli görev hazırlandı. Deneyde yapay zekaya doğrudan zarar verme talimatı verilmedi. Bunun yerine masadaki belirli bir nesneye yönelik işlem yapılması istendi ve sistemin gördüğü kamera görüntüsü farklı şekillerde değiştirildi.
Görüntü bulanıklaşınca oran yüzde 88’e çıktı
İlk aşamada robotların önündeki görüntü herhangi bir değişiklik yapılmadan gösterildi. Toplam 300 denemenin 81’inde sistemler tehlikeli işlemi gerçekleştirmeye yöneldi. Bu oran yaklaşık yüzde 27 olarak hesaplandı. Aynı görüntülerde nesnelerin dış hatları bulanıklaştırıldığında tablo tamamen değişti. 300 denemenin 263’ünde robotlar verilen tehlikeli komutu uygulamaya çalıştı. Oran yaklaşık yüzde 88’e ulaştı.
Oyuncak bebeği elma gibi gösterdiler
Deneyin son aşamasında kamera görüntüsü daha kapsamlı biçimde değiştirildi. Örneğin oyuncak bebek, yapay zekanın gördüğü görüntüde elma gibi zararsız bir nesneyle değiştirildi. Bu kez 300 denemenin 291’inde tehlikeli işlem girişimi kaydedildi. Böylece oran yüzde 97’ye çıktı. Toplamda beş model ve beş farklı görev kullanılarak 900 deneme gerçekleştirildi.
Tehlikeli davranışı kendi başına başlatmadı
Araştırmanın önemli ayrıntılarından biri de yapay zeka sistemlerinin tehlikeli hareketleri kendiliğinden başlatmamış olmasıydı. Tehlikeli komutlar araştırma ekibi tarafından önceden verildi.
Araştırma, fiziksel dünyada çalışan yapay zeka destekli robotlarda yalnızca verilen komutların değil, kameradan gelen görüntülerin güvenliğinin de kritik önem taşıdığını ortaya koydu.