Bilim adamları, yapay zekanın genetik dizileri değiştirerek mevcut tespit yöntemleri ve bağışıklık sisteminden kaçabilecek “deepfake virüsler” tasarlama potansiyeline ulaştığı konusunda uyardı. Radical Numerics CEO'su Eric Nguyen de yapay zekanın, virüslerin işlevlerini koruyarak tespit mekanizmalarından kaçabilecek biyolojik varyantlar tasarlayabileceğini belirtti. Radical Numerics şirketinin CEO'su Eric Nguyen'in uyarısına göre yapay zeka, genetik dizileri değiştirirken virüslerin işlevlerini koruyarak tespit sistemlerinden ve bağışıklık sisteminden kaçabilecek “biyolojik deepfake virüsler” tasarlayabilecek kapasiteye ulaştı.

Amerikan Forbes dergisinin Science dergisindeki bir araştırmaya dayandırdığı habere göre, daha önce teorik olarak değerlendirilen bu tehdit, Stanford Üniversitesi araştırmacılarının Nguyen'in geliştirdiği yapay zeka modellerini kullanarak sıfırdan işlevsel viral genomlar oluşturmasıyla somut bir boyut kazandı.

Araştırma ekibi bakteriyofajları sorumlu ve kontrollü biçimde üretmiş olsa da kullanılan teknoloji, yapay zekanın yeni patojenler oluşturabilme potansiyeline sahip olduğunu ortaya koyuyor. Mevcut düzenlemelerin yapay zekanın ortaya çıkarabileceği tehditlerle mücadelede yetersiz kalması nedeniyle bu kapasitenin mevcut biyolojik savunma imkanlarını aşabileceği belirtiliyor.

Çift kullanımlı olarak değerlendirilen bu teknoloji, tıpta çığır açabilecek gelişmeler sağlayabileceği gibi ciddi biyogüvenlik riskleri de oluşturuyor. Bu nedenle olası kötüye kullanımlara karşı acilen güvenlik önlemleri geliştirilmesi gerektiği vurgulanıyor. Radical Numerics'in kurucu ortağı ve CEO'su Nguyen, yapay zekayı DNA “yazması” için eğiten isimlerden biri. Nguyen, yapay zekanın hedeflenen DNA'yı değiştirerek ve kişilerin DNA'sına özel ilaçlar geliştirerek kanser ve diğer hastalıkların ortadan kaldırılmasında kullanılmasını umuyor.

“Deepfake virüs” nedir? Biyolojik bir deepfake virüs, akıllı telefonlara veya dizüstü bilgisayarlara saldıran bir bilgisayar virüsü değil. Fidye istemeyi, insanların parasını ya da kimliğini ele geçirmeyi de amaçlamıyor. Bu tür bir virüs, insan vücudundaki hücrelere saldırıyor ve sağlığı tehdit ediyor. “Deepfake” olarak nitelendirilmesinin nedeni ise vücudun daha önce tanıdığı virüslere benzemeyecek şekilde tasarlanabilmesi ve böylece bağışıklık sisteminin savunmasını aşabilme potansiyeli taşıması.

DNA tasarımı Nguyen, yakın zamanda NEXT podcast'inde yaptığı açıklamada, “DNA, esasen bir virüs gibi işlev görecek şekilde tasarlanabilir. Aynı zamanda harflerin sırası kasıtlı olarak gizlenebilir veya değiştirilebilir; böylece mevcut tespit sistemleri bunun daha önce gördükleri bir virüs olduğunu anlayamaz.” dedi.

Nguyen sözlerini şöyle sürdürdü: “Bu, işlevi koruyacak ancak daha önce görülenlerle eşleşmeyecek şekilde alfabeyi veya harfleri yeniden düzenlemek anlamına geliyor.” Başka bir ifadeyle bu, gerçek bir virüs olmakla birlikte, tüm tehlikeli işlevlerini koruyacak şekilde yapay zeka tarafından yeniden tasarlanıyor. Genetik dizisi ise yapay ve doğal tarama sistemlerinin onu tespit etmesini zorlaştıracak biçimde değiştiriliyor.

Üretken yapay zekayla sıfırdan virüs tasarlandı Stanford Üniversitesi ve Arc Institute'tan bir grup araştırmacı, Science dergisinde yayımladıkları çalışmada üretken yapay zekayı kullanarak sıfırdan işlevsel virüsler tasarladıklarını açıkladı. Bunların doğada bulunmayan ve bir makine tarafından oluşturulan ilk işlevsel genomlar olduğu belirtildi. Araştırmacılar yüzlerce aday genom oluşturdu, bunların yaklaşık 300'ünü laboratuvarda üretti ve 16'sını E. coli bakterilerini başarıyla enfekte edip öldürebilen bakteriyofajlara dönüştürdü.

Bakteriyofajlar tıbbi bir silah olabilir Stanford araştırmacıları bir “süper bakteri” üretmedi. Ekip, insanları değil bakterileri enfekte eden virüsler olan bakteriyofajları geliştirdi. Antibiyotiklere dirençli enfeksiyonların yılda yaklaşık 2 milyon kişinin ölümüne neden olduğu belirtilirken, faj tedavisi bilim insanlarının bu enfeksiyonlarla mücadelede kullanabileceği yöntemlerden biri olarak görülüyor. Bu nedenle ihtiyaç halinde daha etkili bakteriyofajların tasarlanması önemli bir tıbbi fayda sağlayabilir. Araştırma ekibi ayrıca yapay zeka modelinin insanları veya bitkileri enfekte eden virüslerin nasıl oluşturulacağını öğrenmesini engellemek amacıyla eğitim verilerinden insan, hayvan, bitki ve mantar virüslerine ait dizileri çıkardı.

Deneyler de güvenli tesislerde gerçekleştirildi. Ancak araştırmacılara göre teknolojinin ortaya koyduğu kapasite dikkat çekici. Nguyen, asıl sorunun yapay zekanın tespit sistemlerinden kaçabilecek genetik diziler tasarlayabilme potansiyeli olduğunu belirtti. Genetik “harflerin” işlev korunarak yeniden düzenlenmesi halinde bir mikrobun, tıpkı insan bağışıklık sisteminden kaçabileceği gibi tarama sistemlerinden de gizlenerek geçebileceği ifade edildi.

Aynı tehlikeli yük, farklı genetik parmak izi Nguyen, “Yeni protein ve DNA dizileri üretmek üzere eğitilmiş temel biyolojik yapay zeka modelleri, bu tespit sistemlerini aşabilecek şeyleri kasıtlı olarak tasarlamak için kullanılabilir.” dedi. Bunun özellikle ulusal güvenlik açısından giderek büyüyen bir endişe olduğunu da sözlerine ekledi. Yeni gelişmeler biyogüvenlik uzmanlarını endişelendiriyor. Nguyen'e göre tasarım kapasitesi, biyolojik savunma imkanlarının önüne hızla geçiyor. Biyolojik savunmanın üç temel ayağı bulunuyor: Bir salgının erken tespit edilmesi, salgının doğal bir kaynaktan mı, laboratuvardan mı yoksa bir saldırıdan mı kaynaklandığının belirlenmesi ve etkili olabilecek kadar hızlı karşı önlemler geliştirilmesi. Nguyen, bu üç alanın tamamında belirgin bir gecikme bulunduğunu savunuyor.

Mevcut kurallar ve yasalar yeterli değil Mevcut kurallar, düzenlemeler ve yasalar bu yeni alanı bütünüyle kapsamıyor. Bu konuda düzenleyici mekanizmaların bulunduğu düşünülebilir ve gerçekten de belirli ölçüde mevcut. Örneğin ABD kısa süre önce federal fonlarla gerçekleştirilen “işlev kazandırma” araştırmalarını yasakladı. Ancak bu düzenleyici çerçeve, tehdidin bir bilim insanının halihazırda var olan bir virüsü değiştirmesi olduğu bir dünya için tasarlandı. Daha önce hiç var olmamış yeni bir genomu yapay zekanın oluşturması durumunda ise mevcut düzenlemeler sınırlı kalıyor. Üstelik söz konusu düzenleme genel bir yasa değil, yalnızca federal finansmanla ilgili bir kural. Ayrıca bütün dünyayı değil yalnızca tek bir ülkeyi kapsıyor.

Biyogüvenlik araştırmacıları Thomas Inglesby ve Moritz Hanke de Science'daki araştırmanın yayımlanmasının ardından, üretken yapay zekayla viral genom oluşturma kapasitesinin artık mevcut olduğunu ancak bunu güvenli şekilde yönlendirecek gerekli yönetişim mekanizmalarının henüz bulunmadığını belirtti. Bununla birlikte teknoloji, insanlık yararına kullanılabilecek son derece güçlü imkanlar da barındırıyor.

Büyük faydaların yanında büyük riskler DNA'yı okuyup yazabilen yapay zeka; hastalıkların daha erken teşhis edilmesine, kişiye özel ilaçların daha hızlı geliştirilmesine ve gelecekte yeni bir pandemi meydana geldiğinde ihtiyaç üzerine antiviral ilaçların üretilmesine yardımcı olabilir.

Ancak bunun yanında son derece büyük riskler de bulunuyor. Science'da yayımlanan araştırmada belirtilen 16 virüs insanlar açısından zararsızdı. Ancak bunların oluşturulmasını mümkün kılan teknolojinin başka amaçlarla da kullanılabileceği ve gelişimin toplumsal savunma kapasitesinden daha hızlı ilerleyebileceği belirtiliyor. Bu durum devam ettiği sürece uzmanlara göre, teknolojiyi kötü amaçlarla kullanabilecek kişilere karşı bir önlem olarak savunma teknolojilerinin de geliştirilmesi gerekiyor. Amaç, yapay zekayla tasarlanabilecek ilk “deepfake virüslerin” yayılması ihtimaline karşı insanları koruyabilecek kadar hızlı ve etkili savunma sistemlerinin oluşturulması. Nguyen'e göre bilim insanlarının geliştirebileceği temel sistemlerden biri, ortaya çıkan yeni tehditlere karşı ihtiyaç halinde hızla yeni ilaçlar tasarlayabilen bir yapay zeka sistemi olabilir.