Yapay zeka devi Anthropic’in güvenlik yapılanmasına ilişkin dikkat çeken ayrıntılar ortaya çıktı. Şirketin aktivizmden protestolara kadar çeşitli gelişmeleri takip ettiği, eylemleri gerçekleşmeden tespit etmeye çalıştığı ve belirli kişilerin “endişe verici davranışlarını” zaman içerisinde izlediği aktarıldı. Anthropic araştırmacısı Jacob Coxon’ın “AI yarışı insanlığın sonunu getirebilir” uyarısıyla istifa etmesi ise gözleri şirkete çevirdi.

Yapay zeka şirketleri arasındaki rekabet sürerken sektörün önemli aktörlerinden Anthropic’in güvenlik yapılanmasına ilişkin yeni bilgiler gündeme geldi. The American Prospect’in haberine göre Claude yapay zeka modelinin geliştiricisi Anthropic, şirketin karşılaşabileceği tehditleri önceden belirlemek amacıyla güvenlik ve istihbarat kapasitesini genişletiyor. Sistemin kapsamına ilişkin ayrıntılarda yalnızca saldırı veya suç tehdidi değil; aktivizm, protestolar ve yapay zeka sektörünü hedef alan faaliyetlerin de takip edilen başlıklar arasında bulunması öne çıktı.

İŞ İLANI GÜVENLİK AĞINI ORTAYA ÇIKARDI Habere göre Anthropic’in “Global Safety, Intelligence and Security” (GSIS) yapılanması büyütülüyor. Şirketin yayımladığı “enterprise intelligence specialist” ilanında pozisyon için yıllık 180 bin ila 230 bin dolar arasında ücret öngörüldü. Görev tanımında küresel tehditlerin belirlenmesi, değerlendirilmesi, izlenmesi ve araştırılması bulunurken; aktivizm, jeopolitik istikrarsızlık, suç, terörizm ve yapay zeka sektörünü hedef alan faaliyetler de çalışma alanları arasında sıralandı.

PROTESTO BAŞLAMADAN HABERLERİ OLUYOR Anthropic’in güvenlik ekibinin gerçekleşmiş olayları izlemenin yanı sıra yaklaşan protestoları önceden tespit etmeye çalıştığı aktarıldı. Anthropic Global Security Operations Center yöneticisi Keon Ellison’ın bir podcast yayınında anlattığı olay, sistemin nasıl kullanıldığına ilişkin bir örnek sundu. Bir Anthropic yöneticisinin büyük bir şehre gerçekleştirdiği ziyaret sırasında tehdit istihbaratı şirketi Samdesk üzerinden bölgede düzenlenecek protestoya ilişkin bilgi alındı. Eylemin saati değiştirildiğinde sistem Anthropic’i yaklaşık bir saat önceden uyardı. Bunun üzerine yöneticinin güzergâhı değiştirildi ve otele ana giriş yerine servis bölümünden ulaşması sağlandı. Böylelikle yönetici ile protestocuların karşılaşması önlendi.

BELİRLİ KİŞİLERİN DAVRANIŞLARI DA İZLENİYOR Anthropic’in belirli kişilerin davranışlarını zaman içerisinde takip ettiği de belirtildi. Şirket, temmuz ayında Wall Street Journal’a yaptığı açıklamada “endişe verici davranışları zaman içinde” izlediğini ve davranışlardaki olası tırmanışı erken belirlemek amacıyla bir “ilgili kişi” süreci uyguladığını açıklamıştı. Sistemde kişilerin hangi kriterlere göre takibe alındığı ve izlemenin kapsamının ne olduğu ise netlik kazanmış değil. POLİSE DE BİLDİRİM YAPILIYOR Anthropic’in güvenlik faaliyetleri gerektiğinde kolluk kuvvetleriyle teması da kapsıyor. Anthropic CEO’su Dario Amodei’yi hedef aldığını belirten bir Claude kullanıcısı şirket tarafından polise bildirildi. Anthropic’in kendi politikaları nedeniyle kullanıcının mesajlarını kolluk kuvvetlerine aktarmadığı belirtilirken, söz konusu kişi daha sonra ifadelerinin şaka olduğunu söyledi. ABD’DE AI KARŞITI PROTESTOLAR BÜYÜYOR Gelişmeler, ABD’de yapay zeka şirketlerine yönelik protestoların arttığı bir dönemde yaşandı. Temmuz ayında San Francisco’da yaklaşık 200 kişi OpenAI, Anthropic ve Google DeepMind ofislerine uzanan bir yürüyüş gerçekleştirerek yapay zeka yarışının durdurulmasını istedi. Protestolarda yapay zekanın istihdam üzerindeki etkisi, veri merkezlerinin çevresel sonuçları, yükselen kiralar ve gelişmiş AI sistemlerinin gelecekte oluşturabileceği riskler gündeme getirildi. Wall Street Journal da yapay zeka şirketlerinin artan protestolar ve tehditler nedeniyle güvenlik tedbirlerini artırdığını bildirmişti.

“GÜVENLİ YAPAY ZEKA” İMAJIYLA ÇELİŞİYOR MU? Anthropic, uzun süredir kendisini güvenli ve sorumlu yapay zeka geliştirmeyi hedefleyen şirketlerden biri olarak konumlandırıyor. Şirket güvenliği açısından potansiyel tehditlerin takip edilmesi olağan bir güvenlik faaliyeti olarak görülse de aktivizm ve protestoların da istihbarat faaliyetleri kapsamında değerlendirilmesi, sistemin sınırlarına ilişkin soru işaretlerini beraberinde getirdi. ŞİRKETİN ARAŞTIRMACISI İSTİFA ETTİ Anthropic araştırmacısı Jacob Coxon ise 9 Eylül’de yaptığı açıklamayla şirketten ayrıldığını duyurdu. Yaklaşık üç yıl OpenAI ve Anthropic’te araştırmalar yapan Coxon, yapay zeka şirketleri arasındaki daha güçlü sistemler geliştirme yarışının güvenlik kaygılarının önüne geçtiğini ifade etti. Coxon’a göre kendi kendisini geliştirebilecek seviyede süper yapay zekaya ulaşma yarışı, insanlığın karşı karşıya kalabileceği risklerin yeterince dikkate alınmamasına yol açabilir. Araştırmacının sosyal medyadaki açıklamalarının kısa sürede yayıldığı ve mesajlarının 100 milyondan fazla kişiye ulaştığı bildirildi.

“İNSANLIĞIN SONUNU GETİREBİLİR” WIRED’a konuşan Coxon, gelişmiş yapay zekanın insan kontrolünden çıkması durumunda sonuçların insanlığın yok oluşuna kadar gidebileceği uyarısında bulundu. Coxon, Anthropic’teki bazı meslektaşlarının mevcut dönemi “kritik dönem” veya “son aşama” olarak değerlendirdiğini aktararak, şirketler arasındaki yoğun rekabetin güvenlik konusunda geri adım atılmasına neden olabileceğini ifade etti. MİLYONLARCA DOLARLIK KAZANCI GERİDE BIRAKTI Coxon’ın istifasının mali boyutu da gündeme geldi. Axios’a göre araştırmacı, Anthropic’teki hisselerinin hak ediş tarihinden yalnızca iki ay önce görevinden ayrıldı. Böylece önemli miktarda finansal kazançtan vazgeçti. ANTHROPIC: RİSKLERİN FARKINDAYIZ Anthropic ise yapay zeka güvenliği konusundaki çalışmalarını savundu. Şirket, gelişmiş yapay zekanın büyük faydalarının yanında daha önce görülmemiş riskler de barındırabileceğini kabul ederek güçlü modellerin geliştirilme hızının güvenlik çalışmalarıyla birlikte ele alınması gerektiğini belirtti. Anthropic bir yandan aktivizm, protestolar ve potansiyel tehditleri önceden tespit etmeye yönelik güvenlik ve istihbarat kapasitesini büyütürken, şirketin kendi araştırmacılarından birinin AI yarışının insanlık açısından tehlikeli hale gelebileceği uyarısıyla ayrılması dikkat çekti. Reuters’ın aktardığı son araştırmalar da yapay zeka modellerinin yetenekleri hızla artarken sistemlerin davranışlarının izlenebilirliğinin azalması ve modellerin daha fazla özerklik kazanması konusunda araştırmacıların kaygılarının arttığına işaret ediyor.