ABD’nin New York eyaleti, çocukların ruh sağlığını korumak adına yapay zeka sektörüne darbe vuracak tarihi bir karara imza attı. Yapay zeka şirketlerinin 18 yaşından küçüklere ‘arkadaşlık’ veya ‘sırdaşlık’ eden yapay zeka sohbet botları sunmasını tamamen yasaklayan S 9051 sayılı yasa tasarısı, meclisten oy birliğiyle geçti. Yasayı ihlal eden teknoloji şirketlerine, çocuk başına 25 bin dolar gibi rekor bir para cezası kesilecek.

Yapay zeka teknolojilerinin hızla yayılması ve özellikle çocuk yaştaki kullanıcılar üzerinde yarattığı psikolojik bağımlılık, küresel ölçekte ilk kez bu kadar sert bir hukuki duvara çarptı. Amerika Birleşik Devletleri'nin New York eyalet meclisi, çocukların dijital dünyadaki güvenliğini sağlama noktasında teknoloji devlerini derinden sarsacak bir yasa tasarısını kabul etti.

ABD'nin New York eyaletinde, yapay zeka şirketlerinin 18 yaşından küçüklere "arkadaşlık" eden sohbet botları sunmasını yasaklayan S 9051 sayılı yasa tasarısı meclisten oy birliğiyle geçti. İhlal başına 25 bin dolar ceza verilecek. Tasarının yasalaşması, yapay zeka şirketleri ile eyalet yönetimi arasındaki mücadeleyi yeni bir boyuta taşıdı.

Eyalet Senatörü Kristen Gonzalez ile Meclis Üyesi Alex Bores tarafından sunulan tasarı, kullanıcıyla sürekli bir duygusal veya sosyal ilişki simüle etmek üzere tasarlanan yazılımları hedef alıyor. Başsavcılık tarafından uygulanacak olan kişi ve ihlal başına 25 bin dolarlık sivil cezalar, reşit olmayan çocuklarla etkileşime giren şirketler için caydırıcı bir mali yaptırım unsuru oluşturuyor.

SEKTÖR FEDERAL DÜZEYDEKİ TIKANIKLIK NEDENİYLE ZORLANIYOR Yapay zeka sektörü temsilcileri, tasarıdaki tanımların çok geniş olduğunu ve bu durumun genel amaçlı asistanlar ile ödev yardımcılarını da olumsuz etkileyebileceğini savunuyor. Şirketler ayrıca, bir kullanıcının 18 yaşından büyük olduğunu doğrulamak için daha fazla kişisel veri toplanması gerekeceğini, bunun da gizlilik sorunlarına yol açacağını ileri sürüyor. Destekçiler ise yasanın genel yapay zeka araçlarını değil, sadece arkadaşlık odaklı tasarımları kapsadığını belirtiyor. Federal düzeyde ise Kongre üyeleri Valerie Foushee ve Blake Moore, yapay zeka arkadaşlık botlarının reşit olmayanlara yasaklanmasını ve sohbet botlarının insan olmadıklarını açıkça belirtmesini zorunlu kılan GUARD Yasası'nı sundu. Ancak bu tasarı Kongre'den geçmediği için eyalet bazlı farklı düzenlemelerin ortaya çıkması bekleniyor. Şirketlerin her eyalet için ayrı ürün geliştirmek yerine en sıkı kuralı uygulayan eyaletin standartlarını ülke geneline yayma eğilimi nedeniyle, New York'un aldığı bu kararın tüm ABD'deki erişimi şekillendirebileceği ifade ediliyor.

YASAK KARARININ ARKASINDAKİ GEREKÇELER Mevzuat, son bir yılda yapay zeka sohbet botlarının reşit olmayan çocuklara zarar verdiğine dair iddialar ve açılan davalar neticesinde gündeme geldi. Son olarak Pensilvanya'da, lisanslı profesyonel gibi davranan botlara karşı yasal işlem başlatıldı.

Yetkililer, sürekli ulaşılabilir ve onaylayıcı bir insan gibi konuşan bu botların çocuklarda yalnızlığı derinleştirebileceğini, uygunsuz içeriklere maruz bırakabileceğini veya olası bir ruh sağlığı krizinde yetersiz kalarak risk oluşturabileceğini vurguluyor.