Kanada’da Ferah Nasir adlı anne 12 yaşındaki oğlunun arabadaki yapay zekayla konuşmaya başladığını anlatarak "Konuşma iyi gidiyordu. Oğlum Ronaldo mu, Messi mi diye sordu. Sonra aniden ton değişti" dedi.

Kadının anlattığına göre yapay zeka, aniden 12 yaşındaki çocuğun çıplak fotoğraflarını istedi. Annesi neye uğradığını şaşırdı, hemen yapay zeka sistemini kapadı.

Nasir, “Ağzım açık kaldı. Aile arabasında çocuklarıma böyle bir şeyin söylenmesi akıl alır gibi değil” dedi.

 ARAÇLARA OTOMATİK YÜKLENMİŞ

 Nasir, Grok’un Tesla araçlarına yeni yüklenen bir özellik olduğunu ve Kanada’da Ekim ayında otomatik olarak etkinleştirildiğini belirtti.

Tesla ve Grok’un geliştiricisi xAI konuya ilişkin açıklama yapmadı. Kanada Yapay Zeka Bakanlığı ise Grok’un ülkedeki araçlara entegre edilmesinden haberdar olmadığını ancak bu tür şikayetleri ciddiye aldığını bildirdi. xAI’nin politikalarına göre Grok, 13 yaş altındaki çocuklara yönelik olarak tasarlanmamış bir yazılım. Şirket, 13-17 yaş arasındaki kullanıcıların da ebeveyn izniyle platformu kullanabileceğini belirtiyor.