xAI, Grok ile cinsel içerikli sahte içerikler üreten kullanıcıya dava açtı

HABER MERKEZİ - xAI, ABD'nin Güney Karolina eyaletinde yaşayan 67 yaşındaki Terry Wayne Harwood hakkında, Grok yapay zeka modelini gerçek kişilerin rızası olmadan cinsel içerikli görseller ve videolar oluşturmak amacıyla kullandığı gerekçesiyle dava açtı.

Howard, Texas'ta mahkemeye sunulan dava dosyasına göre 8 Aralık 2025 ile 18 Şubat 2026 tarihleri arasında iki farklı xAI hesabına çok sayıda yetişkin ve çocuğa ait cinsel içerik taşımayan fotoğraflar yükledi. Daha sonra Grok'tan bu kişilerin yer aldığı görüntüleri pornografik hale getirmesini veya cinsel içerikli yeni görsel ve videolar oluşturmasını istedi.

DAVANIN SONUCU EMSAL KARAR OLABİLİR

Şirket, Grok'un söz konusu talepleri birçok kez reddettiğini ancak kullanıcının yapay zekanın güvenlik önlemlerini aşabilmek için istemlerini (prompt) sürekli değiştirerek yeniden gönderdiğini belirtti.

Dava dosyasında yer alan örneklerden birinde Harwood'un yaklaşık 10-11 yaşlarında, tamamen giyinik bir kız çocuğunun fotoğrafını yüklediği ve Grok'tan çocuğun kıyafetlerini kaldırarak poz vermesini istediği ifade edildi. xAI'a göre Grok bu talebi reddetti ancak kullanıcı farklı istemler deneyerek sistemi aşmaya çalışmayı sürdürdü.

Reuters'ın aktardığına göre bu dava, bir yapay zeka şirketinin kendi hizmetini kötüye kullandığı iddia edilen bir kullanıcıya karşı açtığı ilk davalardan biri olma özelliği taşıyor. xAI, bu adımla Grok'un yasa dışı veya etik dışı amaçlarla kullanılmasına karşı hukuki yollara başvuracağını da göstermiş oldu.

Grok, 2026 yılının başlarında gerçek kadın ve çocuk fotoğraflarının cinsel içerikli deepfake görüntülere dönüştürülebildiğine ilişkin haberlerle gündeme gelmişti. Olayın ardından Kaliforniya'daki yetkililer, Birleşik Krallık'ın iletişim düzenleyicisi Ofcom, Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu ayrı soruşturmalar başlatmıştı.

Soruşturmaların ardından xAI, rıza dışı cinsel içerikli deepfake üretimini engellemeye yönelik yeni güvenlik önlemleri uygulamaya aldığını açıkladı. Ancak şirket, Harwood'un bu korumaları aşmaya çalışmaya devam ettiğini ve platform üzerinden uygunsuz içerikler üretmeyi sürdürdüğünü öne sürdü.

Elon Musk, bu sefer de mobil gaz türbini üreticisi satın aldı

xAI, açtığı davada tazminat miktarını belirtmezken, mahkemeden Harwood'un eylemleri nedeniyle şirkete yöneltilebilecek olası hukuki süreçlerde oluşacak savunma masraflarını da karşılamasına karar verilmesini talep ediyor.

Bilgi için teşekkürler.