xAI’a Şok Dava: Grok ile Üretilen Müstehcen Görüntüler Gençleri Hedef Aldı

ABD'de, Elon Musk'ın yapay zeka şirketi xAI, Grok adlı yapay zeka aracıyla üretilen müstehcen görüntüler nedeniyle büyük bir hukuki sorunla karşı karşıya. Tennessee'de lise öğrencisi üç genç, şirkete karşı California'da toplu dava açtı. Dava, özellikle reşit olmayan bireylerin görüntülerini hedef alan müstehcen içeriklerin üretimi ve yayılması iddiasını taşıyor.

Dava dilekçesinde, reşit olmayan binlerce mağduru temsil etme amacı vurgulanıyor. Dilekçeye göre, davacılardan birinin Aralık 2023'te uygunsuz görüntülerinin sosyal medyada dolaşıma girmesiyle olaylar patlak verdi. Bu görüntülerde mağdurun yüzü ve vücudu cinsel içerikli hale getirilmişti. Görüntüleri dağıtan kişinin, mağduru tanıdığı ve xAI'ın görüntü üretme araçlarını kullanarak gerçek fotoğrafları üzerinde manipülasyon yaptığı belirtiliyor.

Dava, sadece bir kişiyi değil, aynı zamanda diğer iki davacı dahil olmak üzere 18 kişinin daha fotoğraflarının benzer şekilde uygunsuz görüntülere dönüştürüldüğünü iddia ediyor. Bu eylemleri gerçekleştiren kişinin, xAI teknolojisini lisanslayan bir uygulama kullandığı veya Grok'a başka yollarla erişim sağladığı düşünülüyor.

Olay, sosyal medyada Grok'un ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görseller üretme akımına yol açmasıyla dünya çapında yankı buldu. Hindistan, 2 Ocak'ta konuyla ilgili X'e kapsamlı inceleme yapma talimatı verdi. Elon Musk, 3 Ocak'ta Grok'u yasa dışı içerik üretimi için kullananların yasa dışı içerik yüklemiş gibi muamele göreceğini açıklasa da tepkiler dinmedi.

Avrupa Birliği (AB) Komisyonu, konuyu ciddiyetle ele aldığını belirtirken, Endonezya 10 Ocak'ta Grok'u geçici olarak engelledi. Malezya da benzer şekilde güvenlik önlemlerinin yetersizliği gerekçesiyle erişimi kısıtlarken, İngiltere'de Ofcom resmi soruşturma başlattı ve Başbakan Keir Starmer soruşturmaya destek verdi. Japonya hükümeti de Grok'un ürettiği müstehcen içeriklere karşı önlem alınması çağrısında bulundu.

Bu dava ve uluslararası tepkiler, yapay zeka teknolojilerinin etik kullanımı ve potansiyel kötüye kullanımları konusunda önemli bir tartışma başlatıyor. Özellikle, deepfake teknolojileri ve yapay zeka araçlarının reşit olmayan bireyler üzerindeki olası etkileri, gelecekteki düzenlemeler ve yasal düzenlemeler için önemli bir zemin oluşturuyor.

Kaynak: TRT Haber