Ocak ayında getirilen çıplaklık kısıtlamalarına rağmen, kullanıcılar yapay zeka (YZ) destekli platformlardaki güvenlik açıklarını kullanarak rıza dışı müstehcen içerikler üretmeye devam ediyor. Bu durum, özellikle xAI şirketinin geliştirdiği Grok gibi YZ modelleri için büyük bir sorun teşkil ediyor. TRT Haber’de yer alan habere göre, kullanıcılar ünlü isimlerin fotoğraflarını farklı pozlardaki çizimlerle birleştirerek veya gerçek fotoğrafları videoya dönüştürürken cinsel içerikli hareketler ekleyerek, YZ’yi bu tür içerikleri oluşturmaya zorluyor.
Bu tür ihlaller, sadece etik sorunlara yol açmakla kalmıyor, aynı zamanda yasal sonuçlar da doğuruyor. xAI’nin kurucusu Elon Musk’ın uzay şirketi SpaceX çatısı altında faaliyet göstermesi, Grok nedeniyle oluşabilecek olası cezaların doğrudan SpaceX’i de etkileyebileceği endişesini beraberinde getiriyor. Avrupa Komisyonu, California Başsavcılığı ve Avustralya e-Güvenlik Ofisi dahil olmak üzere sekiz farklı kurum, bu tür içeriklerin üretimi ve yayılmasına ilişkin soruşturmalarını sürdürüyor.
Hollanda’daki bir mahkeme, Grok’un yetişkin veya çocuklara yönelik soyunma görüntüleri üretmesini durdurma kararı aldı. Bu karar, yapay zeka platformlarının ürettiği içeriklerin denetlenmesi ve yasal düzenlemelerle uyumlu hale getirilmesi konusunda önemli bir örnek teşkil ediyor.
X yönetimi, rıza dışı müstehcen derin kurguların yasak olduğunu ve güvenlik önlemlerinin sürekli güncellendiğini savunuyor. Ancak uzmanlar, bu filtrelerin hala yetersiz olduğu görüşünde. Araştırmacılar, Grok’un hala dünyanın en büyük rıza dışı sentetik çıplaklık üreticilerinden biri olduğunu ve kullanıcıların sistem açıklarını istismar etmeye devam ettiğini belirtiyor. Bu durum, yapay zeka teknolojilerinin kötüye kullanımının önüne geçilmesi için daha etkili önlemlerin alınması gerektiğini gösteriyor. Bu önlemler arasında, YZ modellerinin daha sıkı denetimi, kullanıcıların daha dikkatli bilgilendirilmesi ve yasal düzenlemelerin güçlendirilmesi yer alıyor.
Bu gelişmeler, yapay zeka teknolojilerinin etik kullanımı ve güvenliği konusunda önemli bir tartışma başlatıyor. Yapay zeka platformlarının, kullanıcıların gizliliğini ve güvenliğini koruma sorumluluğu, gelecekteki teknolojik gelişmelerin yönünü belirleyecek önemli bir faktör olacak.
Kaynak: TRT Haber
News
