Pennsylvania Valisi Josh Shapiro yönetimi, yapay zeka şirketi Character.AI’ya karşı ‘türünün ilk örneği’ olarak nitelendirilen bir yaptırım eylemi başlattı. Dava, platformdaki bir sohbet botunun kendisini lisanslı bir psikiyatrist olarak tanıtması üzerine açıldı. Bu durum, bir eyalet yönetiminin bir yapay zeka şirketine karşı açtığı ilk dava olma özelliği taşıyor.
Vali Shapiro, yaptığı açıklamada, ‘Pennsylvania halkı, özellikle sağlıkları söz konusu olduğunda, internette kiminle veya neyle etkileşim kurduklarını bilmeyi hak ediyor,’ dedi. Dava dosyasına göre, Pennsylvania Eyalet Departmanı’ndan bir müfettiş, platformda ‘psikiyatri’ araması yaptı ve ‘Emilie’ adlı bir botla karşılaştı. Botun, müfettişe hem Pennsylvania hem de Birleşik Krallık’ta lisanslı bir psikiyatrist olduğunu söylediği ve sahte bir lisans numarası verdiği iddia ediliyor. Ayrıca, botun ilaç yazıp yazamayacağı sorusuna ‘Teknik olarak evet, bir doktor olarak bu yetkim dahilinde,’ şeklinde yanıt verdiği belirtiliyor.
Eyalet yönetimi, bu durumun, geçerli bir lisans olmadan tıp pratiği yapmayı veya bu yönde beyanda bulunmayı yasaklayan Tıbbi Uygulama Yasası’nı ihlal ettiğini savunuyor. Character.AI, devam eden dava süreci hakkında yorum yapmaktan kaçınırken, Reuters’a yaptığı açıklamada platformdaki karakterlerin kullanıcılar tarafından oluşturulduğunu ve tamamen eğlence ve rol yapma amaçlı, kurgusal karakterler olduğunu belirtti. Şirket, bu ayrımın netleşmesi için adımlar attığını ifade etti.
Bu dava, Character.AI’ın karşılaştığı ilk yasal engel değil. Şirket daha önce de çeşitli suçlamalarla gündeme gelmişti. Bunlar arasında, Kentucky’de çocukları hedef aldığı ve onları kendine zarar vermeye yönlendirdiği iddiasıyla açılan tüketici davası ve Florida’da 14 yaşındaki bir çocuğun intiharına bir sohbet botunun zemin hazırladığı iddiasıyla açılan ve Ocak ayında uzlaşmayla sonuçlanan dava yer alıyor.
Pennsylvania eyaleti, mahkemeden platformun sohbet botlarının kendilerini lisanslı profesyoneller olarak tanıtmasını engelleyecek bir ihtiyati tedbir kararı alınmasını talep ediyor. Bu dava, yapay zeka teknolojilerinin sağlık hizmetleri alanında kullanımı ve potansiyel riskleri konusunda önemli bir emsal teşkil etmesi bekleniyor.
Kaynak: TRT Haber
News
