X Safety, Grok’un Kapsamını Daralttı
X Safety, çarşamba gecesi yaptığı açıklamada, Grok’un kişilerin rızası olmadan görüntülerinin düzenlenmesini engelleyen yeni teknik önlemler aldığını doğruladı. Şirket, gerçek kişilerin bikini gibi açık kıyafetlerle yer aldığı görsellerin artık düzenlenemeyeceğini açıkladı.
Bu kısıtlamanın tüm kullanıcılar için geçerli olduğu belirtildi. Görsel oluşturma ve düzenleme yetkileri, yalnızca ücretli abonelere açıldı.
X Safety, bu adımın yasa ve platform kurallarını ihlal etmeye çalışan kullanıcıların daha kolay tespit edilmesini sağlayarak ek bir güvenlik katmanı sunduğunu ifade etti.
X ayrıca, bazı ülkelerde bikini, iç çamaşırı gibi kıyafetlerle görüntülerin üretilmesinin yasal olmadığı bölgelerde bu özelliği coğrafi olarak engelleyeceğini duyurdu.
Bu kısıtlama hem X üzerindeki Grok hesabı hem de Grok’un platform içi sürümü için geçerli olacak. Grok ile üretilen ve kadınlar ile çocukları cinsel içerikli şekilde betimleyen görsellerin gündemde olmasının ardından gelen güncelleme, Kaliforniya Başsavcısı Rob Bonta’nın dikkatini çekti.
Bonta, bu içeriklerin ABD yasalarını ihlal edip etmediğini araştırmak üzere soruşturma başlattı. X ile Grok’un yalnızca X üzerinde değil, bağımsız uygulama ve web sitesi üzerinde üretilen içeriklerle de ilgili endişeler taşıdığını belirtti.
Bu güncelleme, Grok’un ürettiği içeriklerin zararsız olduğunu savunan Elon Musk’ın açıklamalarından kısa bir süre sonra geldi. Musk, oluşturulmuş içeriklerde çıplak reşit olmayan birey görselleri bulunmadığını iddia etti, ancak araştırmacılar farklı sonuçlara ulaştı.
ABD Adalet Bakanlığı, 18 yaşından küçük bireyleri içeren cinsel içerikli görsellerin çocuk istismarı materyali olarak kabul ediyor. Uzmanlar, Grok’un ürettiği içeriklerin çocukların cinselleştirilmesini normalleştirerek ciddi zararlara yol açabileceğini belirtiyor.
Bonta, Grok’un en sorunlu çıktılarının ardından bir inceleme başlattıklarını belirtti. X Safety ise çocuk istismarı, rıza dışı çıplaklık ve istenmeyen cinsel içeriklere karşı sıfır tolerans politikasını sürdüreceğini duyurdu.
