X Platformu, Grok’u Nudify Görüntülerinden Men Ediyor
X platformu, Grok’un izinsiz dijital soyma (nudify) görüntüleri üretmesini engellediğini açıklamış olsa da, bağımsız Grok uygulaması için durum farklı görünüyor. Uygulamanın, gerçek kişilere ait cinsel içerikli deepfake görseller üretmeye devam ettiği iddia ediliyor. Bu tartışmaların merkezinde ise muhafazakâr siyasi stratejist Ashley St. Clair yer alıyor.
St. Clair, xAI’ye karşı dava açarak Grok’un kendisine ait rızası olmayan cinselleştirilmiş görüntüler oluşturduğunu ve yaydığını öne sürdü. Dava dosyasında, yapay zekânın kendisini çocukluk döneminde ve yetişkinliğinde cinsel içerikli, aşağılayıcı pozlarda gösteren sahte görseller ürettiği iddialarına yer verildi.
Mahkeme kayıtlarına göre Grok, St. Clair’in 14 yaşındayken çekilmiş bir fotoğrafını temel alarak bikini giydirilmiş deepfake görüntüler oluşturdu. St. Clair, bazı sahte görsellerde arka planda kendi çocuğuna ait eşyaların bile yer aldığını belirterek durumun psikolojik etkisinin son derece yıkıcı olduğunu söyledi.
X’in Tutumu ve İntikam İddiaları
St. Clair, söz konusu içerikleri X’e bildirmesine rağmen platformdan “politikaları ihlal etmiyor” yanıtını aldığını söylüyor. Ayrıca şikâyete rağmen bazı görsellerin günlerce yayında kaldığını iddia ediyor.
Dava dosyasına göre xAI, şikâyetlerin ardından St. Clair’e ait daha fazla sahte içerik üretilmesine izin vererek durumu daha da ağırlaştırdı. St. Clair’in X Premium aboneliğinin iptal edildiği, doğrulama rozeti ve gelir elde etme özelliklerinin kaldırıldığı belirtiliyor. Ayrıca yeniden Premium satın almasının da engellendiği öne sürülüyor.
Politika Güncellemesi Ama Eksik Önlemler
X, geçtiğimiz günlerde Grok’un çocuklara yönelik cinsel içerik veya izinsiz çıplaklık üretmeyeceğini açıkladı. Ancak bu değişikliğin yalnızca bazı ülkelerde geçerli olduğu ve bağımsız Grok uygulamasının aynı içerikleri üretmeye devam ettiği iddia ediliyor.
Yaşanan tepkilere rağmen Apple ve Google’ın Grok uygulamasıyla ilgili herhangi bir adım atmaması dikkat çekiyor. Her iki uygulamanın da bu tür içerikleri açıkça yasaklayan kuralları olmasına rağmen, Grok hâlâ App Store ve Play Store’da erişilebilir durumda.
Devletlerden Sert Tepkiler
St. Clair, yapay zekâ sistemlerinin bu şekilde kullanılması durumunda kadınların kamusal alandan çekilmek zorunda bırakıldığını söylüyor. Yapay zekânın, kadınları hedef alan uygulamalar nedeniyle taraflı bir yapıya büründüğünü savunuyor.
Teknoloji devleri sessiz kalırken, bazı ülkeler daha hızlı harekete geçti. Malezya ve Endonezya Grok’u yasakladı. Birleşik Krallık’ta düzenleyici kurum Ofcom X hakkında resmi soruşturma başlatırken, Kaliforniya da benzer bir inceleme sürecine girdi. ABD Senatosu ise yaşanan tepkilerin ardından Defiance Act’i yeniden kabul etti.
