Grok, görsel üretme özelliğinin çocuk istismarına yol açtığı için gündemde
Wired sitesinin haberine nazaran yapay zeka botu Grok, son vakitlerde kullanıcıların talimatı doğrultusunda çeşitli tartışmalar yaratacak görseller üretmesiyle gündemde.
Buna nazaran, yaklaşık son bir haftadır X kullanıcıları, Grok’tan bayanların kıyafetlerinin çıkarıldığı ya da şeffaf bikini üzere ögeler içeren görseller üretmesini talep ediyor.
Söz konusu durumdan ötürü X idaresi, Grok’un görsel üretme özelliğini sırf fiyatlı abonelere sınırlandırsa da yapılan değişikliğe karşın Grok’un hala “soyunma” temalı ve cinsel içerikli görseller üretmek için kullanılabildiği belirtiliyor.
ABD’li milyarder Elon Musk’ın sahibi olduğu X şirketi ve Grok’un geliştiricisi xAI şirketinin, isteksiz müstehcen manzaralar ve çocuklara ilişkin olduğu tez edilen cinsel içerikli imgeler oluşturmaları nedeniyle dünya çapındaki düzenleyici kurumlar tarafından giderek artan sayıda soruşturmayla karşı karşıya kaldığı aktarılıyor.
Grok sırf fiyatlı hesaplara karşılık verse de durum hala devam ediyor
Öte yandan X’teki Grok hesabı, dünden itibaren kimi kullanıcıların taleplerine, görsel üretme ve düzenleme süreçlerinin yıllık 395 dolarlık abonelik paketine yönlendiren bir kontağın da yer aldığı ve bu hizmetlerin “şu anda sırf fiyatlı abonelere açık olduğu” istikametinde karşılıklar vermeye başladı.
Söz konusu adım, ABD’li milyarder Elon Musk’ın sahibi olduğu X ve Grok’u geliştiren xAI şirketine yönelik artan yansılar ve incelemelerin akabinde geldi.
Bu iki şirket, istek dışı müstehcen içerik üretimi ve çocuklara yönelik cinsel içerik tezleri nedeniyle dünya genelinde düzenleyici kurumların soruşturmalarıyla karşı karşıya bulunuyor.
Görsel üretim özelliğinin fiyatlı abonelere açılmasının akabinde, Grok’un herkese açık görsel akışında bu tıp içeriklerin azaldığı görülse de fiyatlı ve doğrulanmış hesaplar üzerinden hala cinsel içerikli görseller üretilebildiği kaydediliyor.
Grok’a yansılar sürüyor
X’teki kullanıcıların Grok’tan ünlülerin ve tanınmamış şahısların fotoğraflarını kullanarak cinsel içerikli geçersiz görsel içerikler üretmesini istedikleri “sosyal medya akımına” yansılar yalnızca İngiltere ile sonlu değil.
X’in sahibi ABD’li milyarder Elon Musk, 3 Ocak’ta, “Grok’u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş üzere muamele görecektir.” açıklamasını yapsa da yansılar sürüyor.
Avrupa Birliği (AB) Komitesi, 5 Ocak’ta mevzuyu çok ciddiye aldıklarını ve kıymetlendirme sürecinde olduklarını açıklamıştı.
Malezya, 3 Ocak’ta X’in bu çeşit ziyanlı içeriklerin yayılmasını tedbire konusunda sorumluluğu olduğunu vurgulamıştı.
Hindistan da geçen hafta X’e, mevzu hakkında kapsamlı inceleme yapma talimatı vermişti.
