BBC'nin yaptığı bir araştırma, pedofillerin yapay zeka teknolojisi kullanarak çocuk istismarı için gerçek gibi görünen görsel malzemeler üretip sattıklarını ortaya çıkardı.
Bu malzemelerin bazılarına Patreon gibi belli başlı içerik paylaşım sitelerine ödenen abonelikler sayesinde ulaşıldığı anlaşıldı.
Patreon sitesinde bu gibi görsellerin yer alması konusunda "sıfır hoşgörü" politikasına sahip olduklarını belirtti.
Ulusal Polis Şefleri Konseyi'nden yapılan açıklamada "bazı platformların ahlaki sorumluluk almaksızın büyük kâr elde etmesinin" kabul edilemez olduğu ifade edildi.
İngiltere hükümetinin siber saldırılara ve tehditlerle mücadele eden güvenlik ve istihbarat kurumu GCHQ da konuyla ilgili açıklama yaptı:
"Çocuk cinsel istismarına karışanlar her tür teknolojiyi kullanıyorlar ve bazıları çocuk cinsel istismarı içeren malzemelerin geleceğinin yapay zekaya dayalı içeriklerde olduğuna inanıyor."
İstismar içerikli görselleri hazırlayanlar sanatsal ya da grafik tasarımında kullanılmak üzere görseller yaratma amacı taşıyan Stable Diffusion isimli yapay zeka yazılımını kullanıyorlar.
Yapay zeka bilgisayarların genellikle insan zekasına ihtiyaç duyan bazı görevleri yapabilmesine imkân tanıyor.
Risk seviyesine göre düzenlemeler geliyor. Yapay zekaya yasal sınırlama. Düzenleme yasalaşırsa dünyada bir ilk olacakTeknolojiStable Diffusion kullanıcıları kelimelerle komutlar vererek istedikleri herhangi bir görseli tarif etmelerini mümkün kılıyor, ardından program bu görselleri yaratıyor.
Ancak BBC'nin araştırması bu programın bebek ve çocukların tecavüzü gibi içerikler de dahil çocuk cinsel istismarı içeren ve gerçek gibi görünen görsellerin üretiminde kullanıldığını ortaya koydu.
İngiltere polisi çocuk istismarıyla mücadele ekiplerinin halihazırda bu gibi içeriklere dair incelemelerde bulunduğunu belirtti.
Farklı ödeme seçenekleri
BBC'nin Octavia Sheepshanks'le birlikte yürüttüğü araştırma yapay zeka tarafından tasarlanan çocuk istismarı içeren görsellerin içeriklerine göre farklı fiyat seçenekleri üzerinden satışa sunulduğunu ortaya çıkardı.
Bir hesapta "Kızlarımı bilgisayarımda eğitiyorum," denilirken "teslimiyet içinde" görüldüklerinin de altı çizildi.
Bir diğer hesap ayda 8,30 dolar karşılığı "sansürlenmemiş sanat" vaadinde bulundu.
BBC bu hesaplardan birini Patreon ile paylaştı ve platformun söz konusu içeriğin şirket politikalarını ihlal ettiğini tespit etmesinin ardından hesap askıya alındı.
Patreon bu konuda "sıfır hoşgörü" politikasına sahip olduklarını vurguladı ve "İçerik üreticileri çocukları içeren cinsel temalara dayalı malzemelere para aktaramaz" denildi.