تم تداول صور جنسية صريحة تم إنشاؤها بواسطة الذكاء الاصطناعي لـ تايلور سويفت على موقع X (تويتر سابقًا) خلال اليوم الأخير في أحدث مثال على انتشار المواد الإباحية المزيفة التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتحدي المتمثل في منعها من الانتشار.
وقد اجتذب أحد أبرز الأمثلة على X أكثر من 45 مليون مشاهدة و24000 إعادة نشر ومئات الآلاف من الإعجابات والإشارات المرجعية قبل أن يتم تعليق حساب المستخدم الذي تم التحقق منه والذي شارك الصور بسبب انتهاك سياسة النظام الأساسي. كان المنشور مباشرًا على المنصة لمدة 17 ساعة تقريبًا قبل إزالته.
ولكن عندما بدأ المستخدمون في مناقشة المنشور واسع الانتشار، بدأت الصور في الانتشار وأعيد نشرها عبر حسابات أخرى. لا يزال الكثير منها قائمًا، وقد ظهر منذ ذلك الحين طوفان من الصور المزيفة الجديدة. في بعض المناطق، أصبح مصطلح “Taylor Swift AI” موضوعًا شائعًا، مما أدى إلى الترويج للصور لجماهير أوسع.
وجد تقرير من 404 Media أن الصور ربما نشأت في مجموعة على Telegram، حيث يشارك المستخدمون صورًا صريحة تم إنشاؤها بواسطة الذكاء الاصطناعي لنساء غالبًا ما يتم إنشاؤها باستخدام Microsoft Designer. وبحسب ما ورد كان المستخدمون في المجموعة يمزحون حول كيفية انتشار صور Swift على X.
إن سياسات X المتعلقة بالوسائط الاصطناعية والمتلاعب بها والعري غير التوافقي تحظر صراحةً استضافة هذا النوع من المحتوى على المنصة. لم يستجب X وممثلو Swift لطلباتنا للتعليق.
انتقدت قاعدة معجبي Swift X لسماحها للعديد من المنشورات بالبقاء مباشرة طوال فترة وجودها. ردًا على ذلك، استجاب المعجبون من خلال غمر الوسوم المستخدمة لتوزيع الصور برسائل تعمل بدلاً من ذلك على الترويج لمقاطع حقيقية لأداء Swift لإخفاء التزييف الصريح.
تتحدث هذه الحادثة عن التحدي الحقيقي المتمثل في إيقاف الصور الإباحية العميقة والصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لأشخاص حقيقيين. تفرض بعض شركات إنتاج صور الذكاء الاصطناعي قيودًا تمنع إنتاج الصور العارية والإباحية والواقعية للمشاهير ، لكن العديد من الشركات الأخرى لا تقدم مثل هذه الخدمة بشكل صريح. غالبًا ما تقع مسؤولية منع انتشار الصور المزيفة على عاتق المنصات الاجتماعية – وهو أمر قد يكون من الصعب القيام به في أفضل الظروف، بل وأكثر صعوبة بالنسبة لشركة مثل X التي قامت بتفريغ قدراتها المعتدلة.
ويجري الاتحاد الأوروبي حاليًا تحقيقًا مع الشركة فيما يتعلق بادعاءات بأنها تستخدم ” لنشر محتوى غير قانوني ومعلومات مضللة “، ويقال إنه يتم استجوابها بشأن بروتوكولات الأزمات الخاصة بها بعد اكتشاف معلومات مضللة حول الحرب بين إسرائيل وحماس يتم الترويج لها عبر المنصة.
