كشف تقرير صادر عن منظمة "ميديا ماترز" غير الربحية لمراقبة الإعلام، أن فيديوهات عنصرية يُعتقد أنها أُنشئت باستخدام أداة "جوجل" لتوليد الفيديو بالذكاء الاصطناعي "Veo 3"، حصدت ملايين المشاهدات عبر منصة تيك توك.
وتتضمن هذه الفيديوهات المولّدة بالذكاء الاصطناعي، والتي كشفت عنها المنظمة، قوالب نمطية عنصرية، تسيء للسود والآسيويين وتثير الكراهية ضد الأجانب.
وأكدت "ميديا ماترز" أن الفيديوهات، التي وصل أحدها إلى 14.2 مليون مشاهدة، تم إنشاؤها باستخدام "جوجل Veo 3" بسبب وجود علامة مائية تحمل اسم "Veo" في زاوية المقاطع.
وذكرت المنظمة أن بعض المستخدمين أدرجوا أيضًا وسومًا أو تعليقات أو أسماء مستخدمين تشير إلى "Veo 3" أو الذكاء الاصطناعي.
واستمر كل مقطع عُثر عليه بواسطة المنظمة ثماني ثوانٍ فقط، أو كان "يتألف من مقاطع متعددة لا تتجاوز مدة كل منها 8 ثوانٍ"، وهو ما يتوافق مع حد الثماني ثوانٍ الخاص بأداة "Veo 3".
وتُتيح أداة "Veo 3"، التي أطلقتها "جوجل" في مايو الماضي، للمستخدمين إنشاء مقاطع فيديو وصوت بالذكاء الاصطناعي بمجرد إدخال نص.
وتؤكد "جوجل" على موقعها الإلكتروني أنها "ستحظر الطلبات والنتائج الضارة".
كما تنص قواعد تيك توك على أن "خطاب الكراهية والسلوك البغيض لا مكان لهما على تيك توك"، وأن المنصة "لن توصي بالمحتوى الذي يحتوي على صور نمطية سلبية حول شخص أو مجموعة ذات سمة محمية".
وقالت المتحدثة باسم تيك توك، أريان دي سيليرز، في بيان لموقع "ذا فيرج": "نحن نفرض بشكل استباقي قواعد صارمة ضد خطاب الكراهية والسلوك البغيض، وقد أزلنا الحسابات التي حددناها في التقرير، والعديد منها كان محظورًا بالفعل قبل نشر التقرير".
وعُثر على بعض الفيديوهات على يوتيوب أيضًا، ولكن بمشاهدات أقل، بينما اكتشفت مجلة "وايرد" فيديوهات عنصرية مماثلة مولّدة بالذكاء الاصطناعي على إنستغرام. وتضمنت فيديوهات أخرى عثرت عليها "ميديا ماترز" محتوى عنصريًا للمهاجرين والآسيويين.
ولم تعلّق شركة "جوجل" رسميًا حتى الآن رغم خطورة انتشار هذه المقاطع، فيما حذرت منظمات وخبراء من المخاطر مطالبين بضبط أدوات الذكاء الاصطناعي.