Відеогенератор Veo 3 від Google сприяв поширенню нової хвилі расистського контенту зі штучним інтелектом у TikTok, попри те, що обидві платформи мають сувору політику щодо заборони мови ворожнечі.
За даними MediaMatters, кілька облікових записів TikTok поділилися відео, створеними штучним інтелектом, що пропагують антисемітські та античорні стереотипи, багато з яких все ще широко поширювалися, перш ніж були видалені.
Ці короткі, дуже реалістичні відео часто містили образливі зображення, а видимий водяний знак «Veo» підтверджував їхнє походження з моделі Google.
Хоча і TikTok, і Google офіційно забороняють створення та розповсюдження матеріалів, що містять ненависть, правозастосування було нерівномірним. TikTok стверджує, що використовує як автоматизовані системи, так і модераторів-людей, проте величезна кількість завантажень, схоже, затримує дії.
Хоча TikTok стверджує, що заблокував понад половину облікових записів до публікації висновків MediaMatters, шкідливим відео все ж вдалося охопити велику аудиторію.
Google також дотримується Політики заборони використання контенту, що пропагує ненависть. Однак, завдяки підвищеному реалізму Veo 3 та труднощам у виявленні закодованих підказок, користувачам легше обійти захисні механізми.
Тестування, проведене журналістами, показує, що модель є більш дозвільною, ніж попередні ітерації, що викликає занепокоєння щодо її здатності фільтрувати образливий матеріал до його створення.
Оскільки Google планує інтегрувати Veo 3 у YouTube Shorts, зростає занепокоєння, що шкідливий контент може незабаром заполонити інші платформи. TikTok та Google, схоже, не мають достатньої спроможності правоохоронних органів, щоб встигати за зловживаннями генеративним штучним інтелектом.
Незважаючи на суворі правила на папері, обидві компанії намагаються запобігти поширенню расистських наративів їхніми технологіями у великих масштабах.
