Компанія Epic Games внесла необхідні корективи в свою нейромережу, яка тепер не здатна генерувати неналежний контент.
У грі Fortnite з’явився персонаж Дарт Вейдер, який має можливість взаємодії з гравцями. Це викликало низку проблем, оскільки нового NPC оснастили голосовим супроводом та потенціалом зрозуміти гравців за допомогою ШІ, розробленого Google. Озвучка героя базується на аудіозаписах Джеймса Ерла Джонса, який є оригінальним голосом ситха.
Вейдер здатний вести бесіду через текстові або голосові повідомлення, відповідати на репліки гравців, використовуючи той самий голос. Це реалізовано завдяки моделі Gemini, але, як виявилося, розробники не були готові до типових провокацій з боку гравців.
Лише через півтори години після виходу оновлення, Вейдер почав використовувати ненормативну лексику, а пізніше – відтворювати образи на гомофобному ґрунті, активовані певними запитаннями.
Гравці навчали ШІ вживати неналежну лексику та обходити базові фільтри модерації, використовуючи сленг і натяки.
Epic Games в той же день випустила термінове оновлення і запевнила, що подібні ситуації більше не повторяться. Дарту Вейдеру заборонено обговорювати теми сексуального характеру, насильство над дітьми, питання донатів у грі, а також вживати ряд неприязно налаштованих слів. Також були упомянуті батьківські налаштування, які дозволяють обмежити можливості взаємодії з AI-персонажем.
Раніше повідомлялося, що Apple знову заблокувала Fortnite на пристроях iPhone, незважаючи на поразку в суді.