Троллей будут приструнять. Activision собирает данные игроков и создаёт специальный искусственный интеллект
Компания, ответственная за Call of Duty, использует данные игроков своих самых популярных игр для создания искусственного интеллекта, который будет предотвращать троллинг в многопользовательских играх.
Для этого Activision заключила партнерство с Калифорнийским технологическим институтом (Caltech). Профессора и исследователи участвуют в двухлетнем проекте, в ходе которого научат ИИ обнаруживать, предотвращать и реагировать на токсичное поведение на основе данных, собранных от игроков в сетевых режимах Warzone 2 и Modern Warfare 2. Разработчикам Call of Duty будет поручено внедрить ИИ в игры.
Речь идёт о борьбе с троллингом, расизмом, сексизмом, доксингом или просто издевательством, так как по мере развития глобальной сети вредоносное поведение становится всё более экстремальным и модераторам нужны более совершенные инструменты.
Руководить проектом будут профессор информатики Анима Анандкумар, которая ранее обучала искусственный интеллект для управления беспилотниками и изучала коронавирусы, и Майкл Альварес, профессор политологии и вычислительной социологии, который использовал инструменты машинного обучения для изучения политических тенденций в социальных сетях. Им будет помогать команда инженеров из Activision.
Главная задача – понять, как игроки взаимодействуют друг с другом, какой язык используют и каковы их предубеждения, что поможет научить ИИ распознавать троллинг и другое неподобающее поведение. Пока неясно, какими полномочиями будет обладать алгоритм. Скорее всего, он будет служить инструментом, сигнализирующим модераторам о проблеме, хотя не исключено, что машина получит какую-то автономию.