The company responsible for Call of Duty is using player data from its most popular games to create artificial intelligence that will prevent trolling in multiplayer games.
Для этого Activision заключила партнерство с Калифорнийским технологическим институтом (Caltech). Профессора и исследователи участвуют в двухлетнем проекте, в ходе которого научат ИИ обнаруживать, предотвращать и реагировать на токсичное поведение на основе данных, собранных от игроков в сетевых режимах Warzone 2 и Modern Warfare 2. Разработчикам Call of Duty будет поручено внедрить ИИ в игры.
Речь идёт о борьбе с троллингом, расизмом, сексизмом, доксингом или просто издевательством, так как по мере развития глобальной сети вредоносное поведение становится всё более экстремальным и модераторам нужны более совершенные инструменты.
Руководить проектом будут профессор информатики Анима Анандкумар, которая ранее обучала искусственный интеллект для управления беспилотниками и изучала коронавирусы, и Майкл Альварес, профессор политологии и вычислительной социологии, который использовал инструменты машинного обучения для изучения политических тенденций в социальных сетях. Им будет помогать команда инженеров из Activision.
Главная задача – понять, как игроки взаимодействуют друг с другом, какой язык используют и каковы их предубеждения, что поможет научить ИИ распознавать троллинг и другое неподобающее поведение. Пока неясно, какими полномочиями будет обладать алгоритм. Скорее всего, он будет служить инструментом, сигнализирующим модераторам о проблеме, хотя не исключено, что машина получит какую-то автономию.
