ИИ-доносчик помог снизить токсичность и негатив в голосовом чате Call of Duty на 43%, хвалится Activision

Компания заявила, что ее ИИ-стукач не просто подслушивает разговоры людей, но и умеет определять по интонациям, просто ли шутит игрок, или проявляет реальную агрессию.

Как сообщает Activision, ее ИИ-доносчик ToxMod, введенный в эксплуатацию в августе 2023 года, помог снизить уровень токсичного и деструктивного поведения в голосовых чатах Call of Duty на 43%.

«В Call of Duty зафиксировано совокупное снижение на 67% количества повторных нарушений, связанных с голосовыми чатами в Modern Warfare 3 и Call of Duty: Warzone. В июле 2024 года 80% игроков, к которым были применены меры наказания за их высказывания в голосовом чате, не совершили повторных нарушений. Общее число нарушений порядка в голосовом чате с января 2024 года снизилось на 43%».

Activision заявила, что ToxMod не может самостоятельно блокировать или как-то ограничивать пользователей, вместо этого он подслушивает игроков, а затем, если зафиксирует грубые высказывания, направляет запись разговора модераторам, которые уже сами принимают соответствующее решение. 

Утверждается, что ToxMod умеет определять интонацию и понимает, когда игроки просто шутят, и когда кто-то проявляет реальную и искреннюю агрессию.

***

Автор изображения: Activision. Источник изображения: Call of Duty: Modern Warfare 3