PlayStation запатентовала ИИ-аккаунт для выявления опасных пользователей

PlayStation запатентовала ИИ-систему, которая создаёт виртуальные аккаунты-приманки, имитирующие поведение несовершеннолетних, чтобы выявлять пользователей, пытающихся вступить с ними в опасный контакт.

PlayStation запатентовала систему Large Language Model Powered Social Integrity System (патент 18/314775) – виртуальный аккаунт, который с помощью ИИ сможет выявлять потенциально опасных пользователей.

Система должна имитировать поведение потенциальной жертвы и выглядеть как настоящий аккаунт. В частности, она способна имитировать стиль общения несовершеннолетних. Подозрительный пользователь вступает с ней в контакт, после чего система может зафиксировать его действия ещё до нежелательного общения с реальным человеком.

ИИ будет искать спам, попытки получить личные данные, неприемлемые сообщения, читерство, мошенничество и попытки связаться с несовершеннолетними. Нарушителей не станут автоматически блокировать, но их аккаунты получат отметку, а другие пользователи увидят предупреждение при взаимодействии с ними.

Пока неизвестно, появится ли технология вообще. Подобные разработки зачастую не доводятся до коммерческого использования.