PlayStation запатентовала систему Large Language Model Powered Social Integrity System (патент 18/314775) – виртуальный аккаунт, который с помощью ИИ сможет выявлять потенциально опасных пользователей.
Система должна имитировать поведение потенциальной жертвы и выглядеть как настоящий аккаунт. В частности, она способна имитировать стиль общения несовершеннолетних. Подозрительный пользователь вступает с ней в контакт, после чего система может зафиксировать его действия ещё до нежелательного общения с реальным человеком.
ИИ будет искать спам, попытки получить личные данные, неприемлемые сообщения, читерство, мошенничество и попытки связаться с несовершеннолетними. Нарушителей не станут автоматически блокировать, но их аккаунты получат отметку, а другие пользователи увидят предупреждение при взаимодействии с ними.
Пока неизвестно, появится ли технология вообще. Подобные разработки зачастую не доводятся до коммерческого использования.