PlayStation ha patentado el sistema Large Language Model Powered Social Integrity System (patente 18/314775), una cuenta virtual que, con la ayuda de la IA, podrá identificar usuarios potencialmente peligrosos.
El sistema debe imitar el comportamiento de una víctima potencial y parecer una cuenta real. En particular, es capaz de imitar el estilo de comunicación de los menores. Un usuario sospechoso entra en contacto con ella, después de lo cual el sistema puede registrar sus acciones incluso antes de una comunicación no deseada con una persona real.
La IA buscará spam, intentos de obtener datos personales, mensajes inapropiados, trampas, fraudes e intentos de contactar con menores. Los infractores no serán bloqueados automáticamente, pero sus cuentas serán marcadas y otros usuarios verán una advertencia al interactuar con ellos.
Todavía no se sabe si la tecnología aparecerá. Tales desarrollos a menudo no llegan al uso comercial.