Meta configura a Muse para que elabore y actualice fichas sobre el círculo cercano del usuario

Reconocer que una factura corresponde al plomero contratado con anterioridad o recordar las flores favoritas de una pareja constituyen dos ejemplos del uso que Meta plantea para Muse, el asistente de inteligencia artificial que la compañía puso en marcha. Para cumplir con esas tareas, el sistema recaba información sobre la persona usuaria y también sobre quienes integran su entorno más próximo, según explicó Daniel Roberts, vocero de la empresa con sede central en California.

El funcionamiento descrito por la compañía contempla controles que, de acuerdo con lo manifestado por la propia firma, permiten revisar la actividad del agente mediante un registro de auditoría. Quien utiliza Muse también puede eliminar la información almacenada en su memoria y desconectar los servicios externos que alimentan al asistente. Además, la empresa sostiene que el sistema solicita confirmación antes de concretar acciones con efectos prácticos, como el envío de un correo electrónico o la realización de una compra.

Un hallazgo expuso el procedimiento interno

El alcance de esa memoria quedó al descubierto a partir del trabajo de Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, quien logró que el propio sistema compartiera archivos con las instrucciones internas mediante un pedido formulado dentro de la conversación habitual. La documentación obtenida describe una secuencia que se ejecuta cada hora y que prepara perfiles sobre familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que el usuario sigue en plataformas de Meta como Facebook e Instagram.

Los registros incorporan de manera progresiva los antecedentes del vínculo, los intereses compartidos, los asuntos pendientes y otros datos sobre la relación. Las instrucciones obtenidas indican que también pueden almacenarse cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores, siempre que exista información que respalde esos datos en las conversaciones o conexiones del usuario. Las propias directivas internas exigen trabajar con evidencia y no completar los perfiles con detalles inventados.

“Roberts sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa. Según explicó, la información procede de contenidos públicos y de aquello que el usuario comparte. Meta también asegura que cada usuario cuenta con una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

• Quiénes figuran en las fichas: familiares, parejas, amistades, colegas y cuentas seguidas en redes sociales.
• Qué se registra: antecedentes del vínculo, intereses compartidos, asuntos pendientes, cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y desacuerdos anteriores.
• Frecuencia de actualización: una rutina que se ejecuta cada hora.
• Fuente de los datos: contenido público y lo que el propio usuario comparte.
• Controles disponibles: registro de auditoría, eliminación de la memoria y desconexión de servicios externos, aunque estos quedan en manos de quien instaló Muse.

El control de la memoria, de todos modos, corresponde a quien configuró el servicio. Las personas incluidas en las fichas no cuentan con la posibilidad de revisar qué datos se conservan, de solicitar modificaciones ni de pedir la baja de su información, una asimetría que distintos especialistas en privacidad venían señalando a medida que los sistemas conversacionales avanzan hacia asistentes con contexto persistente sobre la vida cotidiana de sus usuarios.