El asistente Muse de Meta arma un mapa horario de los vínculos del usuario y lo guarda en fichas internas

Cada sesenta minutos, el asistente de inteligencia artificial Muse, desarrollado por Meta, ejecuta una rutina destinada a actualizar perfiles de las personas que rodean al usuario. La información se organiza en fichas que incluyen desde el tipo de vínculo hasta cumpleaños, aniversarios, mudanzas, objetivos de ahorro compartidos y discusiones previas. Así lo describió Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, tras conseguir que el propio chatbot le entregara los archivos con sus instrucciones internas mediante una consulta formulada dentro de una conversación corriente.

Para dimensionar el alcance, alcanza con un ejemplo de cocina: si una persona le pide al asistente que recomiende un regalo para su pareja, Muse no parte de cero. Cruza el historial de chats, las cuentas que el usuario sigue en redes sociales y los datos disponibles en servicios conectados, como el correo electrónico, y arma una respuesta apoyada en un perfil que se fue enriqueciendo con el paso de las semanas. Esa es justamente la utilidad que Meta promociona: reconocer que una factura pertenece al plomero contratado meses atrás o recordar las flores predilectas de un ser querido.

Qué almacena el sistema, según la documentación filtrada

Daniel Roberts, vocero de la empresa, sostuvo que ese contexto resulta clave para que el asistente cumpla los objetivos de quien lo utiliza. Las fichas, de acuerdo con los archivos obtenidos por Joshi, incorporan de manera progresiva los antecedentes del vínculo, los intereses en común, los asuntos pendientes y los datos sobre la relación en sí. También pueden guardar cumpleaños, aniversarios, cambios de domicilio, metas de ahorro compartidas y desacuerdos anteriores, siempre que exista información que respalde esos datos en las conversaciones o conexiones del usuario. Las instrucciones internas, según el investigador, exigen trabajar con evidencia y no completar los perfiles con detalles inventados.

La memoria, sin embargo, no es simétrica. Quien instaló Muse es el único que dispone de herramientas para revisar el registro de auditoría, borrar lo guardado y desactivar la conexión con servicios externos que aportan información. Las personas incluidas en los perfiles no cuentan con esos mismos controles, lo que plantea un interrogante sobre el consentimiento de terceros cuyos datos quedan registrados sin intervención directa de su parte.

• Rutinas automáticas: una tarea se ejecuta cada hora para refrescar los perfiles del entorno del usuario, incluyendo familiares, parejas, amistades, colegas y cuentas seguidas en redes sociales.
• Origen de los datos: la información proviene de conversaciones dentro de Muse, de contenido público y de servicios externos vinculados por el propio usuario, como correo electrónico o calendario.
• Controles disponibles: el usuario puede consultar un registro de auditoría, eliminar la memoria almacenada y cortar el acceso de servicios conectados, mientras que el asistente pide confirmación antes de enviar correos o concretar compras.
• Filtro de evidencia: las instrucciones internas obtenidas por el investigador indican que el sistema no debe completar las fichas con datos inventados y que solo registre aquello con respaldo concreto.
• Pendiente por resolver: las personas mencionadas en los perfiles no tienen herramientas para revisar, corregir o eliminar la información que Muse guarda sobre ellas.

“La información procede de contenidos públicos y de aquello que el usuario comparte. Cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, vocero de Meta

Lo que todavía no se sabe es cómo se resolverá el desbalance entre los derechos del titular de la cuenta y los de quienes aparecen en las fichas sin haber aceptado nada. Meta asegura que los perfiles se construyen sobre lo público y lo compartido, pero no detalla el procedimiento para que un tercero pueda exigir el borrado de su información. Tampoco se conoce la cantidad de usuarios activos de Muse ni la magnitud real de los datos acumulados hasta el momento.