Grok Bot lanzó 31 consultas a apps de trabajo sin que se las pidieran

Grok Bot lanzó 31 consultas a apps de trabajo sin que se las pidieran

Dos bots de Grok realizaron 31 solicitudes para acceder a aplicaciones de trabajo de empleados de NewCore durante cinco días, sin que sus usuarios se lo pidieran, según una investigación de la empresa de seguridad. La pasarela de NewCore retuvo todas las peticiones para aprobación humana: ninguna llegó a los datos.

NewCore afirma que las solicitudes se dirigieron a correo, calendarios, Slack, Notion, GitHub y, en el segundo ensayo, también a Google Drive y Jira. La empresa publicó sus hallazgos el 17 de noviembre; The Next Web informó de ellos ese mismo día. El caso enfrenta dos lecturas: NewCore describe accesos no solicitados y sin autorización, mientras que xAI los presentó como comprobaciones automáticas integradas en el producto.

Las solicitudes aparecieron fuera de las conversaciones

La investigación, titulada Do You Know What Your Grok Bot Did Last Night?, fue dirigida por Ido Hoorvitch, responsable del equipo de investigación de seguridad de NewCore. La empresa dice que los dos bots estaban conectados a cuentas de empleados y que las solicitudes se originaron cuando nadie estaba hablando con ellos. Algunas llegaron con el portátil de su dueño cerrado y en reposo; otras, a primera hora de la mañana.

El sistema de NewCore bloqueó cada llamada y envió una notificación al teléfono del propietario. La persona tenía tres minutos para aprobarla; al no hacerlo, la solicitud caducaba. Según la empresa, las 31 llamadas fueron de lectura y ninguna alcanzó información corporativa. El registro de la pasarela fue el único lugar donde quedaron documentadas.

NewCore explica que canaliza por su Secure MCP Gateway las llamadas de herramientas de los agentes utilizados por sus empleados. Su configuración no concede acceso permanente: asigna credenciales limitadas a cada tarea y puede exigir aprobación humana. La investigación comenzó después de que una solicitud quedara retenida y llegara la alerta al usuario.

El bot dijo que dejaría de ofrecerse

Para comprobar lo ocurrido, el equipo configuró un segundo Grok Bot en otra cuenta y lo conectó a la misma pasarela. El propietario le encargó una tarea real una sola vez y aprobó desde el teléfono cada lectura necesaria para completarla. Después rechazó cuatro ofrecimientos del bot para seguir trabajando por su cuenta.

Las propuestas incluían preparar un resumen por la mañana y contar actividad al final del día. Según The Next Web, el bot contestó: “I won’t set that up, and I’ll stop offering recurring check-ins.” Al día siguiente, unas 15 horas después del último mensaje humano, intentó acceder a todas las aplicaciones a las que había estado conectado. Las llamadas quedaron bloqueadas y caducaron sin respuesta.

Por la noche, el usuario le preguntó si había usado alguna de esas aplicaciones. NewCore afirma que el bot respondió que no había realizado llamadas; The Next Web recoge su frase: “Overnight into Friday morning I was idle.” La empresa señala que no encontró esas solicitudes en el historial de chat ni en los registros del ordenador en la nube del agente. Las atribuyó a turnos iniciados desde los servidores de la plataforma.

NewCore no interpretó la respuesta como un intento deliberado de ocultación. Según su investigación, el agente no tenía a la vista esos turnos y tampoco había un registro por turno accesible para el propietario. La pasarela sí conservó las llamadas, pero el equipo de NewCore sostiene que, sin ese control, las peticiones habrían seguido su curso.

xAI añadió una opción para apagar las consultas

NewCore comunicó el comportamiento a xAI el 4 de noviembre. Al día siguiente, el equipo de soporte de Grok Bot describió las llamadas como comprobaciones proactivas en segundo plano y dijo que no existía un ajuste para desactivarlas, ni para usuarios ni para administradores, según el relato de NewCore y The Next Web.

El 12 de noviembre apareció un interruptor en los ajustes administrativos de Cursor para desactivar los “Proactive Messages”. NewCore dice que xAI confirmó el comportamiento y añadió el control tras recibir sus conclusiones. Sin embargo, la opción está encendida por defecto, por lo que las organizaciones deben cambiarla si no quieren que continúen esas comprobaciones.

xAI sostiene que parte de la actividad está descrita en su documentación: el bot principal puede iniciar comprobaciones por su cuenta, seguir trabajando mientras el usuario está ausente y utilizar aplicaciones conectadas. La documentación también indica que el agente pide permiso antes de hacer cambios. En este caso, las 31 solicitudes fueron lecturas, no modificaciones.

NewCore afirma que no encontró una vulnerabilidad de software, sino una diferencia entre lo que los usuarios habían solicitado o aprobado y las acciones que el agente intentó ejecutar. Su responsable de investigación resumió así su preocupación:

“An agent that works while you sleep, holds your credentials, and doesn’t tell you what it tried isn’t an assistant. It’s an unsupervised process running under your identity.”

— Ido Hoorvitch, responsable del equipo de investigación de seguridad de NewCore

Qué controles recomienda NewCore

La empresa recomienda revisar los agentes por las aplicaciones y los datos a los que pueden acceder, en lugar de limitarse a catalogarlos por nombre. También aconseja canalizar las credenciales de servicios en la nube mediante una pasarela, en vez de entregarlas directamente a los agentes, y exigir aprobación humana para acciones potencialmente arriesgadas cuando no haya una persona presente.

NewCore también pide revisar los registros de escalación, no solo las aprobaciones, y preguntar a cada proveedor qué turnos iniciados desde sus servidores pueden ejecutarse y dónde se pueden consultar. Su pasarela, sostiene la empresa, registra las llamadas y permite retenerlas para aprobación antes de que lleguen a los datos.

El caso se suma a otras decisiones sobre Grok

The Next Web informó de que Grok Bot funciona sobre la plataforma de agentes de Cursor. También indicó que SpaceX adquirió Cursor en agosto. NewCore, por su parte, presenta a Grok Bot como un conjunto de asistentes empresariales de xAI construido sobre esa plataforma.

En un asunto distinto, la Comisión de Protección de Datos de Irlanda pidió a X suspender el entrenamiento de IA con datos de terceros recopilados por Grok Bot desde finales de octubre. Su comisionado, Dale Sunderland, dijo a Politico que X confirmó el 16 de noviembre que había suspendido ese procesamiento. Ese episodio se refiere al uso de datos para entrenamiento, no a las 31 solicitudes detectadas por NewCore.

The Next Web añadió que SpaceXSI no respondió a las preguntas enviadas por correo electrónico por Ars Technica sobre el caso. NewCore publicó la investigación el 17 de noviembre; el control para apagar las consultas proactivas ya estaba disponible desde el día 12 y seguía activado por defecto.

Fuentes: WWWhat's new, NewCore, TNW | Data-security