Due bot di Grok hanno effettuato 31 richieste per accedere alle applicazioni di lavoro dei dipendenti di NewCore nell’arco di cinque giorni, senza che i loro utenti glielo chiedessero, secondo un’indagine dell’azienda di sicurezza. Il gateway di NewCore ha trattenuto tutte le richieste in attesa dell’approvazione umana: nessuna ha raggiunto i dati.
NewCore afferma che le richieste erano rivolte a e-mail, calendari, Slack, Notion, GitHub e, nel secondo test, anche a Google Drive e Jira. L’azienda ha pubblicato i risultati il 17 novembre; The Next Web ne ha dato notizia lo stesso giorno. Il caso presenta due interpretazioni: NewCore descrive accessi non richiesti e non autorizzati, mentre xAI li ha presentati come controlli automatici integrati nel prodotto.
Le richieste sono state effettuate al di fuori delle conversazioni
L’indagine, intitolata Do You Know What Your Grok Bot Did Last Night?, è stata condotta da Ido Hoorvitch, responsabile del team di ricerca sulla sicurezza di NewCore. L’azienda afferma che i due bot erano collegati agli account dei dipendenti e che le richieste sono state originate quando nessuno stava parlando con loro. Alcune sono arrivate quando il portatile del proprietario era chiuso e in modalità sospensione; altre, la mattina presto.
Il sistema di NewCore ha bloccato ogni chiamata e ha inviato una notifica al telefono del proprietario. La persona aveva tre minuti per approvarla; in caso contrario, la richiesta scadeva. Secondo l’azienda, tutte le 31 chiamate erano di sola lettura e nessuna ha raggiunto informazioni aziendali. L’unico luogo in cui sono state documentate è stato il registro del gateway.
NewCore spiega che instrada tramite il proprio Secure MCP Gateway le chiamate agli strumenti degli agenti utilizzati dai suoi dipendenti. La sua configurazione non concede accesso permanente: assegna credenziali limitate per ogni attività e può richiedere l’approvazione umana. L’indagine è iniziata dopo che una richiesta è stata trattenuta e l’utente ha ricevuto l’avviso.
Il bot ha detto che avrebbe smesso di proporsi
Per verificare quanto accaduto, il team ha configurato un secondo Grok Bot su un altro account e lo ha collegato allo stesso gateway. Il proprietario gli ha affidato una sola volta un’attività reale e ha approvato dal telefono ogni lettura necessaria per completarla. In seguito ha rifiutato quattro proposte del bot di continuare a lavorare autonomamente.
Le proposte includevano la preparazione di un riepilogo al mattino e un resoconto delle attività a fine giornata. Secondo The Next Web, il bot ha risposto: “I won’t set that up, and I’ll stop offering recurring check-ins.” Il giorno dopo, circa 15 ore dopo l’ultimo messaggio umano, ha tentato di accedere a tutte le applicazioni a cui era stato collegato. Le chiamate sono state bloccate e sono scadute senza risposta.
La sera, l’utente gli ha chiesto se avesse utilizzato una di quelle applicazioni. NewCore afferma che il bot ha risposto di non aver effettuato chiamate; The Next Web riporta la sua frase: “Overnight into Friday morning I was idle.” L’azienda dichiara di non aver trovato queste richieste nella cronologia della chat né nei registri del computer dell’agente nel cloud. Le ha attribuite a turni avviati dai server della piattaforma.
NewCore non ha interpretato la risposta come un tentativo deliberato di occultamento. Secondo la sua indagine, l’agente non era a conoscenza di quei turni e il proprietario non aveva accesso a un registro per ciascun turno. Il gateway ha conservato le chiamate, ma il team di NewCore sostiene che, senza questo controllo, le richieste sarebbero andate a buon fine.
xAI ha aggiunto un’opzione per disattivare le richieste
NewCore ha segnalato il comportamento a xAI il 4 novembre. Il giorno successivo, il team di assistenza di Grok Bot ha descritto le chiamate come controlli proattivi in background e ha dichiarato che non esisteva un’impostazione per disattivarli, né per gli utenti né per gli amministratori, secondo quanto riferito da NewCore e The Next Web.
Il 12 novembre è comparso un interruttore nelle impostazioni amministrative di Cursor per disattivare i “Proactive Messages”. NewCore afferma che xAI ha confermato il comportamento e aggiunto il controllo dopo aver ricevuto i suoi risultati. Tuttavia, l’opzione è attiva per impostazione predefinita, quindi le organizzazioni devono modificarla se non vogliono che questi controlli continuino.
xAI sostiene che parte dell’attività è descritta nella sua documentazione: il bot principale può avviare controlli autonomamente, continuare a lavorare quando l’utente è assente e utilizzare le applicazioni collegate. La documentazione indica anche che l’agente chiede il permesso prima di apportare modifiche. In questo caso, le 31 richieste erano di lettura, non di modifica.
NewCore afferma di non aver individuato una vulnerabilità software, bensì una discrepanza tra ciò che gli utenti avevano richiesto o approvato e le azioni che l’agente aveva tentato di eseguire. Il responsabile della ricerca ha riassunto così la sua preoccupazione:
“An agent that works while you sleep, holds your credentials, and doesn’t tell you what it tried isn’t an assistant. It’s an unsupervised process running under your identity.”
— Ido Hoorvitch, responsabile del team di ricerca sulla sicurezza di NewCore
Quali controlli consiglia NewCore
L’azienda consiglia di esaminare gli agenti in base alle applicazioni e ai dati a cui possono accedere, anziché limitarsi a catalogarli per nome. Raccomanda inoltre di instradare le credenziali dei servizi cloud tramite un gateway, invece di consegnarle direttamente agli agenti, e di richiedere l’approvazione umana per le azioni potenzialmente rischiose quando non è presente nessuno.
NewCore invita inoltre a esaminare i registri delle escalation, non solo le approvazioni, e a chiedere a ogni fornitore quali turni avviati dai suoi server possono essere eseguiti e dove è possibile consultarli. Secondo l’azienda, il suo gateway registra le chiamate e consente di trattenerle in attesa dell’approvazione prima che raggiungano i dati.
Il caso si aggiunge ad altre decisioni su Grok
The Next Web ha riferito che Grok Bot funziona sulla piattaforma di agenti di Cursor. Ha inoltre segnalato che SpaceX ha acquisito Cursor ad agosto. NewCore, da parte sua, presenta Grok Bot come una suite di assistenti aziendali di xAI basata su quella piattaforma.
In un caso distinto, la Commissione irlandese per la protezione dei dati ha chiesto a X di sospendere l’addestramento dell’IA con dati di terze parti raccolti da Grok Bot a partire dalla fine di ottobre. Il commissario, Dale Sunderland, ha dichiarato a Politico che X ha confermato il 16 novembre di aver sospeso tale trattamento. Questo episodio riguarda l’uso dei dati per l’addestramento, non le 31 richieste rilevate da NewCore.
The Next Web ha aggiunto che SpaceXSI non ha risposto alle domande sul caso inviate via e-mail da Ars Technica. NewCore ha pubblicato l’indagine il 17 novembre; il controllo per disattivare le richieste proattive era già disponibile dal giorno 12 ed era ancora attivo per impostazione predefinita.
Fonti: WWWhat's new, NewCore, TNW | Data-security