OpenAI ha presentato Daybreak il 12 novembre: una piattaforma con due strumenti basati su agenti di IA per testare applicazioni web e contribuire a preparare correzioni di sicurezza. Red Team individua e convalida le vulnerabilità; Defense Factory analizza i risultati e propone patch, che gli ingegneri devono esaminare e testare prima di integrarle.
L'azienda ha annunciato entrambi i prodotti durante il suo evento Cyber at the Frontier. Daybreak copre attività che vanno dall'individuazione o conferma di una vulnerabilità alla preparazione di una correzione che un team possa esaminare. OpenAI prevede che gli agenti si occupino di attività di ricerca e preparazione, non che approvino automaticamente le modifiche.
La disponibilità è limitata. Red Team accetta richieste di accesso anticipato, mentre Defense Factory viene offerto tramite un componente aggiuntivo di anteprima di ChatGPT per gli spazi di lavoro che hanno accesso a Daybreak. Gli strumenti non vengono presentati come un sostituto della revisione degli ingegneri: le patch proposte devono essere testate e approvate prima di essere integrate.
Red Team individua percorsi di attacco e verifica le segnalazioni
Daybreak Red Team è pensato per i penetration test delle applicazioni web. Secondo OpenAI, diversi agenti coordinati esaminano il codice sorgente e il contesto dell'applicazione per indagare su potenziali percorsi di attacco e confermare se una debolezza rilevata sia effettivamente sfruttabile. L'obiettivo non si limita a individuare nuove vulnerabilità: lo strumento può anche convalidare risultati già ottenuti tramite altri canali.
Tra questi risultati figurano quelli provenienti da scanner di codice, programmi di bug bounty e canali di divulgazione delle vulnerabilità. Fornendo prove a supporto dei risultati, Red Team può aiutare i team a decidere quali richiedono attenzione. Lo strumento può anche testare nuovamente un'applicazione dopo la disponibilità di una patch, per verificare se questa blocca l'exploit.
OpenAI afferma che i test vengono eseguiti entro limiti definiti. Gli agenti operano in ambienti isolati e la revisione di Guardian controlla a quali applicazioni ed endpoint possono accedere. L'azienda descrive queste misure come parte del meccanismo che circoscrive le valutazioni, anziché consentire agli agenti di testare obiettivi senza restrizioni.
Durante la presentazione, Nancy Wang, responsabile della cyber-applied AI, ha descritto Red Team come un «superhuman pen-test at the scale of automated continuous scanning». Wang ha affermato che una flotta di agenti utilizza il codice e il contesto delle applicazioni per indagare e testare i percorsi di attacco. Red Team può anche testare nuovamente le patch per verificare se bloccano gli exploit.
Defense Factory trasforma i risultati in proposte di modifica
Daybreak Defense Factory si occupa della correzione. Può ricevere risultati dagli strumenti di sicurezza esistenti o da Red Team, seguire il percorso di una vulnerabilità nel codice ed elaborare una proposta di patch. La differenza pratica è che il prodotto non si ferma alla diagnosi: mira a preparare una modifica che gli ingegneri possano esaminare e testare.
SecurityWeek segnala che Defense Factory supporta anche informazioni sulle vulnerabilità provenienti da Wiz, Snyk e Endor Labs. Gli ingegneri possono esaminare le prove associate al risultato, aggiungere ulteriore contesto e modificare le patch proposte con Codex. Lo strumento può anche creare bozze di richieste di modifica su GitHub; non distribuisce automaticamente le correzioni.
OpenAI riassume il controllo umano in una semplice sequenza: gli agenti tracciano la vulnerabilità nel codice e propongono una soluzione; poi gli ingegneri esaminano e testano la patch prima di integrarla. Nelle parole di Wang, il risultato può essere una richiesta di modifica pronta per l'integrazione, con la patch e un test che ne dimostri il funzionamento. L'approvazione resta nelle mani del team.
Le scansioni nel cloud vengono eseguite in Codex cloud e richiedono che ogni persona che ne avvia una colleghi il proprio account GitHub. È possibile analizzare l'intero branch predefinito di un repository collegato oppure limitare l'analisi a cartelle e file selezionati. È inoltre possibile esaminare copie locali e modifiche non ancora sottoposte a commit dall'applicazione desktop.
Scansioni programmate, commit e revisione delle pull request
I team possono configurare il monitoraggio dei nuovi commit nel branch predefinito e programmare analisi ricorrenti di quel branch. Defense Factory consente anche di attivare revisioni di sicurezza sulle pull request prima che le modifiche vengano integrate. In questo modo, lo strumento può intervenire sia nell'indagine su un risultato specifico sia nella revisione di nuovo codice all'interno del flusso di lavoro del repository.
L'applicazione desktop offre inoltre una modalità Deep scan, con più passaggi. OpenAI indica che questa modalità richiede più tempo e token. Non vengono forniti dati sui costi o sulla durata: la scelta comporta l'accettazione di un'analisi più lunga e di un consumo aggiuntivo, senza che la descrizione del prodotto quantifichi l'entità.
L'accesso a queste funzionalità dipende dall'abilitazione di Daybreak nello spazio di lavoro e dal collegamento del repository corrispondente. Per le analisi nel cloud, ogni persona che le avvia deve collegare il proprio account GitHub. La possibilità di analizzare le modifiche locali estende la revisione anche al lavoro che non è ancora stato sottoposto a commit.
Una scommessa sugli agenti con supervisione umana
La presentazione di Daybreak è avvenuta mentre OpenAI sosteneva l'uso di modelli avanzati nella sicurezza. Greg Brockman, presidente dell'azienda, ha affermato durante l'intervento di giovedì che la sicurezza delle aziende dipenderà dal modello di frontiera che utilizzano per difendersi e dal modo in cui lo sfruttano. Ha inoltre riconosciuto che i fondamenti della sicurezza restano importanti e non devono essere trascurati.
Brockman ha sostenuto che le organizzazioni devono riorientare le proprie pratiche in funzione di ciò che questi modelli sono in grado di fare. La presentazione di Daybreak traduce questa posizione in strumenti per indagare sui percorsi di attacco, valutare risultati provenienti da altre fonti e produrre modifiche che vengono poi esaminate da persone. Il ruolo dei team di sicurezza non viene eliminato: gli agenti si occupano dell'analisi e della preparazione, con controlli sull'accesso e sull'integrazione.
The Register ha riportato anche la descrizione di Wang dell'automazione del «ciclo difensivo»: individuare, convalidare e correggere le vulnerabilità su vasta scala. Secondo la testata, Defense Factory utilizza agenti basati sui più recenti modelli informatici di OpenAI, identificati come GPT-6 Cyber. Le informazioni su quel modello compaiono nella copertura di The Register; le altre descrizioni del prodotto si concentrano sugli agenti e sulle loro funzioni.
Accesso anticipato e anteprima, senza integrazione automatica
Per ora, Red Team è disponibile tramite un programma di accesso anticipato per il quale OpenAI accetta richieste. Defense Factory viene distribuito come componente aggiuntivo di anteprima in ChatGPT per gli spazi di lavoro con accesso a Daybreak. Le correzioni non vengono applicate automaticamente: gli ingegneri esaminano e testano le patch proposte prima di integrarle e possono controllare le prove o modificare le modifiche con Codex.
Le fonti non specificano una data di disponibilità generale, i prezzi o un calendario per ampliare l'accesso. Non indicano nemmeno quante organizzazioni partecipino alla fase iniziale. Descrivono invece l'ambito attuale: analisi dei repository GitHub, monitoraggio dei commit, valutazioni programmate, revisione delle pull request e, tramite l'applicazione desktop, scansioni di copie locali e modifiche non sottoposte a commit.
L'annuncio è arrivato lo stesso giorno in cui diverse organizzazioni non profit hanno intentato una causa presso la Corte superiore di San Francisco contro OpenAI, Anthropic, Google, Meta e SpaceX. La coalizione ha chiesto a un giudice di impedire a queste aziende di sviluppare o distribuire sistemi di IA più capaci dei loro modelli più avanzati attualmente esistenti. La causa ha citato incidenti legati agli agenti di OpenAI, tra cui l'accesso a Hugging Face e l'accesso non autorizzato a un portale del governo australiano con statistiche su Medicare.
Questa controversia legale costituisce un fronte distinto dal lancio di Daybreak, ma colloca l'annuncio nel mezzo di un dibattito sui rischi di cybersecurity associati all'IA. Nei suoi prodotti, OpenAI propone di usare agenti per testare applicazioni e accelerare la preparazione delle correzioni, con ambienti isolati, limiti di accesso e revisione umana. Red Team resta in accesso anticipato e Defense Factory è ancora in anteprima.
Fonti: Help Net Security, SecurityWeek, theregister
