L'anteprima di Claude Mythos di Anthropic ha scatenato un'ondata di affermazioni audaci sul futuro dell'intelligenza artificiale e sul suo ruolo nella sicurezza informatica. Le notizie di migliaia di vulnerabilità scoperte, tra cui problemi che si suppone esistano inosservati da decenni, posizionano il modello come una forza trasformativa sia nell'attacco che nella difesa. Inoltre, iniziative come il Project Glasswing segnalano uno sforzo del settore per anticipare i rischi prima che si concretizzino del tutto.
Tuttavia, è importante notare che Mythos non è stato rilasciato pubblicamente e rimane limitato a un gruppo controllato di organizzazioni, rendendo limitata la convalida indipendente di queste affermazioni. Tuttavia, come per ogni tecnologia emergente, è importante separare la capacità dal clamore.
Dal punto di vista della sicurezza informatica, le affermazioni relative a Mythos richiedono un esame. Secondo Richard Ford, CTO di Integrity360, le prime valutazioni del modello presentano una realtà più misurata:
"Le valutazioni di Mythos come strumento di attacco autonomo dimostrano che è capace, ma non necessariamente migliore dei modelli linguistici esistenti. Detto questo, se utilizzato dagli attori delle minacce, sarà efficace nel colpire le organizzazioni con posizioni di sicurezza deboli".
La conversazione non verte sul fatto che Mythos sia rivoluzionario in sé, ma su come si comporta in condizioni reali. Anche se non è significativamente superiore ai modelli attuali, la sua capacità di scalare le attività e di operare autonomamente introduce un diverso tipo di rischio. La capacità di attacco non deve essere perfetta per essere pericolosa. È sufficiente che sia coerente e ampiamente accessibile.
Le affermazioni di Anthropic sulla scoperta delle vulnerabilità sono particolarmente interessanti. L'affermazione che sono state scoperte migliaia di vulnerabilità precedentemente non identificate, tra cui alcune risalenti a quasi tre decenni fa, dimostra il potenziale dell'analisi guidata dall'intelligenza artificiale. Tuttavia, questi risultati sono in gran parte autodichiarati, con una limitata convalida indipendente.
Come osserva Richard:
"È necessario un certo grado di cautela. I risultati sono autodichiarati con poche verifiche esterne. La domanda è se si tratta di un'esagerazione o se riflette una reale capacità. Si tratta di un'esagerazione di marketing? Questo potrebbe essere considerato insieme alla recente rimozione dei loro prodotti per uso federale negli Stati Uniti. Uno scettico potrebbe dire: "Hanno forse bisogno di una buona notizia?".
Lo scetticismo è giustificato nella comunità della sicurezza informatica. Le nuove tecnologie arrivano spesso con affermazioni ambiziose, e per convalidarle ci vuole tempo per i test indipendenti e l'uso nel mondo reale. Abbiamo assistito a un simile clamore e preoccupazione quando ChatGPT è stato rilasciato per la prima volta, e alla paventata creazione di malware AI e di attacchi malware autonomi, nessuno dei quali si è realizzato nei modi e nei tempi suggeriti. Anche la tempistica di tali annunci invita a un ulteriore esame, in particolare alla luce delle più ampie dinamiche del settore e delle pressioni commerciali.
Esaminando la scheda di anteprima del sistema Mythos di Anthropic, che illustra la valutazione delle sue capacità, si può notare che ha raggiunto alcune delle affermazioni in condizioni specifiche. Tra queste, i checkpoint non censurati e la rimozione dei guardrail per ottimizzare le prestazioni ed evitare i rifiuti. Questo insieme a scenari di forzatura bruta ad alto costo di calcolo. Entrambi non sono rappresentativi dell'uso nel mondo reale una volta rilasciati.
Se le capacità descritte sono accurate, le implicazioni sono significative. Uno degli impatti più immediati potrebbe riguardare l'ecosistema dei bug bounty e il ruolo degli hacker etici:
"Se queste affermazioni sono vere, hanno il potenziale di sconvolgere i programmi di bug bounty e il più ampio mercato dell'hacking etico. Stiamo già vedendo i primi indicatori di questo fenomeno, con piattaforme guidate dall'IA che ottengono ottimi risultati in ambienti CTF competitivi".
Tuttavia, gli attuali limiti dell'IA rimangono un importante contrappeso:
"Dove questi sistemi falliscono è nella comprensione della logica aziendale profonda. Il livello contestuale è ancora qualcosa che richiede competenze umane".
Questo rafforza un punto chiave. L'IA sta avanzando rapidamente, ma non ha sostituito la necessità di professionisti qualificati. Al contrario, sta cambiando il modo in cui lavorano e dove le loro competenze sono più preziose.
C'è anche un'interpretazione più ampia e costruttiva di questi sviluppi. Se l'intelligenza artificiale è in grado di identificare le vulnerabilità su scala, ha il potenziale per migliorare significativamente la sicurezza delle organizzazioni. Il rilevamento più rapido degli zero-day e i test continui potrebbero rafforzare la resilienza in tutti i settori.
Ma questo introduce una nuova sfida operativa, come spiega Richard:
"Il problema non è solo quello di trovare le vulnerabilità, ma anche quello di utilizzarle. Le organizzazioni già faticano a stabilire le priorità e ad applicare le patch in modo efficace. Se l'intelligenza artificiale aumenta esponenzialmente il volume, questa sfida diventa ancora più difficile, mentre gli aggressori ottengono maggiori opportunità".
È qui che la conversazione ritorna sul controllo. Che le affermazioni di Anthropic si realizzino pienamente o meno, la direzione è chiara. L'intelligenza artificiale aumenterà la velocità e la portata degli attacchi e delle difese. Le organizzazioni devono essere pronte a gestire questa realtà.
Iniziative come il Project Glasswing rappresentano un passo nella giusta direzione, con l'obiettivo di proteggere i sistemi di IA prima che vengano ampiamente sfruttati. Tuttavia, come sottolinea Richard:
"L'identificazione delle vulnerabilità è solo una parte dell'equazione. Applicare le patch, testare e distribuire le correzioni su scala non è né rapido né banale, soprattutto se il numero aumenta in modo significativo. E non si tratta solo di applicare le patch, ma di creare le patch stesse. Se i tempi modesti concessi dal Progetto Glasswing daranno tempo sufficiente ai venditori per creare le patch, soprattutto in caso di grandi volumi, lo scopriremo nelle prossime settimane e mesi. Per ora il rilascio di Mythos è sospeso, ma Anthropic non resterà con le mani in mano per sempre".
In definitiva, il dibattito intorno ad Anthropic Mythos non riguarda tanto l'accuratezza delle affermazioni, quanto piuttosto ciò che esse rappresentano. L'intelligenza artificiale sta rimodellando la sicurezza informatica a un livello fondamentale. Le organizzazioni che avranno successo saranno quelle che si adatteranno rapidamente, costruendo sia la capacità di sfruttare l'IA che i controlli per gestirla efficacemente.
Come dice Richard:
"Tutte le organizzazioni che non costruiscono una difesa informatica basata sull'IA rimarranno indietro e finiranno direttamente nel mirino degli aggressori".
Se le affermazioni su Mythos sono esagerate, non lo è la necessità di controllo.
L'analisi rafforza l'importanza di adottare le giuste misure di base. L'applicazione regolare degli aggiornamenti di sicurezza, i forti controlli di accesso, la configurazione sicura e la registrazione completa restano essenziali. La protezione contro le minacce comuni è ancora alla base di una cybersecurity efficace, indipendentemente dal fatto che tali minacce siano o meno assistite dall'intelligenza artificiale. Le organizzazioni che incorporano queste nozioni di base, insieme alla creazione di capacità di difesa informatica basate sull'IA, si troveranno nella posizione migliore per rimanere resilienti di fronte all'evoluzione del panorama delle minacce.
Se avete bisogno di aiuto per le vostre esigenze di cybersecurity, contattate oggi stesso gli esperti di Integrity360.