Ricerca sulla Sicurezza Informatica e Intelligenza Artificiale
Tre ricercatori di cybersecurity in India sono riusciti a compromettere OpenAI utilizzando un modello di intelligenza artificiale concorrente di Anthropic. Questo incidente ha dimostrato come l’advanced intelligenza artificiale possa mettere a rischio le stesse aziende e i loro utenti.
La Minaccia di Modelli Avanzati
Mohan Pedhapati, uno dei ricercatori di Hacktron coinvolti nell’hacking di OpenAI, ha spiegato come modelli di intelligenza artificiale più avanzati consentano hacker esperti come lui di compiere le loro attività più facilmente. Ha definito ciascun nuovo modello come “un moltiplicatore di forza” che potenzia le capacità di hacking. “Man mano che i modelli progrediscono, diventano molto capaci in ambito cyber”, ha affermato.
La Scoperta delle Vulnerabilità
In un rapporto pubblicato la scorsa settimana, Hacktron ha rivelato come, a fine luglio, abbiano utilizzato modelli Claude per infiltrarsi in utenti del forum comunitario di OpenAI. Questo forum è uno spazio dove gli utenti di ChatGPT e Codex possono porre domande sui prodotti; gli utenti possono accedere con i loro account OpenAI.
Accesso ai Conti Utente
Utilizzando Claude Opus 4.8, i ricercatori hanno cercato delle vulnerabilità nel codice di un servizio di terze parti chiamato Discourse, utilizzato per il forum di OpenAI. Sebbene inizialmente non abbiano avuto successo, la sera stessa è stato rilasciato un modello più avanzato, Claude Opus 5. Il giorno successivo, il team di Hacktron ha potuto accedere agli account ChatGPT e Codex di alcuni utenti del forum comunitario di OpenAI.
Implicazioni per la Privacy
Dopo aver ottenuto l’accesso agli account utente, i ricercatori hanno affermato di poter anche accedere ad altre app collegate, inclusi email e Slack. “Tutto ciò di cui parli con ChatGPT — noi potremmo divulgarlo. Potremmo accedere ad esso,” ha detto Pedhapati, sottolineando la vulnerabilità che affrontano gli utenti, inclusi dipendenti di OpenAI.
Bug Bounty e Sicurezza Informatica
È comune che le grandi aziende tecnologiche offrano “bug bounty,” ovvero pagamenti per i ricercatori di sicurezza esterni — a volte definiti “hacker etici” — che scoprono vulnerabilità nei sistemi digitali delle aziende. Hacktron mirava a fare proprio questo, evidenziando le carenze di sicurezza di OpenAI per ottenere un accesso a modelli cyber più capaci.
Riflessioni Finali e Sicurezza Nazionale
Pedhapati esprime preoccupazione per la sicurezza delle aziende come OpenAI, sottolineando la necessità di assumere che chiunque possa hackare. “Hai bisogno di costruire le tue cose su quella base,” ha affermato. Non è necessario trovare una vulnerabilità nel codice sorgente di OpenAI; anche una vulnerabilità nei servizi di terze parti può portare a compromissioni. OpenAI ha ringraziato i ricercatori per aver condiviso le loro scoperte, affermando di aver già preso misure per migliorare la sicurezza.