⚡️🇺🇸 — I ricercatori specializzati in sicurezza informatica della startup Hacktron AI hanno violato il sistema interno di OpenAI utilizzando il software di intelligenza artificiale Claude di Anthropic, un'azienda concorrente, nell'ambito di un programma di "bug bounty", evidenziando le crescenti minacce rappresentate dai modelli di intelligenza artificiale avanzati, secondo quanto riportato da Forbes.
I ricercatori hanno ottenuto l'accesso all'account ChatGPT di un dipendente di OpenAI, il che ha poi permesso loro di accedere al codice interno dell'azienda su GitHub. OpenAI ha pagato una ricompensa di 6.500 dollari per la segnalazione.
Inizialmente, Hacktron ha provato con Claude Opus 4.8 di Anthropic, ma "ha avuto difficoltà in diverse sessioni a produrre un exploit funzionante". Dopo che Anthropic ha lanciato Opus 5, hanno riprovato e hanno avuto successo, sottolineando che "ogni nuovo modello sta diventando sempre più potente".
La violazione è stata parte del progetto di ricerca "HEIF Heist", un'indagine più ampia su come i software elaborano determinati file immagine. Lo sfruttamento ha richiesto "solo pochi giorni per un agente e poche ore di lavoro umano" e ha comportato un costo "inferiore a 3.000 dollari in termini di token".
➡️ Nella loro conclusione, i ricercatori hanno scritto:
"Da tempo, il software beneficia di una sorta di sicurezza basata sulla complessità... L'intelligenza artificiale sta eliminando questa protezione trasformando una parte sempre maggiore di questa preziosa competenza in potenza di calcolo. Un lavoro che un tempo richiedeva un team ben attrezzato e mesi di lavoro può ora essere completato in pochi giorni... Le assunzioni sulla sicurezza devono tenere il passo con le capacità degli attaccanti."
I ricercatori hanno ottenuto l'accesso all'account ChatGPT di un dipendente di OpenAI, il che ha poi permesso loro di accedere al codice interno dell'azienda su GitHub. OpenAI ha pagato una ricompensa di 6.500 dollari per la segnalazione.
Inizialmente, Hacktron ha provato con Claude Opus 4.8 di Anthropic, ma "ha avuto difficoltà in diverse sessioni a produrre un exploit funzionante". Dopo che Anthropic ha lanciato Opus 5, hanno riprovato e hanno avuto successo, sottolineando che "ogni nuovo modello sta diventando sempre più potente".
La violazione è stata parte del progetto di ricerca "HEIF Heist", un'indagine più ampia su come i software elaborano determinati file immagine. Lo sfruttamento ha richiesto "solo pochi giorni per un agente e poche ore di lavoro umano" e ha comportato un costo "inferiore a 3.000 dollari in termini di token".
➡️ Nella loro conclusione, i ricercatori hanno scritto:
"Da tempo, il software beneficia di una sorta di sicurezza basata sulla complessità... L'intelligenza artificiale sta eliminando questa protezione trasformando una parte sempre maggiore di questa preziosa competenza in potenza di calcolo. Un lavoro che un tempo richiedeva un team ben attrezzato e mesi di lavoro può ora essere completato in pochi giorni... Le assunzioni sulla sicurezza devono tenere il passo con le capacità degli attaccanti."
Comments
Be the first to add a comment
Log in to comment