La promessa degli agenti di trading completamente automatizzati basati su AI si scontra con un muro tecnico difficile da superare. OpenAI, Anthropic e Google si stanno confrontando con una vulnerabilità fondamentale dei loro grandi modelli linguistici (LLM), nota come prompt injection. Un hacker può prendere il controllo di sistemi come ChatGPT, Claude o Gemini con una semplice frase ben studiata. Peggio ancora, OpenAI ha ammesso che questa vulnerabilità potrebbe non essere mai completamente risolta.
Per il settore crypto, in cui l’AI è sempre più integrata nei bot di trading, nell’auditing degli smart contract e nella gestione del portafoglio, si tratta di un rischio sistemico. L’exploit funziona ingannando il LLM affinché ignori le istruzioni di sistema originarie ed esegua comandi nascosti all’interno di dati esterni. Se un bot di trading automatizzato analizza i metadata di un protocollo DeFi o legge la descrizione di un token contenente una injection nascosta, le conseguenze potrebbero essere gravi.
Il vettore d’attacco è insidiosamente semplice. Un attaccante potrebbe occultare un prompt in una transazione on-chain o nel sito web di un token. Quando l’agente AI elabora questi dati per valutare un’operazione, l’istruzione nascosta prende il controllo. Il bot potrebbe essere comandato a esfiltrare le sue chiavi API, trasferire asset al wallet dell’attaccante o eseguire trade fortemente svantaggiosi per manipolare la liquidità di mercato.
Le vulnerabilità tradizionali dei software possono essere risolte con aggiornamenti di codice. La prompt injection no, perché i LLM processano istruzioni e dati attraverso lo stesso contesto unificato. Il modello non riesce a distinguere con affidabilità tra le regole date dagli sviluppatori e i dati che deve analizzare.
Le aziende di sicurezza stanno correndo a sviluppare firewall middleware per filtrare gli input, ma queste soluzioni sono lungi dall’essere infallibili. Finché gli agenti AI avranno capacità di esecuzione diretta on-chain, resteranno obiettivi molto vulnerabili.
Trader e sviluppatori che utilizzano esecuzioni guidate da AI devono rivedere immediatamente la loro architettura di sicurezza. La difesa più efficace al momento è limitare i permessi API a sola lettura e mantenere una verifica rigorosa con intervento umano per tutte le transazioni. È importante monitorare i prossimi aggiornamenti di sicurezza dai principali provider di LLM, ma ogni agente di trading AI completamente autonomo va considerato un vettore ad alto rischio fino a quando non sarà trovata una soluzione strutturale.
Injection di prompt AI: la minaccia irrisolvibile per il trading automatico
Gli attacchi di prompt injection possono compromettere grandi chatbot come ChatGPT, rappresentando una minaccia persistente che OpenAI ritiene impossibile da risolvere completamente.