De belofte van volledig geautomatiseerde AI-handelsagenten stuit op een fundamentele technische barrière. OpenAI, Anthropic en Google worstelen met een fundamentele beveiligingsfout in hun grote taalmodellen (LLM’s), bekend als promptinjectie. Een hacker kan systemen als ChatGPT, Claude of Gemini kapen met niets meer dan een zorgvuldig geconstrueerde zin. Erger nog, OpenAI heeft toegegeven dat deze kwetsbaarheid mogelijk nooit volledig kan worden verholpen.
Voor de cryptosector, waar AI steeds meer wordt geïntegreerd in trading bots, smart contract-audits en portfoliobeheer, vormt dit een systematisch risico. De exploit werkt door het misleiden van het LLM zodat het zijn oorspronkelijke systeeminstructies negeert en in plaats daarvan opdrachten uitvoert die verborgen zijn in externe data. Als een geautomatiseerde trading bot metadata van een DeFi-protocol uitleest of een tokenbeschrijving met een verborgen injectie verwerkt, kunnen de gevolgen ernstig zijn.
De aanvalsvector is ogenschijnlijk eenvoudig. Een aanvaller kan een prompt verbergen in een on-chain transactiepayload of op de website van een token. Wanneer de AI-agent deze data verwerkt om een trade te evalueren, neemt de verborgen instructie het over. De bot kan bijvoorbeeld worden gedwongen zijn API-sleutels te delen, activa over te maken naar de wallet van de aanvaller of zeer nadelige trades uit te voeren om markliquiditeit te manipuleren.
Traditionele softwarekwetsbaarheden zijn te verhelpen met code-updates. Promptinjectie is dit niet, omdat LLM’s instructies en data verwerken binnen hetzelfde uniforme contextvenster. Het model kan niet betrouwbaar onderscheid maken tussen regels van de ontwikkelaar en de data die het analyseert.
Beveiligingsbedrijven werken snel aan middleware-firewalls om inputs te filteren, maar deze oplossingen zijn verre van waterdicht. Zolang AI-agenten directe uitvoeringsmogelijkheden on-chain hebben, blijven ze extreem kwetsbare doelwitten.
Handelaren en ontwikkelaars die AI-gestuurde uitvoering gebruiken, moeten hun beveiligingsarchitectuur onmiddellijk onder de loep nemen. De meest effectieve verdediging op dit moment is het beperken van API-permissies tot alleen-lezen en het strikt toepassen van menselijke controle bij alle transacties. Houd beveiligingsupdates van grote LLM-aanbieders scherp in de gaten, maar beschouw elk volledig autonoom AI-handelsagent als een hoogrisicofactor totdat een structurele oplossing is gevonden.
AI-promptinjectie: de onoplosbare dreiging voor geautomatiseerde trading
AI promptinjectie kan grote chatbots zoals ChatGPT kapen en vormt een aanhoudend beveiligingsrisico, een probleem dat OpenAI mogelijk nooit volledig oplost.