Obietnica w pełni zautomatyzowanych agentów handlowych opartych na AI napotyka poważną ścianę techniczną. OpenAI, Anthropic i Google zmierzają się z fundamentalną luką bezpieczeństwa w swoich dużych modelach językowych (LLM), znaną jako wstrzykiwanie promptów. Haker może przejąć kontrolę nad systemami takimi jak ChatGPT, Claude lub Gemini, posługując się zaledwie starannie sformułowanym zdaniem. Co gorsza, OpenAI przyznało, że ta luka bezpieczeństwa może nigdy nie zostać w pełni wyeliminowana.
Dla sektora kryptowalut, gdzie AI jest coraz bardziej zintegrowane z botami handlowymi, audytem inteligentnych kontraktów i zarządzaniem portfelem, stanowi to ryzyko systemowe. Exploit działa poprzez nakłonienie LLM do ignorowania jego oryginalnych instrukcji systemowych i wykonywania poleceń wbudowanych w dane zewnętrzne. Jeśli zautomatyzowany bot handlowy pobiera metadane protokołu DeFi lub czyta opis tokena zawierający ukryte wstrzykiwanie, konsekwencje mogą być poważne.
Wektor ataku jest zwodniczo prosty. Osoba atakująca mogłaby ukryć prompt w ładunku transakcji na blockchainie lub na stronie internetowej tokena. Gdy agent AI przetwarza te dane w celu oceny handlu, ukryte polecenie przejmuje kontrolę. Bot mógłby zostać zmuszony do ujawnienia kluczy API, przelania aktywów na portfel atakującego lub wykonania wysoce niekorzystnych transakcji mających na celu manipulację płynnością na rynku.
Tradycyjne luki w oprogramowaniu można łatać aktualizacjami kodu. Wstrzykiwanie promptów nie, ponieważ LLM przetwarzają instrukcje i dane poprzez to samo ujednolicone okno kontekstu. Model nie może wiarygodnie rozróżnić między regułami dewelopera a analizowanymi danymi.
Firmy zajmujące się bezpieczeństwem szybko opracowują zapory pośredniczące do filtrowania danych wejściowych, ale te rozwiązania są dalekie od doskonałości. Dopóki agenci AI mają bezpośrednie możliwości wykonywania operacji w blockchainie, pozostają wysoce podatnymi celami.
Handlowcy i deweloperzy korzystający z wykonywania sterowanego AI powinni natychmiast przegląd swoją architekturę bezpieczeństwa. Najbardziej efektywna obrona w tej chwili to ograniczenie uprawnień API do dostępu tylko do odczytu i utrzymanie ścisłej weryfikacji człowieka dla wszystkich transakcji. Czekaj na zbliżające się aktualizacje bezpieczeństwa od głównych dostawców LLM, ale traktuj każdego w pełni autonomicznego agenta handlowego AI jako wektor wysokiego ryzyka, dopóki nie zostanie znalezione strukturalne rozwiązanie.
Wstrzykiwanie promptów AI: Zagrożenie dla automatycznego handlu
Ataki polegające na wstrzykiwaniu promptów mogą przejąć kontrolę nad głównymi chatbotami, takimi jak ChatGPT, stanowiąc trwałe zagrożenie bezpieczeństwa, które OpenAI przyznaje, że może nigdy nie zostanie w pełni rozwiązane.