Tam otomatik yapay zeka ticaret ajanlarının vaadi, ciddi bir teknik engelle karşılaşıyor. OpenAI, Anthropic ve Google, büyük dil modellerinde (LLM) “prompt injection” olarak bilinen temel bir güvenlik açığıyla mücadele ediyor. Bir saldırgan, sadece özenle hazırlanmış bir cümle kullanarak ChatGPT, Claude veya Gemini gibi sistemleri ele geçirebiliyor. Daha da kötüsü, OpenAI bu zafiyetin asla tamamen giderilemeyebileceğini kabul etti.
Kripto sektörü için yapay zeka giderek daha çok ticaret botlarında, akıllı kontrat denetiminde ve portföy yönetiminde entegre olurken, bu durum sistemik bir risk teşkil ediyor. Bu açık, LLM’yi orijinal sistem talimatlarını göz ardı etmeye ve dışarıdan gelen veriye gömülü komutları uygulamaya ikna ederek çalışıyor. Eğer otomatik bir ticaret botu, bir DeFi protokolünün meta verisini tarar ya da içinde gizli bir injection bulunan bir token açıklamasını okursa, sonuçlar oldukça ciddi olabilir.
Saldırı vektörü yanıltıcı derecede basit. Bir saldırgan, bir zincir üzerindeki işlem verisine veya bir token’ın web sitesine gizlenmiş bir prompt yerleştirebilir. Yapay zeka ajanı bu veriyi bir işlemi değerlendirmek için işlerken, gizli talimat kontrolü ele geçirir. Botun API anahtarlarını boşaltması, varlıkları saldırganın cüzdanına transfer etmesi veya piyasa likiditesini manipüle etmek için son derece olumsuz işlemler yapması sağlanabilir.
Geleneksel yazılım açıkları kod güncellemeleriyle kapatılabilir. Ancak prompt injection için bu mümkün değil çünkü LLM’ler komutları ve verileri tek ve birleşik bir bağlam penceresinde işliyor. Model, geliştiricinin kuralları ile analiz ettiği veriyi güvenilir şekilde ayırt edemiyor.
Güvenlik firmaları, girdi filtrelemek için ara yazılım (middleware) güvenlik duvarları geliştirmeye çalışıyor ancak bu çözümler henüz kusursuz olmaktan çok uzak. Yapay zeka ajanları zincir üzerinde doğrudan yürütme yetkisine sahip olduğu sürece yüksek riskli hedefler olarak kalmaya devam edecekler.
Yapay zeka destekli işlem gerçekleştiren tacirler ve geliştiriciler güvenlik mimarilerini acilen gözden geçirmeli. Şu anda en etkili savunma, API izinlerini sadece okuma ile sınırlandırmak ve tüm işlemler için sıkı insan denetimini sürdürmek. Önde gelen LLM sağlayıcılarından gelecek güvenlik güncellemeleri takip edilmeli, ancak yapısal bir çözüm bulunana dek tamamen otonom AI ticaret ajanları yüksek risk olarak değerlendirilmelidir.
Yapay Zeka Prompt Injection: Otomatik Ticarette Çözülemeyen Tehdit
Yapay zeka prompt injection saldırıları, ChatGPT gibi büyük sohbet botlarını ele geçirebiliyor ve OpenAI'ye göre bu güvenlik sorunu tamamen çözülemeyebilir.