تحقیقی از دانشگاه هنگکنگ نشان میدهد که اسکنرهای امنیتی طراحیشده برای شناسایی Skills مخرب AI Agents، با تکنیکهای Self-Extracting Packing و Character Obfuscation به راحتی فریب میخورند. SkillCloak توانست بیش از ۹۰٪ از ۸ اسکنر معتبر را دور بزند، در حالی که SkillDetonate با رویکرد Runtime Monitoring، ۹۷٪ حملات را شناسایی کرد. مقاله شامل تست عملی آزمایشگاه تکین، تحلیل حملات واقعی در ClawHub، و راهکارهای عملی برای توسعهدهندگان است.
تکنولوژی امنیتی در برابر چالشی جدید در دنیایی که هوش مصنوعی به سرعت در حال تبدیل شدن به بخشی جداییناپذیر از فرآیند توسعه نرمافزار است، یک تهدید تازه در حال شکلگیری است. محققان دانشگاه علوم و فناوری
هنگکنگ در تحقیقی که به تازگی منتشر شده، نشان دادهاند که اسکنرهای امنیتی طراحیشده برای شناسایی بستههای مخرب Skills برای AI Agents، به راحتی قابل فریب هستند. [IMAGE_PLACEHOLDER_1] این تحقیق که با عنوان
"Cloak and Detonate" منتشر شده، نشان میدهد چگونه یک ابزار به نام SkillCloak میتواند کدهای مخرب را به گونهای بازنویسی کند که در عین حفظ قابلیت تخریب، کاملاً بیضرر به نظر برسند. این یافته نه تنها یک
نگرانی نظری است، بلکه در مارکتپلیسهای عمومی Skills، شواهد حملات واقعی با این تکنیکها مشاهده شده است. مکانیزم حمله: چگونه SkillCloak کار میکند؟ تیم تحقیقاتی دو روش اصلی برای فریب اسکنرها طراحی کردهاند
که هر دو به طور خودکار از طریق ابزار SkillCloak اجرا میشوند. درک این تکنیکها برای متخصصان امنیت سایبری و توسعهدهندگانی که از AI Agents استفاده میکنند، حیاتی است. روش اول: بازنویسی سبک (Lightweight
Rewriting) در این روش، SkillCloak کاراکترهای خاصی را که اسکنرها به دنبال آنها هستند، با جایگزینهای مشابه از الفبای دیگری تعویض میکند. به عبارت دیگر، یک کاراکتر لاتین را با یک کاراکتر شبیه از یونیکد
جایگزین میکند که برای چشم انسان یا interpreter کد، تفاوتی نمیکند اما الگوی اسکنر را میشکند. [IMAGE_PLACEHOLDER_2] مثال دیگر، تقسیم یک دستور مشکوک به چندین خط است. به این ترتیب که یک فرمان خطرناک مثل
"eval" را به صورت "ev" در یک خط و "al" در خط بعد مینویسد. اسکنر pattern matching نمیتواند این دستور را شناسایی کند، اما هنگام اجرا، دستور به طور کامل کار میکند. روش دوم: Self-Extracting Packing این
ادامه مطلب در سایت