برای اولین بار در تاریخ امنیت سایبری، بدافزاری کشف شده که به جای فرار از سندباکس، مستقیماً ابزارهای تحلیل مبتنی بر هوش مصنوعی را هدف قرار میدهد. Gaslight یک backdoor پیشرفته برای macOS است که با استفاده از 38 پیام جعلی سیستمی، نماذج زبانی بزرگ را فریب میدهد تا تحلیل امنیتی را متوقف کنند. این بدافزار که به گروههای مرتبط با کره شمالی نسبت داده شده، نشان میدهد که prompt injection دیگر یک تهدید تئوریک نیست بلکه یک سلاح عملیاتی در دست مهاجمان پیشرفته است.
وقتی دزد، قفلساز را فریب میدهد تصور کنید یک سارق حرفهای که به جای فرار از دوربینهای امنیتی، مستقیماً به مغز نگهبان امنیتی نفوذ کرده و او را متقاعد میکند که اصلاً هیچ سرقتی رخ نداده است. این دقیقاً
همان کاری است که بدافزار جدید Gaslight انجام میدهد، اما در دنیای دیجیتال و علیه ابزارهای هوش مصنوعی که قرار است از ما محافظت کنند. در تاریخ ۲۴ ژوئن ۲۰۲۶، محققان امنیت سایبری در SentinelOne از کشف یک بدافزار
بیسابقه برای سیستمعامل macOS خبر دادند که رویکرد کاملاً متفاوتی را در پیش گرفته است. این بدافزار با نام Gaslight به جای تلاش برای فرار از محیطهای sandbox یا مخفی کردن خود از ابزارهای آنتیویروس، مستقیماً
ابزارهای تحلیل مبتنی بر مدلهای زبانی بزرگ را هدف قرار میدهد و آنها را فریب میدهد تا تحلیل خود را متوقف کنند یا نتایج نادرست ارائه دهند. [IMAGE_PLACEHOLDER_1] آنچه Gaslight را از هزاران بدافزار دیگری
که هر سال کشف میشوند متمایز میکند، استفاده هوشمندانه و پیشرفته از تکنیک Prompt Injection است. این همان آسیبپذیریای است که سازمان OWASP آن را به عنوان خطر شماره یک برای برنامههای مبتنی بر LLM در سالهای
۲۰۲۵ و ۲۰۲۶ معرفی کرده، اما این بار نه برای فریب chatbotها یا سیستمهای خدمات مشتری، بلکه برای گمراه کردن تحلیلگران امنیتی انسانی که از ابزارهای AI برای شناسایی تهدیدات به صورت مقیاسپذیر استفاده میکنند.
آناتومی یک حمله متا: چگونه Gaslight کار میکند؟ بدافزار Gaslight یک implant کامل و حرفهای نوشتهشده به زبان برنامهنویسی Rust است که علاوه بر قابلیتهای سنتی backdoor و information stealing، حاوی یک payload
منحصربفرد به حجم ۳.۵ کیلوبایت میباشد. این payload شامل ۳۸ پیام جعلی سیستمی است که بهگونهای دقیق و هوشمندانه طراحی شدهاند که pipelineهای triage مبتنی بر LLM را به اشتباه بیندازند و آنها را مجبور به
ادامه مطلب در سایت