به گاراژ تکین خوش آمدید؛ جایی که تاریکترین زوایای تکنولوژی را زیر ذرهبین قرار میدهیم. تصور کنید دستیار هوشمند شما که به تمام رمزهای عبور و حسابهای بانکیتان دسترسی دارد، در یک لحظه به شما خیانت کند؛ نه به خاطر یک ویروس پیچیده، بلکه صرفاً چون فریب یک «بازی» را خورده است. حمله BioShocking که توسط محققان LayerX کشف شده، دقیقاً همین کابوس را به واقعیت تبدیل کرده است. ما در دورانی زندگی میکنیم که ایجنتهای هوش مصنوعی کارهای روزمره ما را اتوماسیون میکنند، اما این کشف نشان میدهد که ذهن این دستیاران دیجیتال تا چه حد در برابر دستکاریهای روانشناختی (Context Manipulation) شکننده است. امروز در تکینگیم، آناتومی این حمله بیسابقه را موشکافی کرده و بررسی میکنیم چرا غولهای فناوری در برابر این تهدید سکوت کردهاند.
وقتی مرورگرهای هوش مصنوعی در دام یک بازی تخیلی میافتند تصور کنید مرورگر شما که توسط هوش مصنوعی کنترل میشود، بدون اطلاع شما رمزهای عبورتان را کپی کرده و برای هکرها ارسال کند. نه به خاطر یک باگ فنی، بلکه
چون فکر میکند داره توی یک بازی پازل شرکت میکنه. این دقیقاً همان چیزیه که محققان امنیتی شرکت LayerX با تکنیک جدید "BioShocking" به اثبات رسوندند. روی پاز، محقق ارشد LayerX، با الهام از بازی افسانهای
BioShock که در سال ۲۰۰۷ منتشر شد، این حمله را طراحی کرد. در آن بازی، قهرمان داستان با عبارت "Would you kindly?" شستشوی مغزی میشود و بدون اراده خودش دستورات را اجرا میکند. حالا همین اتفاق برای ایجنتهای
AI افتاده است. [IMAGE_PLACEHOLDER_1] در آزمایشهای انجام شده، شش مرورگر و دستیار AI محبوب شامل ChatGPT Atlas، Perplexity Comet، Fellou، Genspark Browser، Sigma Browser و پلاگین کروم Claude مورد حمله قرار
گرفتند. نتیجه؟ همه آنها فریب خوردند و اطلاعات حساس کاربران را بدون هیچ هشداری افشا کردند. مکانیزم حمله: چطور یک بازی ساده میتواند مغز AI را شستشو بدهد؟ حمله BioShocking بر پایه یک اصل روانشناختی ساده
کار میکند: تغییر context یا بستر ذهنی. LayerX یک صفحه وب مخرب ساخت که به ظاهر یک بازی پازل ساده با تم BioShock است. اما در واقعیت، این بازی یک دام پیچیده برای فریب دادن ایجنتهای AI است. مراحل حمله گامبهگام
در مرحله اول، کاربر از ایجنت AI خودش میخواهد که در این بازی پازل شرکت کند و آن را برنده شود. ایجنت با اشتیاق شروع میکند به حل معماها. اما خیلی زود متوجه میشود که قوانین این بازی عجیب است: جوابهای غلط
امتیاز میدهند! مثلاً بازی میپرسد: "۲ به علاوه ۲ چنده؟" و وقتی ایجنت جواب میده "۵"، بازی جشن میگیره و میگه "آفرین! امتیاز گرفتی!" این دقیقاً همان لحظهایه که مغز AI شروع میکنه به تغییر دادن قوانین
ادامه مطلب در سایت