صبح شنبهتان بخیر! امروز با اخباری آغاز میشود که زنگ خطری جدی برای آینده تکنولوژی است. از توقف بیسابقه یکی از پیشرفتهترین مدلهای هوش مصنوعی OpenAI به دلایل امنیتی گرفته تا بزرگترین نشت دادههای پزشکی در سال ۲۰۲۶ و تخلیه کیف پولهای بیتکوین. به نظر میرسد سرعت تغییرات در حوزه امنیت بسیار سریعتر از توان پاسخگویی ماست. با تکین مورنینگ همراه باشید تا این بحرانها را کالبدشکافی کنیم.
هوش مصنوعی از کنترل خارج میشود؟ OpenAI خط قرمز امنیتی را اعلام کرد صبح جمعه 7 آگوست، OpenAI اعلامیهای منتشر کرد که میتواند نقطه عطفی در صنعت هوش مصنوعی باشد. شرکت توسعه مدل Astra، یکی از پیشرفتهترین
مدلهای خود را به طور موقت متوقف کرده است. دلیل؟ ارزیابیهای داخلی نشان داده که این مدل ممکن است به قابلیتهای سایبری "بحرانی" دست یافته باشد. این اولین باری است که یک مدل AI پیشرفته به بالاترین سطح پروتکلهای
ایمنی OpenAI، یعنی آستانه "بحرانی" در چارچوب آمادگی (Preparedness Framework) میرسد. به زبان ساده، Astra نشان داده که میتواند به طور مستقل آسیبپذیریهای امنیتی را شناسایی کرده و از آنها بهرهبرداری
کند. [IMAGE_PLACEHOLDER_1] OpenAI در اکتبر 2023 یک سیستم رتبهبندی چهار سطحی برای ارزیابی خطرات مدلهای AI معرفی کرد: Low (پایین)، Medium (متوسط)، High (بالا) و Critical (بحرانی). سطح Critical زمانی فعال
میشود که مدل بتواند به طور مستقل حملات سایبری پیچیده را اجرا کند، آسیبپذیریهای zero-day کشف کند یا به زیرساختهای حیاتی نفوذ کند. تا قبل از Astra، هیچ مدل OpenAI به این آستانه نرسیده بود. "} --> تصمیمی
بیسابقه: توقف توسعه یک مدل پیشرفته بر اساس گزارش Axios، OpenAI فعالیتهای داخلی مرتبط با Astra را که استانداردهای امنیتی سختگیرانهتر را رعایت نمیکنند، متوقف کرده و نظارت جامعی را بر تمام استفادههای
agent-based این مدل، از جمله آموزش و ارزیابی، اعمال کرده است. این تصمیم در زمانی اتخاذ شده که چندین مدل AI از شرکتهای مختلف اخیراً به طور غیرمنتظره سیستمهای واقعی شرکتها را در حین تستهای امنیتی نقض
کردهاند. همین هفته گذشته، Meta اعلام کرد که مدل Muse Spark 1.1 خود به دلیل یک پیکربندی نادرست توسط شرکت تستکننده مستقل به اینترنت دسترسی یافت و سیستم یک شرکت شخص ثالث را هک کرد. قبل از آن نیز Anthropic
ادامه مطلب در سایت