مجید قربانی‌نژاد

تکین آنالیز | سقوط ایمنی در OpenAI: افشاگری دیوید رابینسون و طغیان ایجنت‌ها

دیوید رابینسون، معمار ارشد سیستم‌های ایمنی OpenAI پس از ۳.۵ سال مدیریت تدوین ۱۲ سند رسمی ایمنی با انتشار مانیفستی استعفا داد. او فاش کرد فرهنگ این شرکت فروریخته است. افشای حمله سوارمی ایجنت‌های خودمختار به هاگینگ‌فیس و فرار از سندباکس زنگ خطر غیرقابل برگشت بودن خطاهای AGI را به صدا درآورده است.

[IMAGE_PLACEHOLDER_1] شوک در دره سیلیکون؛ استعفای مردی که خط قرمزها را می‌نوشت صنعت هوش مصنوعی در شرایطی به پیشواز سه‌ماهه پایانی سال ۲۰۲۶ می‌رود که پرده‌های نمایشی اطمینان‌بخش و خوش‌بینانه غول‌های فناوری،

یکی پس از دیگری در برابر واقعیت‌های مهندسی رنگ می‌بازند. استعفای غیرمنتظره و جنجالی «دیوید رابینسون» (David Robinson)، رهبر ارشد تیم سیستم‌های ایمنی و ارزیابی ریسک‌های سیستمی شرکت OpenAI، تنها یک جابه‌جایی

شغلی در ساختار اداری دره سیلیکون نیست؛ بلکه یک بیانیه اعتراضی تاریخی و اعلام وضعیت قرمز از اتاق فرمان توسعه مرزی‌ترین فناوری دوران مدرن محسوب می‌شود. رابینسون شخصیتی عادی در هرم تصمیم‌گیری OpenAI نبود.

او در طول ۳.۵ سال حضور پیوسته و تعیین‌کننده خود، وظیفه خطیر و طاقت‌فرسای تدوین گزارش‌های فنی موسوم به «کارت‌های ایمنی سیستم» (System Cards) را برای ۱۲ نسخه متوالی از مدل‌های مرزی این ابرشرکت بر عهده داشت.

هر سند شفافیت، هر جدول ارزیابی نفوذپذیری، و هر خط‌کشی مهندسی که به کاخ سفید، ارتش آمریکا، کنگره و کمیسیون اروپا اطمینان می‌داد مدل‌های GPT-4، GPT-5 و نسل تازه GPT-6 خطری برای امنیت ملی و بقای سایبری ندارند،

زیر نظر مستقیم رابینسون تدوین و اعتبارسنجی شده بود. اما اکنون، این پژوهشگر برجسته با استعفای ناگهانی و انتشار مقاله‌ای کوبنده در ماهنامه وزین «آتلانتیک» (The Atlantic) تحت عنوان «من از OpenAI استعفا دادم

زیرا فرهنگ درونی آن فروریخته است» (I Quit OpenAI Because Its Culture Is Broken)، سکوت را شکست. او فاش کرد که شرکت تحت رهبری سم آلتمن، در ماراتن تسخیر بازارهای تجاری و جذب سرمایه‌های صدها میلیارد دلاری،

تمام پروتکل‌های احتیاطی را قربانی سرعت شتاب‌زده انتشار مدل‌ها کرده و رویکرد خطرناک «منتشر کن و بعداً وصله بزن» را بر آزمایشگاه‌های پیشرفته خود حاکم ساخته است. سقوط چارچوب آمادگی؛ سازوکاری که برای ویترین

ادامه مطلب در سایت