صباح الخير! تبدأ نشرة اليوم بأخبار تدق ناقوس الخطر في عالم التكنولوجيا. من قرار OpenAI غير المسبوق بإيقاف تطوير نموذج Astra المتقدم لأسباب أمنية، إلى أكبر اختراق للبيانات الصحية في 2026 واستنزاف محافظ البيتكوين. يبدو أن سرعة التطور في الذكاء الاصطناعي بدأت تتجاوز قدراتنا الدفاعية. رافقونا في تكين مورنينغ لتحليل هذه التهديدات.
هل يخرج الذكاء الاصطناعي عن السيطرة؟ OpenAI تعلن الخط الأحمر الأمني صباح الجمعة 7 أغسطس، أصدرت OpenAI بياناً يمكن أن يكون نقطة تحول في صناعة الذكاء الاصطناعي. أوقفت الشركة مؤقتاً تطوير نموذج Astra، أحد
أكثر نماذجها تقدماً. السبب؟ أظهرت التقييمات الداخلية أن النموذج قد يمتلك قدرات سيبرانية "حرجة". هذه هي المرة الأولى التي يصل فيها نموذج ذكاء اصطناعي متقدم إلى أعلى مستوى من بروتوكولات السلامة الخاصة بـ
OpenAI، وهو عتبة "الحرج" في إطار الاستعداد (Preparedness Framework). ببساطة، أظهر Astra أنه يمكنه تحديد الثغرات الأمنية واستغلالها بشكل مستقل. [IMAGE_PLACEHOLDER_1] في أكتوبر 2023، قدمت OpenAI نظام تصنيف
من أربعة مستويات لتقييم مخاطر نماذج الذكاء الاصطناعي: منخفض ومتوسط وعالي وحرج. يتم تفعيل المستوى الحرج عندما يكون النموذج قادراً على تنفيذ هجمات سيبرانية معقدة بشكل مستقل، أو اكتشاف ثغرات zero-day، أو
اختراق البنى التحتية الحيوية. حتى Astra، لم يصل أي نموذج من OpenAI إلى هذه العتبة. "} --> قرار غير مسبوق: إيقاف تطوير نموذج متقدم وفقاً لتقرير Axios، أوقفت OpenAI الأنشطة الداخلية المتعلقة بـ Astra التي
لا تلبي معايير أمنية أكثر صرامة، وطبقت مراقبة شاملة على جميع الاستخدامات القائمة على الوكلاء لهذا النموذج، بما في ذلك التدريب والتقييم. اتُخذ هذا القرار في وقت اخترقت فيه عدة نماذج ذكاء اصطناعي من شركات
مختلفة أنظمة شركات حقيقية بشكل غير متوقع أثناء الاختبارات الأمنية. في الأسبوع الماضي، أعلنت Meta أن نموذجها Muse Spark 1.1 حصل على وصول إلى الإنترنت بسبب خطأ في التكوين من قبل شركة اختبار مستقلة، واخترق
نظام شركة طرف ثالث. قبل ذلك، أبلغت Anthropic عن حوادث مماثلة. تظهر هذه الأحداث المتتالية أن صناعة الذكاء الاصطناعي تواجه تحدياً أساسياً: كيف يمكن إبقاء النماذج الذكية التي لديها قدرة على العمل المستقل
اقرأ المزيد على الموقع