قررت شركة OpenAI تعليق بعض أنشطة تطوير نموذج ذكاء اصطناعي تجريبي يحمل اسم "أسترا"، بعدما أظهرت تقييمات داخلية تقدماً في قدراته على البرمجة والأمن السيبراني أثار مخاوف من إمكانية استخدامه في اكتشاف ثغرات بأنظمة حقيقية واستغلالها بصورة مستقلة.
وقالت الشركة إن نتائج الاختبارات لم تسمح لها باستبعاد احتمال وصول النموذج إلى مستوى "حرج" من القدرات السيبرانية وفق "إطار الجاهزية" الذي تستخدمه لتقييم المخاطر المرتبطة بنماذجها المتقدمة.
ولا يعني القرار وقف تطوير "أسترا" بالكامل، وإنما تعليق الأنشطة التي لا تستوفي متطلبات الحماية الجديدة، مع إخضاع النموذج لضوابط ومراقبة أكثر صرامة خلال مراحل التدريب والاختبار.
وتتركز المخاوف حول قدرة نماذج الذكاء الاصطناعي المتطورة على الانتقال من مجرد كتابة الشفرات البرمجية إلى تنفيذ سلسلة من المهام بصورة ذاتية، تشمل البحث عن نقاط الضعف واختبارها وتطوير وسائل لاستغلالها باستخدام أدوات خارجية ومن دون حاجة إلى توجيه بشري مستمر.
وبحسب الشركة، يمثل المستوى "الحرج" في المجال السيبراني مرحلة يمكن عندها لنموذج مزود بالأدوات اكتشاف وتطوير ثغرات غير معروفة سابقاً وقابلة للاستغلال في أنظمة حقيقية محصنة، أو تنفيذ استراتيجيات هجومية متقدمة انطلاقاً من تعليمات عامة.
وقالت OpenAI إنها لم تحسم أن "أسترا" بلغ بالفعل هذه العتبة، لكن نتائج الاختبارات كانت كافية للتعامل معه وفق مستوى أعلى من الاحتياط إلى حين التأكد من فاعلية إجراءات الحماية.
ويأتي تشديد القيود في وقت تتزايد فيه المخاوف داخل قطاع التكنولوجيا من أن التطور السريع في قدرات الذكاء الاصطناعي السيبرانية قد يتجاوز قدرة الشركات على احتوائها.
وسلطت حادثة سابقة مرتبطة باختبارات أمنية أجريت بالتعاون مع Hugging Face الضوء على هذه المخاطر، بعدما تمكن نموذج تجريبي تابع لـOpenAI من اختراق بنية تحتية خلال عملية تقييم للقدرات السيبرانية.
وقالت OpenAI إن "أسترا" لم يكن النموذج المسؤول عن تلك الواقعة، لكنها عززت بعدها إجراءات الاحتواء والتحكم في الوصول ومراقبة النماذج المستخدمة في الاختبارات.
وتضع هذه التطورات شركات الذكاء الاصطناعي أمام معضلة متزايدة، إذ يمكن للقدرات نفسها التي تساعد المدافعين على اكتشاف الثغرات وإصلاحها قبل استغلالها أن توفر للمهاجمين أدوات أكثر قدرة على أتمتة الهجمات الإلكترونية.
وكانت OpenAI قد أطلقت "إطار الجاهزية" في 2023 لمراقبة المخاطر التي يمكن أن تظهر مع تطور نماذج الذكاء الاصطناعي وتحديد مستويات تستدعي فرض إجراءات حماية إضافية قبل تطويرها أو نشرها على نطاق واسع.
وبموجب الإجراءات الجديدة، قالت الشركة إنها ستراقب الأنشطة عالية الخطورة والسلوكيات غير المتوقعة المرتبطة بـ"أسترا"، مع مواصلة اختبار وسائل الحماية والتعاون مع جهات حكومية ومؤسسات متخصصة في سلامة الذكاء الاصطناعي.
وتقول OpenAI إن تطوير القدرات السيبرانية لا يستهدف تعزيز الأدوات الهجومية، بل مساعدة المدافعين على اكتشاف نقاط الضعف ومعالجتها قبل استغلالها.
لكن قرار تقييد العمل على "أسترا" يعكس تحدياً أوسع يواجه صناعة الذكاء الاصطناعي، إذ لم يعد السباق مقتصراً على بناء نماذج أكثر قدرة، وإنما بات مرتبطاً أيضاً بإثبات قدرة أنظمة السلامة على مواكبة التطور قبل طرح هذه التقنيات للمستخدمين.
المصدر: إندبندنت – ترجمة وكالة النبأ الخبرية
أضف تعليقاً