دفعت قفزة غير متوقعة في القدرات السيبرانية لنموذج ذكاء اصطناعي قيد التطوير شركة أوبن إيه آي إلى إبطاء بعض مراحل العمل عليه وتشديد إجراءات الحماية، في مؤشر على تحدٍ متزايد تواجهه شركات التكنولوجيا مع تقدم قدرات نماذجها بوتيرة قد تتجاوز أحياناً أنظمة الأمان المصممة للسيطرة عليها.
وأظهرت اختبارات داخلية أجرتها الشركة على نموذجها المرتقب "أسترا" تقدماً ملحوظاً في قدرته على تنفيذ مهام برمجية وسيبرانية بصورة مستقلة، ما دفعها، بعد مراجعة النتائج والاستعانة بتقييمات خبراء خارجيين، إلى التعامل مع احتمال اقترابه من مستوى تصفه الشركة بأنه "حرج" في مجال الأمن السيبراني.
ولا يعني هذا التصنيف مجرد قدرة النموذج على كتابة الشيفرات أو اكتشاف ثغرات برمجية، وإنما يشير، وفق إطار الاستعداد الذي تعتمده أوبن إيه آي، إلى قدرات أكثر تقدماً قد تسمح لنموذج مزود بالأدوات باكتشاف وتطوير ثغرات غير معروفة سابقاً في أنظمة حقيقية محصنة، أو تنفيذ سلسلة من المهام السيبرانية المعقدة بدرجة عالية من الاستقلالية.
وتثير هذه القدرات مخاوف من إمكانية تغيير التوازن القائم بين الهجوم والدفاع في الفضاء الإلكتروني، إذ قد يؤدي توظيف الذكاء الاصطناعي إلى تقليص الوقت والموارد والخبرات البشرية اللازمة لتنفيذ بعض العمليات السيبرانية المعقدة.
ويكتسب الأمر أهمية أكبر مع انتقال نماذج الذكاء الاصطناعي من مجرد الاستجابة لأوامر المستخدمين إلى العمل بصفتها "وكلاء" قادرين على تقسيم المهام إلى مراحل واستخدام أدوات مختلفة واختبار النتائج وتصحيح الأخطاء والاستمرار في تنفيذ المهمة بصورة أكثر استقلالية.
وعندما تقترن هذه القدرات بمهارات متقدمة في الأمن السيبراني، فإن النموذج قد لا يكتفي بتحليل مشكلة تقنية، بل يصبح قادراً على الانتقال بين مراحل متعددة من المهمة، وهو ما دفع شركات تطوير الذكاء الاصطناعي إلى إعادة النظر في وسائل الحماية المطلوبة قبل إتاحة نماذج أكثر تطوراً.
وكانت أوبن إيه آي قد أشارت في ديسمبر/كانون الأول 2025 إلى تسارع قدرات نماذجها في الاختبارات السيبرانية، بعدما ارتفعت نتائجها في اختبارات "الاستحواذ على العلم" (Capture the Flag) من 27 بالمئة مع "جي بي تي-5" إلى 76 بالمئة مع "جي بي تي-5.1 كوديكس ماكس" خلال أشهر.
وجاء تشديد الإجراءات بعد سلسلة اختبارات سلطت الضوء على المخاطر المصاحبة لاستخدام نماذج مستقلة في بيئات تقنية حقيقية.
وفي يوليو/تموز، كشفت أوبن إيه آي ومنصة هاغينغ فيس عن حادث أمني وقع خلال اختبار لقدرات سيبرانية باستخدام مجموعة من نماذج الشركة، بينها نموذج تجريبي أكثر قدرة لم يكن متاحاً للجمهور.
وقالت الشركة إن أحد الوكلاء تمكن خلال الاختبار من اختراق جزء من البنية التحتية لهاغينغ فيس، وهو ما أظهر أن بعض القدرات التي تبدو محدودة داخل بيئات التقييم يمكن أن تتحول إلى قدرات عملية عند منح النموذج أدوات للعمل داخل أنظمة حقيقية.
وأكدت أوبن إيه آي أن نموذج "أسترا" لم يكن مسؤولاً عن ذلك الحادث، لكنها شددت بعده إجراءات الاحتواء والمراقبة والتحكم في الوصول وطرق تقييم النماذج أثناء التطوير.
وفي أحدث إجراءاتها، أوقفت الشركة بعض الأنشطة الداخلية المتعلقة بأسترا التي لا تستوفي متطلبات الضوابط الأمنية الجديدة، ووسعت نطاق مراقبة الأفعال التي تصنفها عالية الخطورة، إضافة إلى متابعة حالات انحراف النموذج عن السلوك المتوقع أثناء التدريب والتقييم.
وتنص سياسة الاستعداد لدى الشركة على ضرورة تطبيق وسائل حماية إضافية على النماذج التي تبلغ مستويات متقدمة من الخطورة، على أن تبدأ إجراءات الاحتواء خلال عملية التطوير نفسها وليس فقط عند الاستعداد لإطلاق النموذج للمستخدمين.
وكانت أوبن إيه آي قد صنفت نماذج سابقة، بينها "جي بي تي-5" و"جي بي تي-5.1 كوديكس ماكس"، ضمن مستوى مرتفع من القدرات السيبرانية من دون بلوغ المستوى الحرج، فيما قالت إن نماذج "جي بي تي-5.6" وصلت أيضاً إلى المستوى المرتفع لكنها بقيت دون العتبة الحرجة.
ولا تقتصر القدرات السيبرانية المتقدمة للذكاء الاصطناعي على المخاطر الهجومية، إذ يمكن استخدام الأدوات نفسها لتعزيز الدفاع الإلكتروني عبر اكتشاف نقاط الضعف وفحص البرمجيات وتسريع معالجة الثغرات قبل استغلالها.
وتقول أوبن إيه آي إن هدفها ليس وقف تطوير هذه القدرات، وإنما ضمان تطورها بالتوازي مع وسائل حماية قادرة على الحد من إساءة استخدامها.
ويضع ذلك شركات الذكاء الاصطناعي أمام معادلة أكثر تعقيداً مع اشتداد المنافسة على تطوير نماذج أكثر قدرة واستقلالية، إذ لم يعد السباق مقتصراً على من يطور النموذج الأقوى أو الأسرع، بل يمتد إلى قدرة الشركات على إثبات أن أنظمة الأمان تتقدم بالسرعة نفسها.
وتحول تجربة "أسترا" بذلك قضية سلامة الذكاء الاصطناعي من نقاش نظري إلى اختبار عملي أمام الصناعة، مع اقتراب النماذج من أداء مهام كانت حتى وقت قريب تتطلب خبرة بشرية متخصصة وتدخلاً مستمراً، وهو ما يطرح سؤالاً متزايداً بشأن النقطة التي ينبغي عندها إبطاء التطوير عندما تتقدم قدرات النموذج على وسائل السيطرة عليه.
أضف تعليقاً