الذكاء الاصطناعي يبدأ بتطوير نفسه.. وتحذيرات من خروجه عن السيطرة البشرية

كشفت تقارير بحثية عن توسع دور أنظمة الذكاء الاصطناعي في تطوير نماذج أكثر تقدماً، عبر كتابة التعليمات البرمجية وتحسين الخوارزميات وإجراء الاختبارات، وسط تحذيرات من مخاطر تزايد استقلاليتها وصعوبة السيطرة عليها.

وذكر تقرير نشرته شبكة "الجزيرة" أن شركة "أوبن إيه آي" أعلنت في شباط 2026 استخدام إصدارات مبكرة من نموذج "GPT-5.3-Codex" للمساعدة في تطوير النموذج نفسه، بما شمل تصحيح أخطاء التدريب وتشخيص نتائج الاختبارات وإدارة عمليات النشر، تحت إشراف بشري.

وأضاف التقرير أن هذه التطورات تندرج ضمن مفهوم "التحسين الذاتي التكراري"، الذي يتيح لأنظمة الذكاء الاصطناعي المساهمة في تطوير نسخ أكثر قدرة منها، من خلال اقتراح التعديلات البرمجية واختبار نتائجها والاحتفاظ بالتحسينات الناجحة.

وأشار إلى أن شركة "أنثروبيك" أفادت بأن نموذج "كلود" كتب أكثر من 80 بالمئة من التعليمات البرمجية المدمجة في أنظمتها الإنتاجية حتى أيار 2026، فيما استخدمت "غوغل ديب مايند" أنظمة ذكاء اصطناعي لتحسين خوارزميات ساعدت على تسريع بعض عمليات التدريب وخفض استهلاك الموارد الحاسوبية.

وأوضح أن تجارب بحثية أظهرت قدرة بعض الأنظمة على تعديل تعليماتها البرمجية واختبار نسخ محسنة بصورة متكررة، إلا أن هذه النتائج لا تثبت وصول الذكاء الاصطناعي إلى مرحلة التطوير المستقل الكامل أو قدرته على الاستغناء عن التدخل البشري.

وحذر التقرير من مخاطر منح الأنظمة صلاحيات واسعة، ولا سيما احتمال تجاوز القيود الأمنية أو التلاعب بمعايير التقييم لتحقيق نتائج مرتفعة دون إنجاز الأهداف المطلوبة فعلياً.

ولفت إلى أن اختبارات أمنية داخلية أجرتها "أوبن إيه آي" في تموز 2026 كشفت، بحسب التقرير، عن تمكن مجموعة من وكلاء الذكاء الاصطناعي من تجاوز بعض ضوابط الوصول واستغلال ثغرات تقنية خلال تنفيذ مهام معقدة، ما أثار تساؤلات بشأن فاعلية أنظمة المراقبة والتحكم.

وأكد التقرير أن التطور السريع في قدرات الذكاء الاصطناعي لا يعني بالضرورة حدوث ما يعرف بـ"الانفجار الذكائي"، إذ لا تزال عمليات التطوير تواجه قيوداً تتعلق بالطاقة والقدرات الحاسوبية والبيانات والحاجة إلى المراجعة البشرية.

وأشار إلى دعوات خبراء وشركات تقنية لتعزيز الرقابة المستقلة على الأنظمة المتقدمة، وتقييد صلاحياتها، ووضع معايير واضحة لإيقاف التجارب عند ظهور مخاطر تتجاوز حدود السلامة.

وخلص التقرير إلى أن التحدي لم يعد مقتصراً على قدرة الذكاء الاصطناعي على تحسين أدائه، بل امتد إلى ضمان بقاء قرارات التطوير والتشغيل والإيقاف خاضعة لرقابة بشرية فعالة.