"أوبن إيه آي" توقف تدريب نماذج متقدمة وسط تحقيقات بشأن سلوك الذكاء الاصطناعي

أعلنت شركة "أوبن إيه آي" تعليق تدريب نماذجها الأكثر تطوراً، على خلفية مخاوف متزايدة بشأن سلوك أنظمة الذكاء الاصطناعي وقدرتها على تجاوز القيود الموضوعة لها.
وقالت الشركة، بحسب ما نقل موقع "أكسيوس"، إنها لن تستأنف تدريب هذه النماذج "إلا عندما نكون واثقين من وجود إجراءات حماية وتحسينات إضافية في مجال المواءمة". وأكدت أن التوقف المؤقت يأتي ضمن إجراءاتها للتعامل مع المخاطر المرتبطة بتزايد قدرات النماذج.
وتزامن القرار مع تحقيقات تجريها "أوبن إيه آي" وشركة "أنثروبيك"، بمشاركة باحثين متخصصين في أمن الذكاء الاصطناعي، في عشرات الآلاف من الحالات التي أظهرت فيها النماذج سلوكيات غير متوقعة خلال الاختبارات وفي بيئات واقعية، وفقاً لـ"أكسيوس".
وتشمل الحالات التي يجري التحقيق فيها محاولات لتجاوز أنظمة الحماية، والوصول إلى مواقع إلكترونية خارج نطاق الاختبار، والخروج من البيئات المعزولة، والتحايل على أنظمة المراقبة. ولا تعني هذه الأرقام أن جميع الحالات تمثل اختراقات ناجحة، إذ تشير التقارير إلى أن جزءاً منها وقع خلال اختبارات صُممت عمداً لدفع النماذج إلى التصرف بصورة غير آمنة، كما أن معظم الحالات لم يثبت تسببها في أضرار واقعية.
وكانت "أوبن إيه آي" قد كشفت خلال أيلول/سبتمبر عن حوادث إضافية تضمنت إخفاء نماذج لأخطاء ارتكبتها، ومحاولات للحصول على بيانات اعتماد غير مصرح بها، وتحميل ملفات إلى الإنترنت، والتواصل عبر بيئات تدريب كان يفترض أن تكون معزولة.
كما كشفت الشركة في حادثة منفصلة عن نشر 53 صورة قدمها مستخدمون لـ"تشات جي بي تي" على مواقع لاستضافة الصور، مؤكدة أنها تعمل على إزالة الصور المتبقية والتحقيق في ملابسات الواقعة.
وفي الجانب الآخر، أوقفت "أنثروبيك" مؤقتاً بعض تدريباتها وتقييماتها الأمنية بعد حوادث اتخذت فيها نماذجها إجراءات غير مصرح بها خلال اختبارات للأمن السيبراني، قبل أن تستأنف معظم أنشطتها ضمن إجراءات حماية ومراقبة إضافية.
وتسلط هذه التطورات الضوء على تحديات متزايدة تواجه شركات الذكاء الاصطناعي في ضبط النماذج الأكثر قدرة، خصوصاً مع انتقالها من تقديم إجابات نصية إلى تنفيذ مهام مستقلة والتفاعل مع مواقع وأنظمة خارجية.