استقال مسؤول بارز في مجال السلامة بشركة OpenAI، محذراً من أن وتيرة تطوير تقنيات الذكاء الاصطناعي باتت تتقدم بصورة أسرع من إجراءات الحماية اللازمة للسيطرة على مخاطرها.
وذكرت صحيفة "الغارديان" أن ديفيد روبنسون، الذي تولى قيادة إعداد تقارير السلامة المصاحبة لإطلاق منتجات الشركة، كشف عن استقالته في مقال نشره بمجلة "ذا أتلانتيك"، تحت عنوان "استقلت من OpenAI لأن ثقافتها معطلة".
وقال روبنسون إن شركات الذكاء الاصطناعي المتقدمة "ليست حذرة بما يكفي" في تطوير التكنولوجيا، معتبراً أن معالجة المشكلة تتطلب تغييراً في ثقافة الشركات نفسها، وليس الاكتفاء بوضع قواعد أو تشريعات جديدة.
وأضاف أن سرعة الانتقال من إطلاق منتج إلى آخر تجعل من الصعب، بحسب تقييمه، تحقيق مستوى العناية الذي تتطلبه أنظمة الذكاء الاصطناعي المتزايدة في قدراتها، محذراً من أن المشكلات المتعلقة بالسلامة قد تصبح أكثر خطورة مع تطور الأنظمة المستقلة.
ودعا روبنسون شركات الذكاء الاصطناعي إلى الاستفادة من خبرات القطاعات عالية المخاطر، مثل الطاقة النووية والطيران، وتطبيق مستويات متعددة من إجراءات الحماية والتخطيط الدقيق، إلى جانب تطوير وسائل علمية جديدة تضمن إمكانية السيطرة على الأنظمة المتقدمة عند عملها بصورة مستقلة.
وتأتي استقالته وسط تصاعد النقاش داخل قطاع التكنولوجيا بشأن سلامة أنظمة الذكاء الاصطناعي، فيما أشارت "الغارديان" إلى أن OpenAI اتخذت خلال الأسابيع الأخيرة إجراءات احترازية شملت تعليق تدريب بعض نماذجها الأكثر تقدماً وحجب إطلاق نموذج جديد بعد إثارة مخاوف تتعلق بالسلامة خلال الاختبارات الداخلية.
من جانبها، قالت OpenAI إنها تواصل تعزيز ممارسات السلامة والأمن للتعامل مع المخاطر الحالية والمستقبلية، مؤكدة أنها تعمل على ضمان عدم وصول نماذجها إلى قدرات تتجاوز قدرتها على إدارتها وتأمينها، وأنها قد توقف التدريب أو تؤجل إطلاق النماذج عند الضرورة.
أضف تعليقاً