لم تعد المخاوف المرتبطة بالذكاء الاصطناعي تقتصر على فقدان الوظائف أو انتشار المعلومات المضللة، إذ يتسع النقاش داخل الأوساط العلمية ليشمل سيناريو أكثر خطورة يتعلق بإمكانية فقدان البشر السيطرة على أنظمة متقدمة قادرة على التخطيط والعمل بصورة مستقلة.
وبحسب مقال نشرته مجلة "نيتشر" وترجمته وكالة النبأ، فإن سيناريوهات كانت حتى وقت قريب مادة لأعمال الخيال العلمي أصبحت جزءاً من نقاش علمي حقيقي بشأن مستقبل الذكاء الاصطناعي، مع التطور المتسارع في قدرات الأنظمة الحديثة.
ويستحضر مقال مسلسل الخيال العلمي "The 100"، الذي يقدم نموذجاً متطرفاً لفكرة انحراف النظام عن الغاية التي صُمم من أجلها. ففي أحداث المسلسل، تُنشئ عالمة نظام ذكاء اصطناعي بهدف تحسين حياة البشر، لكنه يخلص إلى أن تقليل عدد السكان يمثل وسيلة لتحقيق المهمة، لينتهي الأمر بكارثة نووية.
ورغم أن القصة خيالية، فإن السؤال الذي تطرحه بات حاضراً في أبحاث سلامة الذكاء الاصطناعي: ماذا يمكن أن يحدث إذا أصبح نظام شديد التطور قادراً على تنفيذ أهدافه باستقلالية، لكنه فسّر تلك الأهداف بطريقة لا تنسجم مع القيم والمصالح البشرية؟
ويستند المقال إلى استطلاع للرأي أجرته دورية "نيتشر" وشمل قرابة 2700 باحث في الذكاء الاصطناعي، مشيراً إلى أن غالبية المشاركين أعطوا احتمالاً لا يقل عن خمسة بالمئة لنتائج شديدة السوء قد تصل إلى انقراض البشر بسبب الذكاء الاصطناعي المتقدم.
وتتزامن هذه المخاوف مع ما أورده تقرير علمي دولي لتقييم مخاطر الذكاء الاصطناعي، والذي أعده فريق بقيادة عالم الذكاء الاصطناعي يوشوا بنجيو وبمشاركة أكثر من 100 خبير.
وبحسب ما نقله المقال عن التقرير، فإن أنظمة الذكاء الاصطناعي الحالية لا تمتلك القدرات اللازمة لإحداث فقدان للسيطرة، إلا أنها تحقق تقدماً في مجموعة من القدرات التي ترتبط بهذا السيناريو، من بينها التخطيط والعمل المستقل واستخدام الأدوات.
وهذه النقطة تضع فارقاً مهماً بين المخاطر الحالية والسيناريوهات المستقبلية؛ فالتحذيرات العلمية لا تعني أن أنظمة الذكاء الاصطناعي الموجودة اليوم أصبحت على وشك الانقلاب على البشر، وإنما تركز على كيفية إدارة تطورها قبل وصولها إلى مستويات أعلى من الاستقلالية والقدرة.
وكان عدد من العلماء والخبراء قد وقعوا في عام 2023 بياناً دعا إلى جعل الحد من خطر الانقراض المرتبط بالذكاء الاصطناعي أولوية عالمية، إلى جانب أخطار واسعة النطاق مثل الأوبئة والحروب النووية، في مؤشر على انتقال القضية من دوائر الخيال العلمي إلى نقاشات السياسات والسلامة التقنية.
ويبرز "فقدان السيطرة" باعتباره أحد أكثر السيناريوهات إثارة للجدل، ويقوم على فرضية ظهور نظام متقدم يمتلك قدرة كبيرة على اتخاذ القرارات والعمل بعيداً عن التدخل البشري المباشر، ثم يستخدم إمكاناته لتحقيق أهداف لا تتوافق بالضرورة مع المقاصد التي وضعها مطوروه.
لكن مواجهة هذه المخاطر لا تتوقف عند التحذير من السيناريوهات القصوى، إذ تتجه الجهود العلمية إلى تطوير أنظمة أكثر أماناً، وتحسين آليات الرقابة والمواءمة بين أهداف الذكاء الاصطناعي والقيم البشرية، بالتوازي مع بناء قدرات تقنية تسمح للدول بالتعامل مع التحولات المتسارعة في هذا المجال.
ويرى المقال أن تطوير القدرات الوطنية والابتكارات المحلية يمثل جزءاً من الاستعداد لهذه المرحلة، إلى جانب توظيف الذكاء الاصطناعي في المجالات التي تخدم الإنسان، مشيراً إلى البرامج التي تنفذها السعودية ضمن "رؤية 2030" والاستراتيجية الوطنية للبيانات والذكاء الاصطناعي.
وبين سيناريوهات الكارثة والفرص الواسعة التي توفرها التقنية، يبقى التحدي الأساسي في كيفية تطوير أنظمة أكثر قدرة من دون أن تتراجع قدرة الإنسان على توجيهها ومراقبتها، وهي معادلة يتوقع أن تصبح أكثر إلحاحاً كلما اقترب الذكاء الاصطناعي من مستويات أعلى من الاستقلالية.
أضف تعليقاً