باحثون يحذرون من ذكاء اصطناعي قادر على تطوير نفسه بعيداً عن سيطرة البشر

حذر باحثون متخصصون من اقتراب أنظمة الذكاء الاصطناعي من مرحلة أكثر تقدماً قد تتيح لها تحسين قدراتها بصورة متكررة، وسط دعوات إلى فرض ضوابط قانونية تحد من مخاطر فقدان السيطرة على الأنظمة فائقة الذكاء.
وقال أورين إتزيوني، الأستاذ في جامعة واشنطن ورائد الأعمال في مجال الذكاء الاصطناعي، خلال مناظرة نظمتها صحيفة "نيويورك بوست"، إن بعض التطورات التقنية أصبحت أقرب مما كان يتوقع، مشيراً إلى أن وتيرة التقدم باتت أكثر صعوبة في التنبؤ.
من جانبه، حذر ماكس تيغمارك، مؤسس "معهد مستقبل الحياة"، من بلوغ ما يعرف بمرحلة "التحسين الذاتي التكراري"، التي يمكن فيها لأنظمة الذكاء الاصطناعي تطوير قدراتها ذاتياً والوصول إلى مستويات تتفوق فيها على البشر في أبحاث الذكاء الاصطناعي.
واتفق الباحثان على أن تقييد صلاحيات الأنظمة المتقدمة وعزل مهامها يمكن أن يشكل إحدى وسائل خفض المخاطر، إذ دعا إتزيوني إلى تطوير نماذج متخصصة بدلاً من أنظمة فائقة الذكاء متعددة الأغراض، فيما شدد تيغمارك على منح الأنظمة الصلاحيات الضرورية فقط لتنفيذ مهامها.
كما انتقد الباحثان الاعتماد على التنظيم الذاتي لشركات التكنولوجيا، ودعوا إلى إنشاء جهة رقابية تضع معايير إلزامية للسلامة قبل طرح التقنيات المتقدمة على نطاق واسع، على غرار الدور الذي تؤديه إدارة الغذاء والدواء الأميركية في مجالها.
ويختلف الباحثان بشأن تأثير التنظيم في المنافسة العالمية، إذ حذر إتزيوني من أن فرض قيود واسعة على الشركات الأميركية قد يمنح الصين أفضلية في سباق الذكاء الاصطناعي، بينما يرى تيغمارك أن مخاطر فقدان السيطرة على أنظمة فائقة الذكاء قد تدفع الدول المتنافسة في نهاية المطاف إلى البحث عن قواعد مشتركة للحد منها.
وتأتي التحذيرات وسط اتساع النقاش العالمي بشأن سلامة الذكاء الاصطناعي، مع تسارع تطوير نماذج أكثر استقلالية وقدرة على تنفيذ مهام معقدة، وتصاعد الدعوات إلى إيجاد توازن بين استمرار الابتكار ووضع قواعد تحول دون تحول الأنظمة المتقدمة إلى مصدر مخاطر يصعب احتواؤها.