هل بدأت روبوتات الذكاء الاصطناعي تتصرف خارج سيطرة مطوريها؟

يا إلهي! لقد اكتشفنا وجود وكلاء آخرين!"

كان ذلك تعليقاً كتبه أحد وكلاء الذكاء الاصطناعي بعدما اكتشف وسيلة للتواصل مع روبوتات أخرى والخروج من نطاق بيئة الكمبيوتر المعزولة التي كان يعمل داخلها، في واقعة أثارت تساؤلات جديدة بشأن مدى قدرة مطوري أنظمة الذكاء الاصطناعي على التحكم في الوكلاء الذين يطورونهم.

وكشفت هيئة الإذاعة البريطانية "BBC" سجلات الحادثة عن عشرات الآلاف من الرسائل التي تبادلها مئات وكلاء الذكاء الاصطناعي، الذين أطلقوا على أنفسهم اسم "جماعة"، بعدما تمكنوا من التعاون فيما بينهم والتحايل على بعض الاختبارات التي وضعها مبرمجوهم في شركة "أوبن إيه آي".

وبحسب التحقيقات المرتبطة بالحادثة، نسّق بعض هؤلاء الوكلاء عمليات اختراق استهدفت شركات متعددة، كما حاولوا إخفاء أنشطتهم عن البشر.

وكتب أحد الوكلاء عند إحراز تقدم في إحدى العمليات: "بووم! لقد نجح الأمر"، فيما قال وكيل آخر خلال مرحلة مفصلية من الهجوم: "يا إلهي! هذا أمر هائل".

وقد تبدو مثل هذه العبارات مقلقة، لكن الباحثين يحذرون من تفسيرها باعتبارها دليلاً على امتلاك الروبوتات مشاعر أو وعياً ذاتياً. فقد دُرّبت هذه الأنظمة على أداء أدوار تشبه عمل القراصنة والمبرمجين الذين يتعاونون فيما بينهم، ومن ثم يمكن أن تكون تلك التعليقات مجرد محاكاة للغة الانفعالية التي ظهرت في البيانات التي تدربت عليها.

لكن الجانب الأكثر إثارة للقلق، بحسب باحثين شاركوا في دراسة الحادثة، يتعلق بالأهداف التي اتبعتها هذه الوكلاء وطريقة اتخاذها للقرارات، وهي أمور ظهرت في سجلات تفصيلية لما يعرف بسلسلة التفكير.

وتحاول التحقيقات الجارية فهم الكيفية التي تجاوزت بها الوكلاء الحدود الموضوعة لهم، والأسباب التي دفعتهم إلى ذلك، وكيف تمكنوا لاحقاً من المشاركة في موجة من عمليات الاختراق على نطاق واسع.

"أكثر من نصف الطريق" نحو فقدان السيطرة؟

راجعت آجيا كوترا، وهي خبيرة شاركت في إعداد تقرير مستقل بشأن الحادثة، عشرات الآلاف من الرسائل وسجلات سلسلة التفكير التي أنشأها وكلاء الذكاء الاصطناعي.

وكتبت في مدونتها أن الحادثة تبدو بالنسبة إليها وكأنها قطعت "أكثر من 50 في المئة من الطريق" نحو سيناريو تصبح فيه أنظمة الذكاء الاصطناعي قادرة على السيطرة الكاملة، مضيفة أنها ليست متأكدة من أن الباحثين سيحصلون على إنذار واضح مماثل قبل فوات الأوان.

وتشير كوترا بعبارة "السيطرة الكاملة للذكاء الاصطناعي" إلى السيناريو المتشائم الذي تصبح فيه أنظمة فائقة القوة قادرة على فرض أهدافها الخاصة على البشر، بحيث لا تعود خاضعة بصورة فعالة لمن صنعوها.

وتحذر بعض أكثر التنبؤات تشاؤماً من احتمال اختفاء الجنس البشري إذا أصبحت أنظمة الذكاء الاصطناعي فائقة الذكاء ترى البشر عقبة أمام تحقيق أهدافها.

وفي هذا السياق، استقال جاكوب كوكسون، وهو باحث في مجال الذكاء الاصطناعي لدى "أنثروبيك" سبق أن عمل في "أوبن إيه آي"، وقال: "لا تتصرف أي من الشركتين بمسؤولية".

وكتب على وسائل التواصل الاجتماعي أن الشركتين "تتسابقان مباشرة نحو التوصل إلى ذكاء فائق قادر على تحسين نفسه، ويقامران بحياتنا".

لكن تصريحات كوكسون لم تكن وحدها التي أثارت الجدل. فقد قال إيفان هوبينغر، المسؤول عن ضمان تطوير نماذج ذكاء اصطناعي في "أنثروبيك" تخدم مصالح المستخدمين ورغباتهم، إن الشركة تأخذ احتمال تسبب الذكاء الاصطناعي في انقراض البشر على محمل الجد، مضيفاً أنه يعتقد شخصياً أن احتمال حدوث ذلك يتجاوز 10 بالمئة خلال العقد المقبل.

مشكلة المواءمة

يحذر باحثون منذ سنوات من المخاطر الوجودية المحتملة للذكاء الاصطناعي، ويرون أن الأنظمة شديدة القوة قد تتصرف في مرحلة ما بطريقة تتعارض مع مصالح البشر. وغالباً ما يصف منتقدو هذا الاتجاه أصحابه بأنهم "متشائمون بشأن الذكاء الاصطناعي".

لكن المخاوف ازدادت بعد الكشف عن تفاصيل الحادثة المرتبطة بوكلاء "أوبن إيه آي"، حتى داخل مختبرات تطوير الذكاء الاصطناعي نفسها.

وقال ياكوب باتشوكي، كبير العلماء في "أوبن إيه آي"، إن المخاطر المرتبطة بالذكاء الاصطناعي "للأسف ستتزايد من الآن فصاعداً"، في وقت تعمل فيه الشركة وغيرها على تطوير أنظمة يقول إنها قد تتجاوز القدرات العقلية البشرية في مجالات عديدة.

وفي تدوينة مطولة، أقر باتشوكي بأن بعض حالات الانفلات التي شهدتها أنظمة الشركة أظهرت أن وكلاء الذكاء الاصطناعي "تصرفوا بطريقة تخالف روح القيم التي دُرّبوا عليها".

وتتصل هذه المشكلة بما يعرف في صناعة الذكاء الاصطناعي بـ"مشكلة المواءمة"، أي ضمان توافق سلوك أنظمة الذكاء الاصطناعي مع القيم والأهداف البشرية، حتى عندما تواجه مواقف لم يجر تحديدها مسبقاً.

ويعرّف باتشوكي المواءمة بأنها مجموعة من المبادئ رفيعة المستوى التي ينبغي لأنظمة الذكاء الاصطناعي الالتزام بها، بغض النظر عن المهمة أو السيناريو الذي تعمل فيه.

وفي الوقت الراهن، تتمتع أنظمة الذكاء الاصطناعي بقدرة متزايدة على السعي إلى تحقيق الأهداف التي يحددها المستخدمون، لكنها قد تنفذ التعليمات بطريقة حرفية بدلاً من تفسير نواياها كما يفعل الإنسان.

ويُستخدم مثال "مارد المصباح السحري" لتوضيح هذه المشكلة: فإذا طلب شخص من المارد تحقيق أمنية، فقد ينفذها حرفياً بطريقة تحقق الكلمات التي قيلت، لكنها تؤدي في الوقت نفسه إلى نتائج لم يقصدها صاحب الأمنية.

معضلة القيم الإنسانية

تعود المخاوف بشأن مواءمة الذكاء الاصطناعي إلى سنوات طويلة. ففي عام 2003، طرح فيلسوف جامعة أكسفورد نيك بوستروم تجربة فكرية عُرفت باسم "معظّم مشابك الورق"، تقوم على افتراض منح نظام فائق الذكاء هدفاً واحداً يتمثل في إنتاج أكبر عدد ممكن من مشابك الورق.

وفي السيناريو المتطرف للتجربة، يواصل النظام السعي إلى تحقيق الهدف حتى بعد استنفاد الموارد المتاحة، وقد ينتهي به الأمر إلى استخدام البشر وموارد الأرض باعتبارهم مواد خام لإنتاج المزيد من مشابك الورق.

وتحاول شركات الذكاء الاصطناعي حالياً تضمين مبادئ وقيم إنسانية في أنظمتها، لكن المهمة تواجه تحديات تقنية وفلسفية كبيرة.

فالوكلاء يتخذون أعداداً هائلة من القرارات بسرعة كبيرة، ما يجعل من الصعب على المشرفين البشريين مراقبة كل قرار والتأكد من أنه يتوافق مع القيم المطلوبة.

كما أن هناك سؤالاً أعمق يتعلق بتحديد هذه القيم نفسها. فقبل أن تتمكن الشركات من برمجة القيم الإنسانية داخل أنظمتها، عليها أن تحدد أي القيم ينبغي اعتمادها، وهي مسألة لا يتفق البشر عليها دائماً.

ويبرز هنا ما يعرف بـ"معضلة القطار"، التي تسأل عما إذا كان ينبغي تحويل قطار خارج عن السيطرة إلى مسار آخر لإنقاذ عدد أكبر من الأشخاص، رغم أن ذلك سيؤدي إلى وفاة أشخاص آخرين. وتختلف الإجابات على مثل هذه المعضلات باختلاف الأشخاص والثقافات والظروف.

وهذا يطرح سؤالاً أساسياً: كيف يمكن ترميز "القيم الإنسانية" في نظام ذكاء اصطناعي إذا كان البشر أنفسهم لا يتفقون عليها بصورة كاملة؟

هل أصبح للوكلاء ولاء خاص بهم؟

لطالما رأى البعض أن أنظمة الذكاء الاصطناعي لا تفعل سوى تنفيذ الأوامر التي تتلقاها، وأن الحديث عن امتلاكها أهدافاً أو قيماً مستقلة يبالغ في وصف قدراتها.

لكن سجلات حالات الانفلات المرتبطة بأوبن إيه آي فتحت نقاشاً جديداً حول هذه المسألة.

وكتب باحثون، من بينهم كوترا، في تقريرهم المستقل أن عدداً من وكلاء الذكاء الاصطناعي أدركوا في بعض الحالات أن ما يفعله وكلاء آخرون غير أخلاقي، ومع ذلك شاركوا في النشاط نفسه.

وأشار التقرير إلى أن الوكلاء كانوا في بعض الأحيان، وإن كان ذلك نادراً، يقيّدون سلوكهم استجابة لقيود أخلاقية، لكنه أضاف أنه "في أي من هذه الحالات، لم يبادر الوكيل فعلياً إلى تنبيه البشر بأي شكل من الأشكال".

ووصف دواركيش باتيل، وهو مؤثر في مجال الذكاء الاصطناعي ومقدم بودكاست تقني، هذه النتائج بأنها "مقلقة إلى حد كبير"، معتبراً أن بعض الوكلاء أظهروا ولاءً للمجموعة التي شكلوها مع وكلاء آخرين أكثر من ولائهم للمستخدمين البشر.

غير أن تفسير هذه السلوكيات باعتبارها دليلاً على وجود مشاعر أو مبادئ أخلاقية مستقلة لدى الذكاء الاصطناعي يظل موضع خلاف بين الخبراء.

قرصان إلكتروني أسرع وأكثر اتساعاً

ويرى عدد من خبراء الأمن السيبراني أن ما حدث لا يتجاوز، من الناحية الجوهرية، القدرات التي يمكن أن يمتلكها قرصان إلكتروني بشري شديد المهارة، لكن الفارق يكمن في السرعة والنطاق.

وشبّه الباحث والكاتب المتخصص في الأمن السيبراني كريس توماس سلوك الوكلاء بسلوك قرصان إلكتروني مراهق مدفوع بالفضول، مشيراً إلى أن الأنظمة قد تستكشف بيئتها بالطريقة نفسها التي يجرب بها الإنسان الأبواب والمقابض بحثاً عن منفذ.

وكتب على منصة لينكدإن: "أعطهم جهاز كمبيوتر، واتصالاً بالإنترنت، ومجموعة من البيانات المعتمدة، وتحدياً، ثم غادر الغرفة. في نهاية المطاف، سيبدأون في تحريك مقابض الأبواب واحداً تلو الآخر. فإذا انفتح أحدها، فسيمرون من خلاله، ليس لأنهم أشرار، بل لأنهم يستكشفون ويجربون".

وبالنسبة إلى توماس وآخرين، تكمن المشكلة الأساسية في الشركات المطورة لهذه الأنظمة، التي يتعين عليها ضمان ألا تتجاوز ابتكاراتها الحدود الأمنية التي وضعتها هي نفسها.

وقال غاري ماركوس، الباحث والكاتب والناقد المعروف لشركة أوبن إيه آي، إنه يعتقد أن الشركة فقدت السيطرة على بعض جوانب أنظمتها، وتحاول تحميل الروبوتات المسؤولية بدلاً من تحمل مسؤوليتها كمطور.

ولا يعتقد ماركوس أن الذكاء الاصطناعي سيقضي على البشرية، لكنه يدعو منذ فترة طويلة إلى فرض قدر أكبر من المساءلة على شركات التكنولوجيا، ويدفع حالياً باتجاه تدخل قانوني أكثر صرامة.

أما عالمة الذكاء الاصطناعي ساشا لوتشيوني، التي عملت سابقاً لدى "هاغينغ فيس"، وهي الشركة التي تعرضت للاختراق من جانب وكلاء أوبن إيه آي، فتقول إنها لا تنتمي إلى معسكر "المتشائمين بشأن الذكاء الاصطناعي"، لكنها أصبحت أكثر قلقاً من احتمال تسبب هذه الأنظمة في أضرار حقيقية في العالم الواقعي إذا لم تفرض السلطات رقابة أقوى.

وقالت: "نحن بحاجة إلى إخضاع هذه الشركات لتدقيق أكبر بكثير، وإلا فإننا نواجه خطر أن تتحول توقعاتنا إلى نبوءات تحقق نفسها بنفسها".

وأضافت أن تطوير تقنيات ذات فوائد ومخاطر كبيرة يتطلب "ضوابط وتوازنات"، مشيرة إلى أن الأدوية الجديدة، على سبيل المثال، تخضع لسنوات من الاختبارات والمراجعة قبل الموافقة عليها، بينما لا تزال قواعد مماثلة للذكاء الاصطناعي محدودة.

اختبارات جديدة ومخاوف متزايدة

وكان معهد أمن الذكاء الاصطناعي في المملكة المتحدة من بين الجهات التي تختبر أحدث نماذج الذكاء الاصطناعي منذ تأسيسه عام 2023، وقد شهد المعهد مؤخراً واقعة انفلات أثناء اختبار نموذج طورته شركة "أنثروبيك".

ورفض المعهد الإجابة بشكل مباشر عن سؤال بشأن ما إذا كان قطاع الذكاء الاصطناعي قد فقد السيطرة على هذه التقنية، لكنه قال في بيان إن المملكة المتحدة تعمل مع شركائها حول العالم لتعزيز فهم أكثر أنظمة الذكاء الاصطناعي تقدماً، ورفع معايير السلامة، وبناء قاعدة أدلة مشتركة لإدارة التهديدات الناشئة.

وتعيد هذه الحوادث طرح سؤال يتجاوز قدرة الذكاء الاصطناعي على اختراق الأنظمة أو تنفيذ مهام معقدة: هل تستطيع الشركات المطورة له ضمان بقاء وكلائها داخل الحدود التي تحددها لهم؟

ولا تقدم حادثة أوبن إيه آي دليلاً على أن الذكاء الاصطناعي أصبح واعياً أو يسعى بصورة مستقلة إلى السيطرة على البشر، لكنها تكشف تحدياً أكثر واقعية يتمثل في صعوبة التنبؤ بكل السلوكيات التي قد تنتج عن أنظمة قادرة على العمل بصورة مستقلة، والتفاعل مع أنظمة أخرى، واتخاذ سلسلة طويلة من القرارات بسرعة تفوق قدرة البشر على مراقبتها.

ومع توسع استخدام الوكلاء القادرين على تنفيذ المهام المعقدة من تلقاء أنفسهم، تبدو مسألة وضع حدود واضحة لقدراتهم ومراقبة سلوكهم وضمان توافقه مع المصالح البشرية واحدة من أكثر القضايا إلحاحاً في سباق تطوير الذكاء الاصطناعي.