تريشا راي*
أعلن البيت الأبيض في وقت سابق من هذا الأسبوع اتفاقاً بشأن "الذكاء الفائق"، وهو المصطلح الجديد الذي تفضله إدارة الرئيس دونالد ترامب للإشارة إلى الذكاء الاصطناعي، ووقع عليه قادة شركات غوغل، وأنثروبيك، وأوبن إيه آي، وميتا، وإكس إيه آي، وإنفيديا.
وأثار الاتفاق تساؤلات لدى العديد من المراقبين لسياسات الذكاء الاصطناعي حول ما إذا كان اتفاق "ملزم أخلاقياً"، يعتمد على ضوابط داخلية طوعية، يمكن أن يحد من الحوادث المثيرة للقلق التي شهدتها الأشهر الثلاثة الماضية، بدءاً من نماذج متقدمة للذكاء الاصطناعي تمكنت من الخروج من بيئات الاختبار، وصولاً إلى وكلاء ذكاء اصطناعي حاولوا استكشاف مواقع إلكترونية حكومية.
ومن المهم توضيح أن الاتفاق لا يعني أن الشركات لن تتحمل المسؤولية عن الأضرار التي قد تسببها أنظمة الذكاء الاصطناعي الخارجة عن السيطرة. وإذا أخذنا منطلق الإدارة الأميركية كما هو، فإن القوانين القائمة تمثل شبكة الأمان القانونية، بينما يمثل الاتفاق طبقة وقائية تهدف إلى منع الأضرار قبل وقوعها.
ويجب أن يصمد كلا المستويينن ولذلك، من المفيد دراسة كيفية نجاح هذا النوع من الحوكمة الجماعية والتنظيم الذاتي للشركات، والعوامل التي يمكن أن تؤدي إلى فشله.
ما الذي يجعل التنظيم الذاتي الجماعي ناجحاً؟ وما الذي يؤدي إلى فشله؟
يقدم قطاع الطاقة النووية أحد أبرز النماذج السابقة.
فبعد حادث محطة ثري مايل آيلاند النووية، أنشأ الرئيس الأميركي آنذاك جيمي كارتر لجنة كيميني، التي خلصت إلى أن مجرد الالتزام بالمتطلبات الحكومية لا يضمن السلامة، وأن على القطاع نفسه أيضاً وضع معايير للتميز ومراقبة الالتزام بها.
وبناء على توصيات اللجنة، أنشأ الرؤساء التنفيذيون لشركات المرافق الكهربائية معهد عمليات الطاقة النووية (INPO) عام 1979.
ويعتمد المعهد إلى حد كبير على ضغط الأقران، لكن عمليات التفتيش التي يجريها تؤثر أيضاً في ترتيبات التأمين التي توفرها شركة التأمين التبادلي التابعة للقطاع، بحيث يؤثر تصنيف كل محطة بصورة مباشرة في قيمة أقساط التأمين التي تدفعها.
والأهم من ذلك أن الجهات التنظيمية الفيدرالية لا تزال تشكل أداة رقابة مهمة على القطاع؛ إذ يعمل معهد عمليات الطاقة النووية إلى جانب لجنة التنظيم النووي الأميركية التي تشرف على المحطات نفسها.
ويظهر اتفاق بنغلاديش أهمية الالتزامات الملزمة حتى في غياب جهة تنظيمية اتحادية واحدة تتولى الرقابة.
فبعد انهيار مبنى "رانا بلازا" في بنغلاديش، الذي أدى إلى مقتل أكثر من 1,100 عامل كانوا يعملون في ظروف استغلالية، وقعت شركات ملابس عالمية، تحت ضغط من منظمات المجتمع المدني، اتفاقاً يلزم بإجراء عمليات تفتيش مستقلة ونشر نتائجها، وتنفيذ الإصلاحات الضرورية، وتحمل العلامات التجارية تكاليف تحسين المنشآت، وفرض عواقب على الموردين الذين يرفضون تحسين أوضاعهم.
وكان من الممكن إحالة النزاعات إلى محكمة التحكيم الدائمة، بما قد يؤدي إلى فرض عقوبات على الشركات في بلدانها الأصلية.
وتشير النقابات إلى أن نحو 80 في المئة من المخاطر التي اكتشفتها عمليات التفتيش الأولية جرى علاجها.
والعكس صحيح أيضاً: يفشل التنظيم الذاتي عندما لا تكون هناك عقوبات واضحة.
ومن الأمثلة على ذلك مبادرة الرعاية المسؤولة (Responsible Care) في قطاع الصناعات الكيميائية. أطلقت المبادرة في أعقاب كارثة بوبال عام 1984، عندما وقع تسرب للغاز في مصنع تابع لشركة يونيون كاربايد في الهند، ما أدى إلى وفاة أكثر من سبعة آلاف شخص خلال أيام، وأكثر من 20 ألفاً على المدى الطويل، وفق بعض التقديرات.
واجهت جميع الشركات خطر خسائر مالية وتشديد الرقابة الحكومية بعد الكارثة، بغض النظر عن الشركة المسؤولة مباشرة، الأمر الذي خلق نوعاً من المسؤولية الجماعية.
لكن الباحثين خلصوا إلى أن الأهداف الأساسية لمبادرة "الرعاية المسؤولة" بدت متركزة على تغيير الرأي العام وممارسة الضغط ضد فرض تنظيمات أكثر صرامة.
ومن دون التحقق من طرف ثالث أو فرض عقوبات واضحة، تحولت المبادرة إلى مثال تحذيري على حدود التنظيم الذاتي.
تشير هذه الأمثلة مجتمعة إلى أربعة شروط أساسية لنجاح التنظيم الذاتي:
1. تقاسم مخاطر الفشل: بحيث يمكن لفشل أحد الأعضاء في مجال السلامة أن يلحق الضرر بجميع الأعضاء.
2. وجود عواقب واضحة: مثل أقساط مالية مرتفعة أو اللجوء إلى التحكيم.
3. التحقق المستقل: للتأكد من تنفيذ الالتزامات.
4. وجود شبكة أمان حكومية موثوقة: تتيح للحكومة التدخل عند الضرورة.
ويلبي الالتزام المشترك بشأن مسؤوليات الذكاء الاصطناعي المتقدم الشرط الأول جزئياً.
فالذكاء الاصطناعي المتقدم يواجه مشكلة تتعلق بالسمعة الجماعية؛ إذ من المرجح أن يؤدي فقدان الثقة بالذكاء الاصطناعي إلى الإضرار بالتكنولوجيا ككل، وليس بشركة محددة فقط.
لكن شركات الذكاء الاصطناعي تخوض في الوقت نفسه سباقاً للسيطرة على حصص أكبر من السوق، وهو ما يخلق مشكلة في العمل الجماعي.
كما أن الاتفاق لا يتضمن أي عقوبات محددة. وهو يدعو إلى الاستعانة بمدققين مستقلين من خارج الشركات، لكنه لا يحدد من سيتولى عمليات التقييم الخارجية.
وفضلاً عن ذلك، فإن وجود شركة واحدة على الأقل موقعة على الاتفاق، وهي إكس إيه آي، تتبنى ثقافة مؤسسية تقلل من أهمية فرق الثقة والسلامة، يجعل عملية التدقيق من دون عقوبات موثوقة على عدم الالتزام أقل قدرة على إحداث تغيير حقيقي.
كما أن شبكة الأمان الحكومية لا تزال غير واضحة.
وينص الاتفاق على أن تحويل الإجراءات إلى قانون "قد يكون منطقياً" في المستقبل. لكن الموقعين عليه يختلفون أيضاً حول طبيعة المخاطر نفسها، بل وحول ما إذا كانت بعض أنواع هذه المخاطر حقيقية من الأساس.
فعلى سبيل المثال، يرى الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، أن على القطاع إبطاء وتيرة تطوير قدرات النماذج والاستفادة من هذا الوقت لتعزيز إجراءات السلامة، وهو موقف تؤيده بدرجات مختلفة قيادات في أوبن إيه آي، بما في ذلك سام ألتمان، وغوغل ديب مايند، بما في ذلك ديميس هاسابيس.
في المقابل، يرى الرئيس التنفيذي لشركة إنفيديا، جنسن هوانغ، أن المخاطر الكارثية الفريدة المرتبطة بالذكاء الاصطناعي مبالغ فيها، وأن القوانين الحالية كافية.
أما الرئيس التنفيذي لشركة ميتا، مارك زوكربيرغ، فيميل إلى التنظيم الذاتي، ويطرح الثقة والمواءمة باعتبارهما من الخصائص التي يمكن أن تميز المنتجات.
في حين أكد الرئيس دونالد ترامب أن الولايات المتحدة تخاطر بفقدان موقعها أمام الصين إذا أبطأت شركاتها، ووصف المخاوف بشأن وقوع كارثة بسبب الذكاء الاصطناعي بأنها "خدعة".
وسيواجه تحالف منقسم حول حقيقة المخاطر نفسها صعوبة في الاتفاق على معايير أو عقوبات مشتركة، ما سيدفعه نحو اعتماد الحد الأدنى المشترك من الإجراءات.
إعطاء التعهد قوة حقيقية
يمثل الاتفاق نقطة بداية معقولة.
فالالتزامات المتعلقة بمراقبة النماذج، وتخصيص فرق داخلية للتحقق من فعالية الضوابط، والاستعانة بمدققين خارجيين، تشكل جميعها لبنات أساسية جيدة.
لكن خلال الأشهر المقبلة، سيتعين على الاتفاق اجتياز اختبارات عملية محددة:
من سيختار المدققين الخارجيين ويمول عملهم؟ هل ستُنشر نتائج عمليات التدقيق؟ هل ستكون هناك عواقب في حال فشل عملية التدقيق؟ وهل ستتوسع دائرة الموقعين لتشمل شركات ذكاء اصطناعي أصغر من الشركات الست؟
وعلى المدى الطويل، ستتغير الصورة.
فإذا استمر السباق، سواء مع الصين أو بين شركات الذكاء الاصطناعي نفسها، سيكون لدى كل شركة حافز للاستفادة من حذر الشركات الأخرى من دون تحمل التكلفة بنفسها.
وفي هذه الحالة، يتعين على الحكومة التدخل بما يمكن وصفه بـ "مدفع كبير حميد"؛ أي امتلاك سلطة إنفاذ تتمتع بالمصداقية والالتزام بها، لأن التساهل مع الشركات مقابل تعاونها قد يجعل السلوك المحفوف بالمخاطر أكثر ر إلى درجة تجعل استخدامها نادراً.
وينبغي أن تكون الضمانات الأساسية إلزامية، لا أن تقتصر على مكافأة الشركات التي تختار طوعاً الالتزام بها، لأن التساهل مع الشركات مقابل تعاونها قد يجعل السلوك المحفوف بالمخاطر أكثر ربحية.
فدور القواعد الفيدرالية ليس أن تحل محل جهود القطاع نفسه، وإنما أن تضمن استمرار هذه الجهود وفاعليتها وإلزام الجميع بها.
* المجلس الأطلسي
أضف تعليقاً