تبحث شركات جوجل وOpenAI وأنثروبيك تعزيز التعاون في مجال سلامة الذكاء الاصطناعي، من خلال مجموعة عمل مشتركة تدرس وضع معايير موحدة لاختبار أكثر أنظمة الذكاء الاصطناعي تطوراً، في خطوة قد تمهد لإنشاء هيئة مستقلة لمراقبة سلامة النماذج قبل طرحها للمستخدمين.
وقال موقع "ذا إنفورميشن" إن ممثلين عن الشركات الثلاث عقدوا اجتماعات خلال الأسابيع الماضية لبحث تأسيس هيئة تتولى وضع معايير لصناعة الذكاء الاصطناعي، مشيراً إلى أن المحادثات أحرزت تقدماً، من دون التوصل حتى الآن إلى اتفاق نهائي أو إطلاق الهيئة رسمياً.
وتأتي هذه المباحثات في ظل توجهات أعلنتها الشركات الثلاث كل على حدة خلال الأشهر الماضية، بشأن الحاجة إلى توحيد أساليب اختبار نماذج الذكاء الاصطناعي المتطورة، وإخضاعها لتقييمات مستقلة، ووضع قواعد أكثر وضوحاً للإبلاغ عن الحوادث والسلوكيات غير المتوقعة.
وكانت OpenAI قد أعلنت في وقت سابق من سبتمبر الجاري رغبتها في العمل مباشرة مع مختبرات الذكاء الاصطناعي الأخرى لوضع "معايير تقودها الصناعة"، معتبرة أن القوانين الحكومية وحدها قد لا تكون كافية لمواكبة المخاطر الناجمة عن التطور السريع لقدرات النماذج.
وقالت الشركة إن هذه المعايير لن تحل محل الرقابة الحكومية أو القواعد الإلزامية، لكنها قد توفر آلية أسرع للتعامل مع المخاطر الجديدة، خصوصاً في ما يتعلق بمراقبة سلوك النماذج المتقدمة والإبلاغ عن الحالات التي تتجاوز فيها الأنظمة الحدود الموضوعة لها.
وتعمل OpenAI بالفعل على عدد من المبادرات التي يمكن أن تشكل أساساً لمعايير مشتركة، إذ نشرت في مايو الماضي دليلاً مقترحاً لإجراء اختبارات مستقلة بواسطة جهات خارجية على النماذج المتطورة.
وقالت الشركة إن ارتفاع استقلالية الأنظمة الذكية وقدرتها على استخدام الأدوات وتنفيذ سلاسل طويلة من المهام يستدعي تطوير أساليب تقييم تتجاوز الاختبارات التقليدية المستخدمة مع روبوتات الدردشة.
وفي يونيو، أعلنت OpenAI مشاركتها في تأسيس مؤسسة "Appia"، التي تستهدف تطوير مواصفات مفتوحة وقابلة للتطبيق لتحويل المعايير الدولية المتعلقة بالذكاء الاصطناعي إلى اختبارات عملية، إلى جانب مشاركتها في عدد من الهيئات الدولية المعنية بمعايير الذكاء الاصطناعي والأمن، من بينها ISO وNIST وتحالف Coalition for Secure AI.
مقترح جوجل
وتستند إحدى الركائز الرئيسية للمباحثات الحالية إلى مقترح قدمته جوجل بشأن إنشاء هيئة مستقلة لمعايير سلامة الذكاء الاصطناعي.
ونشرت الشركة في يونيو الماضي ورقة بحثية حول رؤيتها لتنظيم القطاع، اقترحت فيها تأسيس مؤسسة مستقلة مدعومة من شركات الصناعة وتخضع لإشراف اتحادي أمريكي، تتولى وضع معايير سلامة للنماذج الأكثر تطوراً والتحقق من عمليات التدقيق المستقلة التي تخضع لها.
وقدم ديميس هاسابيس، الرئيس التنفيذي لـGoogle DeepMind، تصوراً أكثر تفصيلاً للمقترح في يوليو، داعياً إلى إنشاء هيئة شبيهة بهيئة تنظيم القطاع المالي الأمريكية FINRA.
وبموجب التصور، يمكن لمختبرات الذكاء الاصطناعي في المرحلة الأولى تقديم نماذجها المتطورة إلى الهيئة بصورة طوعية قبل طرحها بنحو 30 يوماً، لإخضاعها لاختبارات تتعلق بالقدرات الخطرة المحتملة في مجالات، من بينها الأمن السيبراني والبيولوجيا، إلى جانب تقييم قدرتها على ممارسة الخداع أو تجاوز القيود المفروضة عليها.
واقترح هاسابيس أن تتحول الاختبارات مستقبلاً إلى شرط لإطلاق النماذج المتطورة في السوق الأمريكية، بعد التحقق من فاعلية منظومة التقييم، على أن يتم تمويل الهيئة بشكل رئيسي من قطاع التكنولوجيا، وأن تضم خبراء مستقلين وممثلين عن الحكومة ومجتمع المصادر المفتوحة.
ولا يمثل التعاون بين الشركات المنافسة في مجال السلامة سابقة جديدة، إذ أجرت OpenAI وأنثروبيك خلال عام 2025 تجربة مشتركة، طبقت خلالها كل شركة مجموعة من اختبارات السلامة الخاصة بها على نماذج الشركة الأخرى.
وقالت OpenAI آنذاك إن التجربة تهدف إلى كشف نقاط ضعف قد لا تظهر خلال الاختبارات الداخلية، فضلاً عن اختبار إمكانية تعاون المختبرات المتنافسة في تقييم سلامة ومواءمة أنظمة الذكاء الاصطناعي.
وتزايد الاهتمام بهذه القضية خلال الأشهر الماضية مع ارتفاع قدرات النماذج على تنفيذ المهام بصورة مستقلة، ولا سيما في مجال الأمن السيبراني.
وأعلنت أنثروبيك مؤخراً خططاً لإتاحة وصول جهات تقييم مستقلة إلى بعض عملياتها وأنظمتها وبياناتها الداخلية، بهدف التحقق من ممارسات السلامة ورصد الحوادث.
وفي المقابل، قالت OpenAI إن حوادث وقعت خلال اختبارات أمنية خارجية أظهرت الحاجة إلى وضع معايير جديدة لتصميم بيئات اختبار النماذج المتطورة وتأمينها.
أضف تعليقاً