يتجه استخدام وكلاء الذكاء الاصطناعي داخل المؤسسات نحو مستويات أعلى من الاستقلالية، مع قدرتهم على تنفيذ سلسلة من المهام واتخاذ الإجراءات بسرعة تفوق قدرة الإنسان على متابعة كل خطوة. إلا أن هذا التطور يطرح تحدياً رئيسياً يتمثل في تحديد اللحظة التي يمكن فيها السماح للوكيل بمواصلة عمله، ومتى يصبح التدخل البشري ضرورياً.
وقال جيمس هودج، كبير استراتيجيي البيانات والمدير التقني الميداني في شركة سبلانك التابعة لسيسكو، إن التعامل مع هذه الأنظمة يجب أن يبدأ من إدارة المخاطر، موضحاً أن مستوى الرقابة يختلف بحسب طبيعة البيانات والقطاع وحساسية النظام. فالمؤسسات التي تتعامل مع بيانات شديدة الحساسية تحتاج إلى إيقاف النظام عند مؤشرات خطر منخفضة، في حين يمكن لخدمات أقل حساسية تحمل هامش أكبر من المخاطر.
وأشار هودج إلى أن اكتشاف الخطأ لا يعني بالضرورة وقوع هجوم أمني، إذ قد يكون الانحراف ناتجاً عن تعليمات غير دقيقة أو خلل برمجي أو محاولة خارجية للتلاعب بالوكيل. لذلك تحتاج المؤسسات إلى مراقبة سلوك الوكيل ومقارنته بالمسار المتوقع، مع وجود طبقات للبيانات والسياق والسياسات تساعد على تحديد طبيعة المشكلة ومصدرها.
وأكد أن قابلية تفسير قرارات الوكيل تمثل شرطاً أساسياً لمنحه صلاحيات أوسع، إذ يجب أن تتمكن المؤسسة من معرفة ما الذي ينفذه الوكيل والأنظمة التي يتفاعل معها والأسباب التي دفعته إلى اتخاذ مسار معين. كما تتيح أدوات المراقبة تسجيل المدخلات والخطوات والمخرجات، بما يساعد على إعادة بناء مسار القرار والتحقيق في الأخطاء.
ومع ارتفاع سرعة الوكلاء، يرى هودج أن الاعتماد على نماذج لغوية كبيرة لمراقبة كل خطوة قد يكون مكلفاً وبطيئاً، لذلك يمكن الاستعانة بنماذج أصغر وقواعد تقليدية وتقنيات إحصائية لرصد الانحرافات بسرعة أكبر.
ويؤكد هذا التوجه أن الاستقلالية ليست مستوى واحداً، بل يمكن ضبطها وفق درجة المخاطر، بدءاً من تقديم التوصيات، مروراً بالتنفيذ بعد موافقة بشرية، وصولاً إلى التنفيذ الأكثر استقلالية. ورغم التطور المتسارع في هذا المجال، يرى هودج أن التدخل البشري لا يزال ضرورياً، خصوصاً في القطاعات الحساسة.
وفي السعودية، أشار هودج إلى أن وضوح الأطر التنظيمية وسيادة البيانات يساعدان المؤسسات على التوسع في استخدام الذكاء الاصطناعي، مع تزايد الحاجة إلى تشغيل بعض الأنظمة داخل مراكز البيانات المحلية، خصوصاً في القطاعات التي تتعامل مع معلومات حساسة.
وخلص إلى أن التحدي الأكبر أمام المؤسسات لا يتمثل فقط في امتلاك نماذج قوية أو قدرات حوسبة متقدمة، بل في امتلاك رؤية شاملة للبيانات والأنظمة والوكلاء، وفهم مستوى المخاطر قبل الانتقال إلى تشغيل هذه التقنيات على نطاق واسع.
س ع
أضف تعليقاً