تجري شركة مونشوت الصينية المتخصصة في تطوير الذكاء الاصطناعي مراجعة داخلية بعد تمكن باحثين في أمن الذكاء الاصطناعي من تجاوز الضوابط الأمنية المفروضة على اثنين من نماذجها الشهيرة كيمي، ودفعهما إلى الاستجابة لطلبات تتعلق بموضوعات خطرة، بينها تطوير أسلحة بيولوجية وعمليات اغتيال.
وقالت شركة مايندغارد المتخصصة في اختبار أمن أنظمة الذكاء الاصطناعي لهيئة الإذاعة البريطانية بي بي سي، إنها اكتشفت في يوليو الماضي إمكانية تجاوز القيود الأمنية في نموذجي كيمي K2.6 وكيمي K3 سوارم.
وجاء الاكتشاف خلال اختبارات تعرف باسم كسر الحماية، يستخدم فيها الباحثون سلسلة من التعليمات المعقدة لمحاولة تجاوز أنظمة الأمان التي يضعها مطورو نماذج الذكاء الاصطناعي لمنعها من التعامل مع موضوعات حساسة أو تقديم محتوى ضار.
وأكدت شركة أنها ترحب بمساهمات الجهات الخارجية في مجال اختبار أنظمتها، باعتبارها جزءاً مهماً من جهود تطوير ذكاء اصطناعي أكثر أماناً، مشيرة إلى أنها تجري مباحثات مع شركة مايندغارد بشأن النتائج التي توصلت إليها.
وقال مؤسس مايندغارد بيتر غاراغان إن نتائج الاختبارات المتعلقة بنموذجي كيمي K2.6 وكيمي K3 سوارم تثير مخاوف بشأن قدرة بعض النماذج على تجاوز أنظمة الحماية، موضحاً أن نجاح عملية كسر الحماية قد يتيح للنموذج التعامل مع موضوعات ضارة وتقديم مقترحات بشأنها.
مخاطر متزايدة
وتختلف مخاطر كسر الحماية عن سلسلة من الحوادث التي ارتبطت مؤخراً بأنظمة الذكاء الاصطناعي ذاتية التشغيل، أو ما يعرف بوكلاء الذكاء الاصطناعي، والتي طورتها شركات تقنية كبرى.
ويحذر خبراء من إمكانية استغلال الثغرات التي تسمح بتجاوز القيود الأمنية من قبل جهات خبيثة، رغم أن عمليات كسر الحماية غالباً ما تتطلب تعليمات معقدة ووقتاً وجهداً من الباحثين للوصول إلى النتائج المطلوبة.
وفي سياق متصل، أعلنت شركة أنثروبيك أنها رصدت وأحبطت محاولات لاستخدام أحد نماذجها في أنشطة خبيثة يمكن أن تسهم في تطوير أسلحة بيولوجية، ما يعكس تصاعد المخاوف بشأن إساءة استخدام تقنيات الذكاء الاصطناعي المتقدمة.
مخاوف من إساءة استخدام النماذج المفتوحة
من جانبه، قال أستاذ الأمن السيبراني في جامعة سري آلان وودوارد لبي بي سي إن نماذج الذكاء الاصطناعي مفتوحة المصدر قد تشكل مخاطر في حال وقوعها في أيدي جهات تسعى إلى إساءة استخدامها، لكنه أشار في الوقت نفسه إلى إمكانية توظيفها في مجالات دفاعية، بينها الأمن السيبراني.
وأوضح وودوارد أن نماذج الذكاء الاصطناعي مفتوحة المصدر يمكن أن تستخدم أيضاً في فهم وتحليل الهجمات الإلكترونية، مستشهداً باستخدام شركة هاغينغ فيس نموذجاً صينياً مفتوح المصدر للمساعدة في تحليل عملية اختراق تبين لاحقاً ارتباطها بجهات استخدمت أدوات طورتها شركة أوبن إيه آي.
وأشار إلى أن وضع أطر تنظيمية دولية لمواكبة التطور السريع للذكاء الاصطناعي يمثل تحدياً، معتبراً أن وتيرة التطور التقني تتجاوز سرعة الوصول إلى اتفاقات تنظيمية دولية.
ويرى خبراء أن مواجهة إساءة استخدام الذكاء الاصطناعي لا تتطلب التركيز على النماذج وحدها، بل تشمل أيضاً تحديد الجهات والأشخاص الذين يستخدمون هذه التقنيات لأغراض ضارة ومساءلتهم قانونياً.
أضف تعليقاً