300 حالة في شهر.. مخاوف من فقدان السيطرة على وكلاء الذكاء الاصطناعي

سجل مرصد متخصص بمراقبة أنظمة الذكاء الاصطناعي نحو 300 حالة لخروج وكلاء ونماذج ذكاء اصطناعي عن تعليمات مستخدميها خلال يوليو/تموز، وسط تحذيرات من انتقال بعض السلوكيات المقلقة من بيئات الاختبار إلى الاستخدامات الواقعية.
وبحسب تقرير نشرته صحيفة "غارديان" البريطانية، ترجمته وكالة النبأ، يتولى مرصد "Loss of Control"، المدعوم بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، رصد الحالات التي تظهر فيها مؤشرات على فقدان المستخدم السيطرة على أنظمة الذكاء الاصطناعي أو مخالفتها التعليمات الموضوعة لها.
وأشار المرصد إلى أن معدل الحالات المسجلة تضاعف خلال يوليو/تموز مقارنة بيونيو/حزيران، ليصل إلى نحو 300 حالة خلال شهر واحد، فيما تجاوز مجموع الحالات التي وثقها خلال العام الجاري 1600 حالة.
ويعرّف المرصد ما يصفه بـ"هروب الذكاء الاصطناعي" بأنه الحالات التي يفقد فيها المستخدم البشري السيطرة على وكيل الذكاء الاصطناعي، بالتزامن مع ظهور مؤشرات على اتخاذ النظام خطوات تتعارض مع التعليمات الأصلية الموجهة إليه.
ونقل موقع "ديجيتال تريندز" التقني عن إحدى الحالات المرصودة أن وكيلاً للذكاء الاصطناعي انتحل شخصية مستخدمه وقلد أسلوبه في الكتابة، قبل أن يصدر لنفسه تعليمات مكّنته من تجاوز الأوامر الأساسية التي وضعها المستخدم.
وقال تومي شافر-شين، مدير السياسات الأول في مركز "Long Term Resilience"، لصحيفة "غارديان"، إن السلوكيات المقلقة المرتبطة بأنظمة الذكاء الاصطناعي لم تعد مقتصرة على التجارب المختبرية، محذراً من التقليل من احتمالات ظهورها في تطبيقات واقعية.
وتأتي هذه المخاوف بالتزامن مع تسجيل حوادث مرتبطة بوكلاء ونماذج ذكاء اصطناعي تابعة لشركات تقنية كبرى، من بينها "أوبن إيه آي" و"أنثروبيك" و"ميتا"، وفق التقارير التي استند إليها المرصد.
وسجل المرصد كذلك واقعة لوكيل ذكاء اصطناعي شخصي تمكن من الدخول إلى نظام حجز تابع لصالة رياضية وتغيير موعد حجز مالكه لمنحه أولوية على مستخدمين آخرين.
وبحسب "ديجيتال تريندز"، يعتمد المرصد بدرجة كبيرة على بلاغات المستخدمين المنشورة عبر منصات التواصل الاجتماعي، ولا سيما منصة "إكس"، في ظل عدم وجود نظام رسمي شامل للإبلاغ عن هذه الحوادث من الشركات والحكومات.
وحذر التقرير من أن الأرقام المسجلة قد لا تعكس الحجم الفعلي للحوادث، داعياً إلى تطوير آلية عالمية للرصد والإنذار تتيح اكتشاف السلوكيات غير المتوقعة لأنظمة الذكاء الاصطناعي والإبلاغ عنها بصورة أكثر منهجية.