كشفت شركة أنثروبيك المتخصصة في تطوير تقنيات الذكاء الاصطناعي، أن نماذجها التابعة لسلسلة "كلود" تمكنت من اختراق أنظمة ثلاث مؤسسات خارجية خلال اختبارات أمنية، في واقعة أثارت مخاوف متزايدة بشأن قدرات هذه التقنيات.
وأوضحت الشركة أنها راجعت أكثر من 141 ألف اختبار في مجال الأمن السيبراني، رصدت خلالها ثلاث حالات نجحت فيها نماذج "كلود" في الاتصال بالإنترنت والوصول إلى بنى تحتية فعلية، مشيرة إلى أن أقدم هذه الحوادث يعود إلى شهر نيسان الماضي.
وبيّنت أن هذه الاختبارات كانت تُجرى ضمن بيئات محاكاة مخصصة لاكتشاف الثغرات، إلا أن خللاً في إعدادات النظام سمح للنماذج بالتفاعل مع أنظمة حقيقية، دون الكشف عن الجهات المتضررة.
وأضافت أن النماذج التي نفذت هذه العمليات تضمنت إصدارات متقدمة مثل "أوبوس 4.7" و"ميثوس 5"، إلى جانب نموذج بحثي داخلي، لافتة إلى أن هذه النماذج كانت تعمل دون بعض طبقات الحماية المعتادة في النسخ الموجهة للمستخدمين.
وأكدت الشركة أن عمليات الاختراق تمت باستخدام أساليب بسيطة نسبياً، من بينها استغلال كلمات مرور ضعيفة، مشيرة إلى أنها عززت منذ ذلك الحين ضوابط الاختبارات الأمنية، ودعت إلى اعتماد معايير حماية صارمة حتى في بيئات التقييم التجريبية.
وتأتي هذه التطورات بعد أيام من إعلان شركة أوبن إيه آي عن حادثة مشابهة، ما أعاد النقاش حول ضرورة تشديد الرقابة على تطوير واختبار أنظمة الذكاء الاصطناعي المتقدمة.
أضف تعليقاً