قد يبدأ الأمر بسؤال يطرحه المستخدم على روبوت دردشة بشأن موعد رحلة أو مشروع مهني، لكنه قد يفاجأ عند العودة إلى الخدمة بعد مدة باستدعاء تفاصيل من محادثات سابقة، أو تذكّر تفضيلاته وأسلوبه في الحديث، بل واستنتاجات لم يصرّح بها مباشرة.
وتبدو هذه الخاصية، التي تهدف إلى جعل التفاعل أكثر سلاسة وتخصيصاً، ميزة عملية في البداية، لكنها تفتح في المقابل تساؤلات بشأن طبيعة المعلومات التي تحتفظ بها أنظمة الذكاء الاصطناعي، وكيف تختار ما تتذكره، ومن يتحكم في تلك البيانات، وما إذا كان المستخدم قادراً على معرفة الصورة التي تتشكل عنه بمرور الوقت.
وتختلف الذاكرة طويلة الأمد عن سياق المحادثة وسجلها المحفوظ؛ فسياق المحادثة يشمل المعلومات المتاحة لروبوت الدردشة أثناء صياغة الرد الحالي، بينما يتيح سجل المحادثات الرجوع إلى الحوارات السابقة وفق إعدادات الخدمة وسياساتها. أما الذاكرة طويلة الأمد، فتتعلق بالاحتفاظ بمعلومات مختارة، مثل التفضيلات والأهداف والمشاريع والتفاصيل التي قد تفيد في التفاعلات المقبلة.
وتوضح شركة "أوبن إيه آي" أن "شات جي بي تي" يمكنه الاستفادة من المعلومات ذات الصلة الواردة في المحادثات ومصادر أخرى، لكنه لا يحتفظ بالضرورة بكل تفاصيل كل حوار، بل يستخدم المعلومات التي يراها مفيدة لتخصيص الإجابات، وقد تتغير هذه المعلومات مع تطور السياق الذي يعرفه عن المستخدم.
وهذا يعني أن الصورة التي تتشكل عن المستخدم لا تمثل بالضرورة نسخة كاملة من سجل محادثاته، وإنما قد تكون مجموعة من المعلومات المختارة أو المختصرة أو المستخلصة، التي يمكن استدعاؤها لاحقاً عندما يرى النظام أنها ذات صلة بالسؤال المطروح.
ولا تقتصر هذه العملية على حفظ المعلومات التي يطلب المستخدم تذكرها صراحة، إذ قد تسهم أنماط الحديث المتكررة في تكوين تصورات عن اهتماماته وطبيعة عمله والمشكلات التي تشغله، وهو ما يثير تساؤلات بشأن الحدود الفاصلة بين المعلومات التي أفصح عنها بنفسه والاستنتاجات التي ينتجها النظام من تحليل محادثاته.
وفي هذا السياق، حللت دراسة بحثية بعنوان "الصورة الذاتية الخوارزمية: تفكيك الذاكرة في شات جي بي تي" (The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT) بيانات 80 مشاركاً، ورصدت 2050 مدخلاً للذاكرة لدى 65 منهم.
ووجد الباحثون أن 96% من هذه المدخلات أنشأها روبوت الدردشة من تلقاء نفسه، مقابل 4% فقط جاءت استجابة لأوامر مباشرة بالتذكر، وهي نتيجة تشير إلى أن الذاكرة قد تتشكل بدرجة كبيرة من خلال اختيار النظام للمعلومات التي يرى أنها تستحق الاحتفاظ بها، وليس فقط بناء على طلبات المستخدم.
وتكمن أهمية هذه النتيجة في أن المعلومات المخزنة قد تشمل تفاصيل صريحة شاركها المستخدم، إلى جانب خلاصات واستنتاجات صاغها النظام من تكرار أنماط معينة في المحادثات، بما يتيح تكوين صورة رقمية عنه قد تؤثر في طبيعة الإجابات المستقبلية.
وتتجاوز المخاوف مجرد الاحتفاظ بالمعلومات، إذ يمكن للنماذج اللغوية الكبيرة استنتاج سمات شخصية من قرائن نصية لا تتضمن بالضرورة البيانات المستهدفة بصورة مباشرة.
وتناولت دراسة بعنوان "تجاوز الحفظ: انتهاك الخصوصية عبر الاستنتاج باستخدام النماذج اللغوية الكبيرة" (Beyond Memorization: Violating Privacy via Inference with Large Language Models) قدرة هذه النماذج على استخلاص معلومات عن المستخدمين من النصوص التي يكتبونها.
واستخدم الباحثون مجموعة من النصوص المستمدة من ملفات مستخدمين حقيقيين على منصة "ريديت" (Reddit)، ووجدوا أن بعض روبوتات الدردشة تمكنت من استنتاج سمات شخصية بدقة وصلت إلى 85% في أفضل تنبؤ واحد، و95% عند احتساب أفضل ثلاثة تنبؤات.
وتسلط هذه النتائج الضوء على جانب من تحديات الخصوصية في أنظمة الذكاء الاصطناعي، يتمثل في إمكانية الوصول إلى استنتاجات بشأن المستخدم من خلال تجميع قرائن متفرقة، حتى عندما لا يقدم معلوماته الشخصية بصورة مباشرة.
ومن الناحية التقنية، تمر عملية بناء الذاكرة بعدة مراحل قد تشمل استخراج معلومة من محادثة، واختصارها، ومقارنتها بالمعلومات المخزنة سابقاً، ثم الاحتفاظ بها واسترجاعها عند الحاجة. وتختلف آليات تنفيذ هذه المراحل بحسب تصميم النظام وسياساته، لكنها تشترك في جعل المعلومات السابقة قابلة للاستخدام في تفاعلات لاحقة.
وتثير هذه الآلية تحديات تتعلق بدقة المعلومات وحدود استخدامها؛ فقد يؤدي الاحتفاظ بتفصيل قديم إلى تقديم إجابة تستند إلى ظروف لم تعد قائمة، كما قد يتسبب استدعاء معلومات من مشروع معين في سياق مختلف في الخلط بين المهام أو المجالات التي يرغب المستخدم في إبقائها منفصلة.
وتبرز مسألة الحذف بوصفها إحدى أكثر النقاط حساسية في إدارة الذاكرة، إذ إن حذف محادثة لا يعني بالضرورة حذف المعلومات التي استُخلصت منها وخُزنت بصورة مستقلة.
وتوضح "أوبن إيه آي" أن الذكريات المحفوظة منفصلة عن سجل المحادثات، ولذلك فإن حذف المحادثة وحدها لا يضمن حذف الذكرى المرتبطة بها. كما أن ملخص الذاكرة يقدم صورة عامة عن المعلومات المستخدمة في التخصيص، لكنه لا يعرض بالضرورة كل التفاصيل أو المصادر التي قد تسهم في تشكيل الإجابات.
وتشير الوثائق المتعلقة بالخدمة إلى أن تطبيق تغييرات الذاكرة وعمليات الحذف قد يستغرق وقتاً، وأن بعض سجلات الذكريات المحذوفة قد تُحتفظ بها لمدة تصل إلى 30 يوماً لأغراض السلامة وتصحيح الأخطاء.
ولا تقف المخاطر عند المعلومات التي يخزنها النظام بنفسه، بل تمتد إلى احتمال التأثير في محتويات ذاكرته عبر أطراف خارجية، فيما يعرف تقنياً باسم "تسميم الذاكرة" (Memory Poisoning).
وتعرّف شركة "مايكروسوفت" هذه الظاهرة بأنها إدخال معلومات أو تعليمات غير مصرح بها إلى الذاكرة طويلة الأمد لروبوت الدردشة، بما قد يؤثر في سلوكه وإجاباته خلال التفاعلات اللاحقة.
وقد يحدث ذلك عندما يعالج النظام مستنداً أو صفحة إلكترونية تحتوي على تعليمات خبيثة أو معلومات مضللة، فيتعامل معها على نحو يخلط بين المحتوى المطلوب تحليله والأوامر التي ينبغي اتباعها، ما قد يؤدي إلى الاحتفاظ بمعلومة أو توجيه لم يصدر عن المستخدم.
وتكشف هذه المخاطر أن الذاكرة في أنظمة الذكاء الاصطناعي لم تعد مجرد وسيلة لتحسين تجربة المحادثة، بل أصبحت طبقة من إدارة البيانات تتداخل فيها عمليات التخزين والاستنتاج والاسترجاع والتحديث، وهو ما يجعل حمايتها مرتبطة أيضاً بقدرة الأنظمة على التمييز بين المعلومات الموثوقة والتعليمات الخارجية، ومنع استخدام البيانات خارج السياق الذي جُمعت من أجله.
ومع توسع استخدام روبوتات الدردشة في الحياة الشخصية والمهنية، يتزايد التحدي أمام الشركات المطورة في تحقيق التوازن بين التخصيص وحماية الخصوصية، فيما تظل معرفة المستخدم بطبيعة المعلومات التي تُحفظ عنه، والتحكم في تحديثها وحذفها، من العناصر الأساسية لتحديد حدود الثقة بين الإنسان والذكاء الاصطناعي.
* وول ستريت جورنال
أضف تعليقاً