ماذا يعرف الذكاء الاصطناعي عنك؟ الذاكرة والاستنتاج والخصوصية

أصبح الذكاء الاصطناعي ملاذاً لملايين المستخدمين سواءً في حياتهم المهنية أو الشخصية. فمن المؤكد أنك جربت السؤال عن شيء خاص بك. لنقل مثلاً عن أعراض الاكتئاب وحلوله، ستجد أنه أجابك بالفعل عن ذلك، لكنه اقترح عليك حلاً للمشكلة التي سببت الاكتئاب، على الرغم من أنك لم تحدثه عنها. الحقيقة تكمن بأن الذكاء الاصطناعي مبني على الخوارزميات التي تربط كل ما تبحث عنه، وكل ما تقوله للبرنامج ببعضه. حتى لو كنت تحدثت عن مشكلة خاصة بك في وقت سابق، يستطيع البرنامج ربطها بأعراض الاكتئاب التي سألت عنها.

ما يحدث يرتبط بما يسمى “الخصوصية الاستدلالية”، أي أن النظام لا يكتفي بما تقوله له بشكل مباشر، وإنما يمكنه، عندما تتوافر لديه ذاكرة وسياق كافيان، أن يجمع إشارات صغيرة تركتها في أوقات مختلفة ويصل منها إلى استنتاج عنك.

سؤال قديم عن الأمراض النفسية، بحث عن دواء معين، طلب اقتراحات لمشاكل عامة، أو الاهتمام بعلاج معين مشهور. كل واحدة من هذه المعلومات قد تبدو عادية بمفردها، لكن جمعها معاً يمكن أن يعطي الخوارزمية صورة أكبر بكثير. وهنا تبدأ الحكاية الحقيقية: ماذا يحدث عندما لا يكتفي الذكاء الاصطناعي بتذكر ما قلته، بل يبدأ في تكوين فكرة عنك؟

لم يعد المساعد ينسى كل شيء بعد انتهاء المحادثة

تخوفنا كثيراً في السنوات السابقة من كمية المعلومات التي تجمعها شركات التكنولوجيا عن المستخدمين. وتناقشنا حول فكرة الخصوصية الرقمية. حتى بدأنا نسأل: ماذا تعرف الشركة عني؟ ماذا تخزن؟ وأين تذهب بياناتي؟

لكن اليوم تغير السؤال قليلاً. فمع تطور مساعدات الذكاء الاصطناعي، أصبح هناك اهتمام زائد بقدرتها على تذكر المستخدم لفترات أطول. وقد تكون الفكرة مريحة في البداية، فبدلاً من أن تعيد شرح عملك أو اهتماماتك أو تفضيلاتك في كل مرة، يستطيع المساعد تذكر السياق والعودة إليه عندما تحتاجه.

وهذا هو الاتجاه الذي تعمل عليه شركات مثل Google وOpenAI وAnthropic. فقد بدأت هذه الشركات بتطوير أدوات تجعل المساعد قادراً بشكل أكبر على تذكر المعلومات المتعلقة بالمحادثات السابقة. كما أعلنت غوغل عن مفهوم “Personal Intelligence”، الذي يسمح “لجيميناي” بالاستفادة من سياقات موجودة في خدمات مثل Gmail وصور غوغل وسجل البحث ويوتيوب، وذلك بعد موافقة المستخدم لتقديم معلومات مخصصة أكثر.

أما أوبن إيه آي، فقد وسعت قدرات الذاكرة في “شات جي بي تي”، بينما تعمل أنثروبيك على تنظيم ذاكرة “كلود” بحيث يمكن استخدامها في المشاريع المختلفة.

كل ذلك يجعل المساعد مفيداً أكثر، غير أن هناك جانباً آخر لا يظهر بسهولة. فكلما زادت المعلومات التي يتذكرها النظام، أصبح قادراً على الربط بين تفاصيل متفرقة، وربما الوصول إلى استنتاجات لم تقلها له بنفسك.

معلومة صغيرة قد تكشف شيئاً أكبر عنك

لفهم الموضوع بشكل أفضل، دعنا نفترض أنك سألت المساعد عن دواء معين. وبعد عدة أيام سألته عن أعراض مرتبطة بحالة صحية ما، ثم طلبت منه اقتراح حلول تناسب الأشخاص الذين يعانون من هذه الحالة. في هذه الحالة لم تقل للمساعد: أنا مصاب بهذا المرض، لكن أعطيته مؤشرات ودلائل ومعلومات استطاع ربطها ووضعها في سياق واحد، وبالتالي استنتج أنك مصاب بالمرض.

وهذه هي النقطة التي تجعل “الخصوصية الاستدلالية” مختلفة عن الخصوصية التقليدية. فالمعلومة التي قدمتها قد لا تكون حساسة أصلاً، لكن النتيجة التي يمكن الوصول لها من مجموعة معلومات عادية قد تكون حساسة جداً.

وتحذر الباحثة في أخلاقيات وتقنيات الذكاء الاصطناعي ألميرا زينوتدينوفا من أن الأنظمة قد تستنتج حالات أو ميولاً حساسة لم يعترف بها المستخدم. والمشكلة أن هذه الاستنتاجات ربما تكون خاطئة، لكنها قد تظل مؤثرة إذا تعامل معها النظام أو جهة أخرى على أنها معلومات صحيحة.

ولا يتعلق الأمر بالصحة فقط. فمع الوقت يمكن للأنظمة أن تحاول تكوين صورة عن عادات الإنفاق، والاهتمامات، والضغوط الشخصية، وربما بعض التوجهات والميول. وهنا يصبح السؤال الذي يدور في بال الكثير معقداً أكثر: إذا كانت الخوارزمية قد وصلت إلى معلومة عنك من خلال التحليل والاستنتاج، فهل تعتبر هذه المعلومة ملكاً لك؟ وهل يحق لك معرفة أنها موجودة أصلاً؟

عندما تتحول المعرفة إلى قدرة على التأثير

لا تكمن المشكلة في معرفة الذكاء الاصطناعي معلومات خاصة عنك، بل تبدأ المشكلة عندما يستخدمها للتأثير عليك. فإذا عرف الأشياء التي تقلقك، والمنتجات التي تشتريها، والعادات التي تقوم بها، فمن الممكن أن يقدم لك حلولاً وتوصيات دقيقة أكثر.

وهذا الشيء قد يكون مفيداً لك، غير أن الإفادة قد تتحول إلى سلبية في حال تم استخدام هذه الخوارزميات في المستقبل في مجالات مثل التوظيف أو التأمين أو الخدمات المالية.

وهنا قد تكون الصورة التي بناها النظام عنك غير صحيحة من الأساس. وهنا تظهر مخاوف تتعلق بما يعرف بالخصوصية الذهنية والهوية الشخصية. فهناك فرق بين أن تعرف الشركة أنك اشتريت منتجاً معيناً، وبين أن تبني نظرية عن شخصيتك تقول إنك قابل لاتخاذ قرار معين عندما تكون تحت ضغط.

لذلك ترى الباحثة في الهندسة إليانور واتسون أن قوانين الخصوصية الحالية أمامها تحدياً جديداً. فهذه القوانين تم تصميمها في الأساس لحماية البيانات باعتبارها سجلات يمكن جمعها أو تخزينها أو حذفها، بينما أصبح الذكاء الاصطناعي قادراً على بناء نموذج متغير باستمرار عن شخصية الإنسان وهويته.

السعودية تواجه المخاطر بإطار لإدارة الذكاء الاصطناعي

قد تعتقد أن هذه المخاوف متعلقة بالأفراد فقط، لكن الحقيقة إن المؤسسات الحكومية وغير الحكومية بدأت تتخوف من خوارزميات الذكاء الاصطناعي. حيث أظهرت دراسة حديثة لشركة كاسبرسكي للأمن السيبراني أن 82% من المؤسسات حول العالم و80% من المؤسسات في السعودية تشعر بالقلق من المخاطر التي قد يسببها الذكاء الاصطناعي لأعمالها.

وفي السعودية، تعرضت 96% من المؤسسات لحوادث سيبرانية خلال العام الماضي، بينما قالت 16% منها إنها واجهت تهديدات مرتبطة تحديداً بثغرات أمنية في تقنيات الذكاء الاصطناعي.

ومع زيادة الاعتماد على الذكاء الاصطناعي، قدمت الهيئة السعودية للبيانات والذكاء الاصطناعي “سدايا” الإطار الوطني لإدارة مخاطر الذكاء الاصطناعي، حتى يكون مرجعاً يساعد الحكومة والشركات الخاصة في التعامل مع الذكاء الاصطناعي، والتقليل من المخاطر.

ويعتمد الإطار على دورة متكاملة تبدأ بتحديد السياق ونطاق الاستخدام، ثم تحديد المخاطر وتقييمها ومعالجتها، حتى الوصول إلى المتابعة والمراجعة المستمرة. كما يستند إلى سبعة مبادئ، من بينها النزاهة والإنصاف، والخصوصية والأمن، والإنسانية، والموثوقية والسلامة، والشفافية وقابلية التفسير، والمساءلة والمسؤولية، والمنافع الاجتماعية والبيئية.

في النهاية، لا يمكننا تجاهل فكرة أن الذكاء الاصطناعي ومساعديه أصبحوا جزءاً من حياتنا، لذلك من الأفضل عدم معارضته، بل استخدامه بطريقة ذكية. وحتى في المستقبل، يوجد تحدٍ حقيقي أمام المبرمجين والشركات حول كيفية وضع حد لمخاطر المساعدات.

اقرأ أيضاً: هل تستطيع استبدال معالجك النفسي بالشات جي بي تي؟