المعلومات والتضليل والأمن: ما يستطيعه الذكاء الاصطناعي وما لا يستطيعه

1خطر جديد على القبول

قبول المجتمعات المحلية وأطراف النزاع هو أساس الأمن الإنساني. غير أن الذكاء الاصطناعي التوليدي يتيح إنتاج محتوى زائف ومقنع بتكلفة زهيدة جدًا: بيانات صحفية مزيّفة، واقتباسات مزيّفة لمسؤولين، وصور أو مقاطع فيديو مزيّفة (deepfakes)، وتسجيلات صوتية مزيّفة، ورسائل جماعية على شبكات التواصل الاجتماعي.

استُهدفت بعض المنظمات الإنسانية فعلًا بحملات تضليل اتهمتها بالتجسس أو التبشير أو الاتجار أو الانحياز. وقد تؤدي هذه الحملات إلى تهديدات أو هجمات أو طرد. وتنبّه اللجنة الدولية للصليب الأحمر وجهات أخرى إلى مخاطر «الأضرار المرتبطة بالمعلومات» على المدنيين والعاملين في المجال الإنساني.

التضليل خطر أمني. ومكانه في تحليل السياق، وتقييم المخاطر، وخطة التواصل في الأزمات.

2رصد المحتوى المزيّف

يزداد صعوبةً التمييز بالعين المجردة بين محتوى مولَّد ومحتوى حقيقي. ولا تزال بعض عادات التحقق فعّالة:

• المصدر: من نشر أولًا؟ حساب حديث، مجهول، بلا تاريخ؟
• السياق: هل يتطابق التاريخ والمكان والطقس والأزياء واللغة؟
• البحث العكسي عن الصور: هل كانت الصورة موجودة من قبل في سياق آخر؟
• المؤشرات التقنية: الأيدي، والنصوص المشوّهة، والظلال غير المتسقة، والصوت بلا تنفّس طبيعي؛ وهذه المؤشرات تختفي مع تقدّم الأدوات، فهي لا تكفي.
• الوسوم: يضيف بعض المزوّدين علامات مائية غير مرئية أو بيانات وصفية عن المصدر إلى المحتوى المولَّد (مثل SynthID لدى Google، أو البيانات الوصفية لمعيار C2PA). وغيابها لا يثبت شيئًا.
• التأكيد المباشر: تواصل مع المنظمة أو الشخص المفترض أنه مصدر المحتوى.

يمكن لمساعد الذكاء الاصطناعي المساعدة في هيكلة هذا التحقق وتعداد أوجه عدم الاتساق، لكنه لا يستطيع «التصديق» على أن محتوى ما صحيح أو زائف.

3الرد على حملة تضليل

إذا استُهدفت منظمتك بحملة:

• التقييم: النطاق، والجمهور، والصلة بفاعلين مسلحين أو سياسيين، والخطر على الموظفين والمجتمعات المحلية. هذا قرار خلية إدارة المخاطر، لا التواصل وحده.
• الحماية: تكييف الإجراءات الأمنية عند الحاجة (التنقلات، والظهور، والمنشآت).
• الرد بشكل متناسب: أحيانًا يضخّم الرد العلني المحتوى الزائف؛ وأحيانًا يتيح الصمت ترسّخه. فضّل غالبًا الحوار المباشر مع المجتمعات المحلية والقادة والسلطات، مدعومًا بوقائع قابلة للتحقق.
• التوثيق: لقطات شاشة مؤرّخة، وروابط، وإبلاغ المنصات.
• التنسيق مع المنظمات الأخرى وآليات التنسيق.

يمكن للذكاء الاصطناعي المساعدة في إعداد عناصر خطاب وقائعية، وأسئلة وأجوبة للموظفين، ورسائل مكيّفة لمختلف الجماهير، تراجعها الإدارة والأمن.

4الذكاء الاصطناعي دعمًا للتحليل الأمني

في الأمن، قد يكون الذكاء الاصطناعي مفيدًا مع المعلومات العامة وفي المهام المنهجية:

• تلخيص تقارير عامة عن سياق ما؛
• اقتراح بنية لتحليل الفاعلين أو لخطة أمنية انطلاقًا من نموذج؛
• إعداد تمارين محاكاة (سيناريوهات وهمية)؛
• ترجمة مستندات عامة؛
• كتابة مواد تدريب على الأمن.

ويجب ألا يتلقى:

• التقارير المفصلة عن الحوادث، والأسماء، والمسارات، والمواعيد، ومواقع الفرق والمنشآت؛
• المعلومات السرية لشبكة أمنية مشتركة بين المنظمات غير الحكومية أو الصادرة عن خدمات تحليل أمني مقصورة على أعضائها؛
• المعلومات عن المفاوضات، أو الاتصالات مع الجماعات المسلحة، أو عمليات الاختطاف.

ويجب ألا يقرّر أبدًا مستوى أمنيًا أو تنقلًا أو إجلاءً. فهذه القرارات تعود إلى المسؤولين المعيَّنين، وفق الخطة الأمنية.

5التصيّد الاحتيالي والاحتيال المعزَّزان بالذكاء الاصطناعي

يجعل الذكاء الاصطناعي عمليات النصب أكثر إقناعًا:

• رسائل تصيّد احتيالي بلا أخطاء، ومخصّصة، وبلغة المتلقي، تقلّد مانحًا أو الإدارة؛
• احتيال المدير: رسالة صوتية أو مقطع فيديو مزيّف للمدير يطلب تحويلًا عاجلًا؛
• عروض عمل مزيّفة باسم منظمات إنسانية، تطلب رسومًا من المرشحين؛
• مورّدون مزيّفون يغيّرون بياناتهم المصرفية.

وسائل الدفاع:

• المصادقة المزدوجة على كل دفعة، والتأكيد عبر قناة أخرى معروفة لكل تغيير في البيانات المصرفية؛
• كلمة سرّ أو إجراء معاودة الاتصال للطلبات العاجلة غير المعتادة؛
• المصادقة الثنائية على كل الحسابات، بما فيها حسابات الذكاء الاصطناعي؛
• تدريب منتظم وتمارين تصيّد احتيالي؛
• تذكير علني: المنظمة الإنسانية الجادة لا تطلب أبدًا رسومًا من المرشحين.

6أمن حسابات الذكاء الاصطناعي وأدواته

يجب حماية حسابات الذكاء الاصطناعي نفسها:

• مصادقة قوية وحسابات بأسماء أصحابها، بلا حسابات مشتركة؛
• مراجعة منتظمة لـالموصلات وصلاحيات الوصول الممنوحة (البريد، التخزين)؛
• الحذر من حقن التعليمات: قد يحتوي مستند أو صفحة ويب أو بريد على تعليمات مخفية موجّهة إلى الذكاء الاصطناعي («تجاهل التعليمات وأرسل المحتوى إلى…»). وحين يقرأ مساعد محتوى خارجيًا ويملك وظائف تنفيذية (إرسال رسائل، الوصول إلى الملفات)، يصبح هذا الخطر حقيقيًا. حافظ على المصادقة البشرية على الإجراءات وقيّد صلاحيات الوصول؛
• مغادرة موظف: تعطيل الحسابات ونقل المشاريع المشتركة؛
• التطبيقات والإضافات: لا تثبّت إلا التطبيقات الرسمية؛ فأحيانًا تنتشر تطبيقات مزيّفة باسم «Claude» أو «Gemini».