الذكاء الاصطناعي والأمن السيبراني: ما الذي تغيّر للمهاجمين والمدافعين وللجميع
معظم ما يُكتب عن الذكاء الاصطناعي (AI) والأمن ينحاز إلى طرف واحد. رواية تقول إن الذكاء الاصطناعي يمنح المهاجمين قدرات خارقة، وأخرى تقول إنه سيمكّن المدافعين أخيرًا من مجاراتهم. كلتاهما صحيحة جزئيًا، ولا تخبرك أيٌّ منهما بما ينبغي أن تفعله بشكل مختلف صباح الاثنين.
يتناول هذا المقال ثلاثة تغييرات: ما يمنحه الذكاء الاصطناعي للمهاجمين، وما يمنحه للمدافعين، والجديد الذي يضيفه وبات على الطرفين الاهتمام به، أي أنظمة الذكاء الاصطناعي نفسها. ويختم بالعادات التي تنجح في مواجهة الثلاثة معًا. وككل ما في هذه المجلة، تاريخ هذا المقال: 1 نوفمبر 2026. والأدوات ستتغير أسرع من النصائح.
1. ما الذي تغيّر للمهاجمين
لم يخترع الذكاء الاصطناعي أنواعًا جديدة كثيرة من الهجمات. ما فعله هو أنه جعل الهجمات القديمة أرخص وأسرع وأكثر إقناعًا.
التصيّد فقد علاماته المكشوفة. لسنوات كانت النصيحة أن تبحث عن الأخطاء النحوية والصياغة الركيكة. أزالت النماذج اللغوية الكبيرة (LLM) هذه القرائن. صار بإمكان رسالة الاحتيال أن تكون سليمة اللغة، مخصّصة للشخص، ومكتوبة بلغته الأم، بتكلفة شبه معدومة لكل رسالة.
الأصوات والوجوه يمكن تزييفها. يكفي تسجيل قصير لشخص يتحدث لاستنساخ صوته بشكل مقنع. في حالة نالت تغطية واسعة عام 2024، حوّل موظف في شركة الهندسة Arup في هونغ كونغ نحو 25 مليون دولار أمريكي بعد مكالمة فيديو كان فيها «الزملاء»، ومنهم المدير المالي، مزيّفين بتقنية التزييف العميق (Deepfake). تنجح هذه الحيلة لأنها تستهدف الثقة لا التقنية.
الاستطلاع صار أسرع. كان جمع المعلومات العامة عن شركة وموظفيها وأنظمتها يستغرق وقتًا. أما الذكاء الاصطناعي فيلخّصها بسرعة ويحوّلها إلى ذريعة مصمّمة على مقاس الضحية.
كتابة البرمجيات الخبيثة صارت أسهل نوعًا ما، وبالأساس لمن يملكون بعض المهارة أصلًا. المساعدة البرمجية بالذكاء الاصطناعي تسرّع الأجزاء الروتينية من العمل، لكنها لم تحوّل المبتدئين حتى الآن إلى مهاجمين من النخبة.
القاسم المشترك هو الحجم. فالهجمات التي كانت تتطلب جهدًا ومهارة لكل هدف على حدة يمكن الآن شنّها على أهداف كثيرة دفعة واحدة، وبجودة كانت تتطلب ذلك الجهد سابقًا.
2. ما الذي تغيّر للمدافعين
التقنية نفسها تساعد الطرف الآخر، وغالبًا عبر تولّي أعمال القراءة والكتابة التي تُغرق فرق الأمن.
- الفرز. تتلقى فرق الأمن تنبيهات أكثر بكثير مما يستطيع البشر التحقيق فيه. يستطيع الذكاء الاصطناعي تلخيص التنبيه، وجلب السجلات المرتبطة به، واقتراح ما إذا كان يستحق وقت إنسان.
- التحقيق. يستطيع المحللون طرح أسئلة عن بياناتهم بلغة عادية بدل كتابة استعلامات معقدة، والحصول على مسودة أولى لتسلسل زمني للأحداث.
- شرح الأكواد والبرمجيات الخبيثة. الذكاء الاصطناعي بارع في قراءة سكربت غير مألوف وشرح ما يفعله، ما يسرّع التحليل.
- الكتابة. تقارير الحوادث وقواعد الكشف ومسودات السياسات كلها تبدأ أسرع.
أما المشكلة فهي ما يواجهه كل مستخدم للذكاء الاصطناعي: المخرجات تبدو واثقة بالقدر نفسه سواء كانت صحيحة أم خاطئة (وهو ما يُعرف بالهلوسة، Hallucination). وفي الأمن، أن يُقال خطأً إن «هذا التنبيه غير ضار» هو أغلى خطأ على الإطلاق. الفرق التي تستفيد فعلًا من الذكاء الاصطناعي تستخدمه لتسريع الحكم البشري لا لاستبداله، وتقيس عدد مرات خطئه قبل أن تأتمنه على أي إجراء تلقائي.
3. سطح الهجوم الجديد: أنظمة الذكاء الاصطناعي نفسها
المشكلة الجديدة حقًا والأكبر هي أن المؤسسات باتت تنشر أنظمة الذكاء الاصطناعي، وهذه الأنظمة يمكن مهاجمتها بطرق لا تنطبق على البرمجيات التقليدية.
حقن التعليمات (Prompt injection) هو أبرزها. لا يستطيع النموذج اللغوي أن يميّز بشكل موثوق بين تعليمات مالكه والتعليمات المخبّأة في المحتوى الذي يقرؤه. فإذا قرأ مساعد ذكي رسالة بريد أو صفحة ويب أو مستندًا يحتوي تعليمات مخفية، فقد ينفّذها. ويصبح الأمر خطيرًا حين يكون المساعد قادرًا على الفعل: إرسال الرسائل، أو استدعاء الأدوات، أو قراءة البيانات الخاصة.
تسرّب البيانات هو الصورة اليومية من المشكلة. يلصق الموظفون مواد سرية في أدوات ذكاء اصطناعي عامة طلبًا للمساعدة في عملهم. في عام 2023 قيّدت Samsung استخدام موظفيها لروبوتات الدردشة العامة بعد أن ألصق مهندسون كودًا مصدريًا داخليًا في أحدها. ومعظم الحالات أقل شهرة لكنها حقيقية بالقدر نفسه.
الوكلاء الأذكياء (Agents) ذوو الصلاحيات المفرطة هم المشكلة المتنامية. فالوكيل الذي يُمنح وصولًا واسعًا «كي يكون مفيدًا» يصبح هدفًا ثمينًا، لأن من يستطيع التأثير فيه يرث صلاحياته.
العادات التي تنجح في مواجهة الثلاثة
الجانب المطمئن أن معظم وسائل الدفاع ليست جديدة. إنها ممارسات جيدة قديمة تُطبَّق باتساق.
- تحقّق من الطلبات عبر قناة ثانية. أي طلب غير معتاد يخص المال أو بيانات الدخول أو البيانات، سواء جاء بالبريد أو بمكالمة أو بالفيديو، يجب تأكيده عبر قناة تثق بها مسبقًا، كأن تعاود الاتصال على رقم معروف. فالتزييف العميق لا يستطيع الرد على مكالمة لم يُجرها. وبعض العائلات والفرق باتت تتفق على كلمة سر لهذا الغرض.
- استخدم تسجيل دخول مقاومًا للتصيّد. مفاتيح المرور (Passkeys) ومفاتيح الأمان المادية لا يمكن اصطيادها كما تُصطاد كلمات المرور ورموز الرسائل النصية. إنها تُفقد حتى أتقن رسالة تصيّد جدواها.
- وفّر للناس أداة ذكاء اصطناعي معتمدة. حظر الذكاء الاصطناعي يدفعه غالبًا إلى الحسابات الشخصية. أما توفير أداة معتمدة، مع قواعد واضحة لما يجوز إدخاله فيها من بيانات، فيقلّل التسرّب أكثر بكثير.
- تعامل مع مخرجات الذكاء الاصطناعي كمسودة، خصوصًا في الأمن. دع الذكاء الاصطناعي يسرّع الفرز والكتابة، لكن أبقِ القرار بيد إنسان في كل ما يغلق حادثة أو يحظر مستخدمًا أو يغيّر بيئة الإنتاج.
- امنح أنظمة الذكاء الاصطناعي أقل صلاحيات تحتاجها. اسأل عن كل ميزة ذكاء اصطناعي: ماذا تستطيع أن تقرأ؟ وماذا تستطيع أن تفعل؟ وهل تقرأ محتوى من أطراف خارجية؟ فإذا كانت تستطيع قراءة بيانات خاصة، واستقبال محتوى غير موثوق، وإرسال معلومات إلى الخارج، فقيّدها قبل أن تطلقها.
للتعمّق أكثر
تغطي دورة الذكاء الاصطناعي للأمن السيبراني الاتجاهين بعمق: استخدام الذكاء الاصطناعي داخل فريق الأمن، والدفاع ضد الهجمات المدعومة به. وتركّز دورة تأمين أنظمة الذكاء الاصطناعي على حماية الذكاء الاصطناعي الذي تنشره، بما في ذلك حقن التعليمات وصلاحيات الوكلاء، ويجمع لوحة نمذجة التهديدات ذلك كله في صفحة واحدة. وإن كنت جديدًا على طريقة عمل هذه النماذج، فدورة أساسيات الذكاء الاصطناعي هو نقطة البداية. كلها مجانية، مثل كل ما في مركز تعلّم الذكاء الاصطناعي.
الدفاع بالذكاء الاصطناعي، والدفاع عن الذكاء الاصطناعي الذي تنشره — لفرق الأمن على جانبي هذا التحوّل
نمذجة التهديدات والاختبار والتحصين والاستجابة — الدفاع عن أنظمة الذكاء الاصطناعي والوكلاء عملياً
الأساس الكامل: من ماهية الذكاء الاصطناعي إلى كيف تفكّر الوكلاء الذكية وتعمل