التصيد بالذكاء الاصطناعي: اللغة السليمة لا تعني الثقة
قد يساعد الذكاء الاصطناعي التوليدي المجرمين على إنشاء رسائل مقنعة بلغات متعددة وأخطاء إملائية أقل. الطلب أهم من جودة الصياغة: المرفقات غير المتوقعة وتغييرات الدفع والضغط للاستعجال تستدعي التدقيق. افحص المرسل والوجهة، وتحقق أيضاً بشكل مستقل من الإجراء المطلوب.
للمزيد: FBI / IC3مثال من العمل
بريد يبدو من مورّد معتاد يعلن حساباً بنكياً جديداً ويطلب الدفع قبل نهاية اليوم.
الاستجابة الأكثر أماناً
أوقف الدفع. أكّد التغيير عبر جهة اتصال موثوقة ومسجلة مسبقاً، واتبع مسار الموافقة المعتاد وأبلغ عن الرسالة المشبوهة.
التزييف العميق: تحقّق من الطلب بعيداً عن الصوت
الصوت المألوف أو الفيديو المقنع لا يكفي لإثبات الهوية. يمكن استخدام استنساخ الصوت في الاحتيال بانتحال الشخصية، بما في ذلك مكالمات تبدو من المدير. لا تتوقع من الموظفين اكتشاف كل عيب تقني في الوسائط المصطنعة؛ وفّر لهم إجراء تحقق موثوقاً.
للمزيد: FTCمثال من العمل
مكالمة بصوت يشبه مديرك تطلب تحويلاً عاجلاً وتصرّ على السرية.
الاستجابة الأكثر أماناً
أنه المكالمة واتصل بالشخص عبر رقم معروف أو قناة مؤسسية معتمدة. حافظ على موافقات الدفع حتى عندما يبدو الطلب صادراً من الإدارة.
استخدام آمن للذكاء الاصطناعي التوليدي: احمِ المدخلات وراجع النتائج
قد تقدم أدوات الذكاء الاصطناعي إجابات سليمة لغوياً لكنها خاطئة. قبل استخدامها للعمل، تحقق من سماح سياسة الشركة بالأداة وبالبيانات المقترحة. اعتماد الأداة لا يعني ملاءمة جميع فئات المعلومات لها. راجع الادعاءات المهمة والحسابات والروابط والشيفرة المولّدة قبل الاعتماد عليها.
للمزيد: NCSCمثال من العمل
يريد موظف تلخيص ملف دعم عملاء يحتوي أسماء وتفاصيل حسابات باستخدام مساعد ذكاء اصطناعي.
الاستجابة الأكثر أماناً
راجع الإجراء المعتمد وقواعد البيانات أولاً. أزل المعلومات الحساسة عند الحاجة. إذا لم يكن الاستخدام المسموح واضحاً، اسأل مسؤول الأمن أو البيانات قبل رفع الملف.
حقن التعليمات: عندما يحاول المحتوى إصدار أوامر
قد تحاول تعليمات مخفية في مستند أو صفحة ويب أو رسالة توجيه مساعد الذكاء الاصطناعي بعيداً عن مهمته. يزداد الأمر أهمية عند وصوله إلى أدوات أو معلومات أخرى. تعامل مع المواد المسترجعة كمحتوى غير موثوق؛ فالجواب الواثق لا يمنح إذناً بمشاركة البيانات أو تنفيذ إجراء.
للمزيد: OWASPمثال من العمل
أثناء تلخيص مستند، يطلب المساعد بصورة غير متوقعة إرسال ملفات داخلية إلى عنوان خارجي.
الاستجابة الأكثر أماناً
لا توافق على الإجراء غير المتوقع. توقف واحتفظ بالتفاصيل ذات الصلة وأبلغ وفق إجراء الشركة. يجب أن تدعم الصلاحيات التقنية والموافقة البشرية التدريب.
نهج تدريبي مقترح
استخدم مساعدة الذكاء الاصطناعي ضمن عملية تعلم مضبوطة تخضع لمراجعة بشرية. هذا تصميم مقترح للبرنامج وليس قائمة ميزات مشمولة في كل باقة خدمات.
حدّد سلوكاً
اختر هدفاً قابلاً للملاحظة، مثل التحقق المستقل من تغيير حساب بنكي.
اكتب وراجع
إذا ساعد الذكاء الاصطناعي في كتابة سيناريو، يراجع مختص الدقة والأسلوب والخصوصية والملاءمة. استخدم بيانات خيالية.
تدرّب بأمان
نفّذ تمارين مصرحاً بها، واشرح الاستجابة الآمنة ووفّر مسار إبلاغ واضحاً. لا تطلب كلمات مرور حقيقية مطلقاً.
تعلّم وعدّل
راجع النتائج وناقش القرارات الصعبة وكرّر الدرس بمثال مختلف.
اجعل التوعية مناسبة لكل دور
المالية والمشتريات
تحقّق من تغييرات المستفيد وطلبات الدفع عبر قناة معروفة.
الموارد البشرية
احمِ بيانات المتقدمين والموظفين وتحقق من التعليمات التي قد تنتحل هوية شخص آخر.
تقنية المعلومات وجميع مستخدمي الذكاء الاصطناعي
راجع صلاحيات الأدوات والمدخلات الحساسة والطلبات غير المتوقعة من المساعدين.
قِس التعلم مع مراعاة السياق
قارن حملات متقاربة في الصعوبة والجمهور. انخفاض معدل النقر وحده لا يثبت انخفاض الخطر. ولا تستطيع درجة مولّدة بالذكاء الاصطناعي إثبات نية موظف أو التنبؤ بحادث بعينه.
- معدل الإبلاغ: هل يشارك الموظفون مخاوفهم؟
- وقت الإبلاغ: ما سرعة استجابة الفريق الممكنة؟
- سلوك التحقق: هل استُخدمت القناة المتوقعة؟
- الفجوات المتكررة: أي قرارات تحتاج إلى شرح أو ممارسة إضافية؟
أسئلة شائعة حول أمن الذكاء الاصطناعي
هل تحل التوعية بالذكاء الاصطناعي محل التدريب الأمني الأساسي؟
لا. إنها توسّع الوعي بالتصيد وحماية البيانات وعادات الإبلاغ. تظل كلمات المرور القوية والمصادقة متعددة العوامل وإجراءات الموافقة المعتمدة جزءاً من الأساس.
هل يمكن للموظفين تعلّم اكتشاف كل تزييف عميق؟
لا يضمن أي تدريب ذلك. علّم التحقق المستقل من الهوية والموافقات المتسقة كي لا تعتمد الاستجابة على اكتشاف عيوب الصورة أو الصوت.
هل يستخدم العرض العام ذكاء اصطناعياً حياً؟
يستخدم العرض العام بيانات نموذجية وذكاء اصطناعياً مُحاكى. ولا يرسل رسائل حقيقية أو يتصل بأنظمة الإنتاج. ناقش إمكانات الخدمة الحالية ومتطلباتك مع الفريق قبل اختيار باقة.