التعامل مع المخاطر عبر الإنترنت وتعزيز الدفاعات في عصر الذكاء الاصطناعي

يشهد عالم الأمان عبر الإنترنت اليوم تحولاً هائلاً. يأتي الذكاء الاصطناعي (AI) في طليعة هذا التغيير، ما يشكل تهديداً وفرصة في آن واحد. في حين أن الذكاء الاصطناعي لديه القدرة على تمكين المؤسسات من هزيمة الهجمات الإلكترونية بسرعة الآلة ودفع الابتكار والكفاءة في اكتشاف المخاطر والمطاردة والاستجابة للحوادث، يمكن للخصوم استخدام الذكاء الاصطناعي كجزء من مآثرهم. لم يكن تصميم الذكاء الاصطناعي ونشره واستخدامه بشكل آمن أكثر أهمية بالنسبة لنا من أي وقت مضى.

في Microsoft، نستكشف إمكانات الذكاء الاصطناعي لتعزيز إجراءات الأمان لدينا، وفتح وسائل حماية جديدة ومتقدمة، وبناء برامج أفضل. بفضل الذكاء الاصطناعي، لدينا القدرة على التكيف جنباً إلى جنب مع المخاطر المتطورة، واكتشاف الحالات الشاذة على الفور، والاستجابة بسرعة لتحييد المخاطر، وتصميم الدفاعات لتناسب احتياجات المؤسسة.

يمكن أن يساعدنا الذكاء الاصطناعي أيضاً في التغلب على أحد أكبر التحديات التي تواجه الصناعة. في مواجهة النقص العالمي للقوى العاملة في مجال الأمان عبر الإنترنت مع الحاجة إلى ما يقرب من 4 ملايين متخصص في مجال الأمان عبر الإنترنت في جميع أنحاء العالم، يتمتع الذكاء الاصطناعي بالقدرة على أن يكون أداة محورية لسد فجوة المواهب ولمساعدة المدافعين على أن يتمتعوا بمزيد من الإنتاجية.

لقد رأينا بالفعل في  إحدى الدراسات كيفية مساعدة Microsoft Security Copilot محللي الأمن بغض النظر عن مستوى خبرتهم—عبر جميع المهام، كان المشاركون دقيقين 44 بالمائة أكثر و26 بالمائة أسرع.

بينما نتطلع إلى تأمين المستقبل، يجب علينا أن نضمن تحقيقنا التوازن بين الاستعداد الآمن للذكاء الاصطناعي والاستفادة من فوائده، لأن الذكاء الاصطناعي لديه القدرة على رفع الإمكانات البشرية وحل بعض من أخطر التحديات التي تواجهنا.

سيتطلب المستقبل الأكثر أماناً مع الذكاء الاصطناعي تطورات أساسية في هندسة البرمجيات. وسوف يتطلب منا أن نفهم ونواجه التهديدات التي يحركها الذكاء الاصطناعي بوصفها مكونات أساسية لأي استراتيجية أمنية. ويجب علينا أن نعمل معاً لبناء تعاون عميق وشراكات عبر القطاعين العام والخاص لمكافحة ممثلي المخاطر السيئين.

كجزء من هذا الجهد ومبادرة المستقبل الآمن الخاصة بنا، تنشر OpenAI وMicrosoft معلومات استخباراتية جديدة توضح بالتفصيل محاولات ممثلي لاختبار مدى فائدة نماذج اللغة الطبيعية (LLMs) واستكشافها في تقنيات الهجوم.

نأمل أن تكون هذه المعلومات مفيدة عبر الصناعات حيث نعمل جميعاً من أجل مستقبل أكثر أماناً. لأننا في النهاية جميعنا مدافعون.

شاهد موجز Cyber Signals الرقمي حيث يعقد فاسو جاكال، نائب رئيس المؤسسة في Microsoft Security Business مقابلات مع خبراء التحليل الذكي للمخاطر الأساسية بشأن المخاطر عبر الشبكات في عصر الذكاء الاصطناعي، والطرق التي تستخدم بها Microsoft الذكاء الاصطناعي لتوفير أمان محسن، وما يمكن أن تفعله المؤسسات للمساعدة على تعزيز الدفاعات.

لقد أصبح مشهد المخاطر عبر الإنترنت مليئاً بالتحديات بشكل متزايد حيث أصبح المهاجمون أكثر حماساً وتطوراً وأفضل موارد. يتطلع ممثلو المخاطر والمدافعون على حد سواء إلى الذكاء الاصطناعي، بما في ذلك نماذج اللغات الطبيعية لتعزيز إنتاجيتهم والاستفادة من المنصات التي يمكن الوصول إليها والتي يمكن أن تناسب أهدافهم وتقنيات الهجوم.

نظراً لمشهد المخاطر سريع التطور، نعلن اليوم عن مبادئ Microsoft التي توجه أعمالنا والتي تخفف من مخاطر ممثلي المخاطر بما في ذلك المخاطر المستمرة المتقدمة (APTs) والمتلاعبين المستمرين المتقدمين (APMs) وعصابات مجرمي الإنترنت، باستخدام أنظمة الذكاء الاصطناعي الأساسية وواجهات برمجة التطبيقات. تتضمن هذه المبادئ تحديد إجراءات واتخاذها ضد استخدام ممثلي المخاطر الخبيثون للذكاء الاصطناعي، وإخطار مقدمي خدمات الذكاء الاصطناعي الآخرين، والتعاون مع أصحاب المصلحة الآخرين، والشفافية.

على الرغم من اختلاف دوافع ممثلي المخاطر وتطورهم، يشتركون في مهام متماثلة عند نشر الهجمات. وتشمل هذه الاستطلاعات، مثل البحث عن صناعات الضحايا المحتملين ومواقعهم وعلاقاتهم؛ والترميز، بما في ذلك تحسين البرامج النصية وتطوير البرامج الضارة؛ والمساعدة في تعلم كل من اللغات البشرية والآلية واستخدامها.

بالتعاون مع OpenAI، نشارك التحليل الذكي للمخاطر الذي يظهر الخصوم التابعين للدولة المكتشفين - المتتبعين مثل Forest Blizzard وEmerald Sleet وCrimson Sandstorm وCharcoal Typhoon وSalmon Typhoon - باستخدام نماذج اللغة الطبيعية لتعزيز العمليات عبر الإنترنت.

الهدف من شراكة Microsoft البحثية مع OpenAI هو ضمان الاستخدام الآمن والمسؤول لتقنيات الذكاء الاصطناعي مثل ChatGPT، والحفاظ على أعلى معايير التطبيق الأخلاقي لحماية المجتمع من سوء الاستخدام المحتمل.

استهدفت Forest Blizzard (STRONTIUM)، وهي جهة استخباراتية عسكرية روسية فعالة للغاية ومرتبطة بالمديرية الرئيسية لهيئة الأركان العامة للقوات المسلحة الروسية أو الوحدة 26165 GRU، الضحايا ذوي الاهتمام التكتيكي والاستراتيجية للحكومة الروسية. تمتد أنشطتها إلى مجموعة متنوعة من القطاعات بما في ذلك الدفاع، والنقل/اللوجستيات، والحكومة، والطاقة، والمنظمات غير الحكومية، وتكنولوجيا المعلومات

يتضمن استخدام Emerald Sleet لبرامج الماجستير في القانون إجراء أبحاث في مؤسسات الفكر والرأي والخبراء في كوريا الشمالية، بالإضافة إلى إنشاء محتوى من المحتمل استخدامه في حملات التصيد الاحتيالي. تفاعلت Emerald Sleet أيضاً مع نماذج اللغات الطبيعية لفهم الثغرات الأمنية المعروفة بشكل عام، واستكشاف المشكلات الفنية وإصلاحها، وللمساعدة في استخدام تقنيات الويب المختلفة.

قيمت مجموعة أخرى مدعومة من الصين، وهي  Salmon Typhoon، فعالية استخدام نماذج اللغة الطبيعية طوال عام 2023 للحصول على معلومات حول مواضيع قد تكون حساسة، وأفراد بارزين، والجغرافيا السياسية الإقليمية، ونفوذ الولايات المتحدة، والشؤون الداخلية. ومن الممكن أن تعكس هذه المشاركة المبدئية مع حاملي شهادة الماجستير في القانون توسعاً في مجموعة أدوات جمع المعلومات الاستخبارية ومرحلة تجريبية في تقييم قدرات التقنيات الناشئة.

لم يحددبحثنا مع OpenAI الهجمات المهمة التي تستخدم حاملي شهادات الماجستير التي نراقبها من كثب.

تخذنا تدابير لتعطيل الأصول والحسابات المرتبطة بممثلي المخاطر هؤلاء وتشكيل حواجز الحماية وآليات السلامة حول نماذجنا.

الاحتيال المدعوم بالذكاء الاصطناعي مصدر قلق بالغ آخر. التركيب الصوتي مثال على ذلك، حيث يمكن لعينة صوتية مدتها ثلاث ثوانٍ تدريب النموذج ليبدو مثل أي شخص. حتى شيء غير ضار مثل تحية البريد الصوتي الخاص بك يمكن استخدامه للحصول على عينة كافية.

تعتمد الكثير من كيفية تفاعلنا مع بعضنا البعض وممارسة الأعمال على إثبات الهوية، مثل التعرف على صوت الشخص أو وجهه أو عنوان بريده الإلكتروني أو أسلوب كتابته.

من المهم أن نفهم كيف يستخدم الممثلون الخبيثون الذكاء الاصطناعي لتقويض أنظمة إثبات الهوية القديمة حتى نتمكن من معالجة حالات الاحتيال المعقدة وغيرها من مخاطر الانتحال بالهندسة الاجتماعية الناشئة التي تحجب الهويات.

يمكن أيضاً استخدام الذكاء الاصطناعي لمساعدة الشركات على تعطيل محاولات الاحتيال. على الرغم من أن Microsoft أوقفت تعاملنا مع شركة في البرازيل، فقد اكتشفت أنظمة الذكاء الاصطناعي لدينا محاولاتها لإعادة تشكيل نفسها من أجل الدخول مرة أخرى إلى نظامنا البيئي.

حاولت المجموعة باستمرار إخفاء معلوماتها وإخفاء جذور الملكية وإعادة الدخول، لكن اكتشافات الذكاء الاصطناعي لدينا استخدمت ما يقرب من اثنتي عشرة إشارة خطر للإبلاغ عن الشركة الاحتيالية وربطها بسلوك مشبوه تعرفت عليه مسبقاً، وبالتالي عرقلة محاولاتها.

تلتزم Microsoft بالذكاء الاصطناعي المسؤول الذي يقوده الإنسان والذي يتميز بالخصوصية والأمان، حيث يوفر البشر الإشراف وتقييم الطعون وتفسير النُهج واللوائح.

لم تعد الأدوات التقليدية تواكب المخاطر التي يشكلها مجرمون الإنترنت. تتطلب السرعة المتزايدة والحجم والتعقيد للهجمات الإلكترونية الأخيرة اتباع نهج جديد للأمان. بالإضافة إلى ذلك، ونظراً لنقص القوى العاملة في مجال الأمان عبر الإنترنت، ومع تزايد المخاطر على الشبكات من حيث معدل تكرارها وخطورتها، فإن هناك حاجة ملحة لسد هذه الفجوة في المهارات.

يمكن للذكاء الاصطناعي أن يقلب الموازين للمدافعين. أظهرت إحدى الدراسات الحديثة لـ Microsoft Security Copilot (حالياً متوفر كمعاينة عميل اختبارية) زيادة في سرعة محللي الأمان ودقتهم، بغض النظر عن مستوى خبرتهم، عبر المهام الشائعة مثل تحديد البرامج النصية التي يستخدمها المهاجمون وإنشاء تقارير الأحداث وتحديد خطوات المعالجة المناسبة^.1