تنبيهات حول استخدام الذكاء الاصطناعي في عمليات القرصنة الإلكترونية

كشفت شركتا مايكروسوفت وأوبن إيه آي اليوم عن توظيف المتسللين لنماذج لغوية ذكية معروفة باسم “إل إل إم إس”، مثل شات جي بي تي، بهدف تعزيز وتحسين هجماتهم الإلكترونية. وفقًا لتقرير نشرته مايكروسوفت وأوبن إيه آي، تم رصد محاولات من قِبَل مجموعات مدعومة من دول كروسيا وكوريا الشمالية وإيران والصين في استخدام تلك النماذج اللغوية لاستهداف أهدافهم، تطوير النصوص البرمجية، وتعزيز تقنيات الهندسة الاجتماعية.

ووفقًا للمدونة الرسمية لمايكروسوفت، فإن مجموعات الجرائم الإلكترونية والجهات التي تشكل تهديدًا للدول تقوم بفحص واختبار تقنيات الذكاء الاصطناعي الجديدة بمجرد ظهورها، بهدف فهم ميزاتها والتحكم في الضوابط الأمنية اللازمة لتجاوزها.

تشير مايكروسوفت إلى أن مجموعة سترونتيوم، المرتبطة بالمخابرات العسكرية الروسية، تستخدم نماذج اللغة الكبيرة لفهم بروتوكولات الاتصال عبر الأقمار الصناعية وتقنيات التصوير الراداري ومعايير تقنية محددة. يُذكر أن مجموعة القرصنة المعروفة بـ “إيه بي تي 28” أو “فانسي بير”، شاركت سابقًا في استهداف حملة هيلاري كلينتون الرئاسية في عام 2016 وكانت نشطة خلال حرب روسيا في أوكرانيا.

يُعتمد من قِبَل مجموعات القرصنة استخدام نماذج اللغة الكبيرة أيضًا في تسهيل وتحسين “مهام البرمجة النصية الأساسية”، مثل معالجة الملفات، واختيار البيانات، والتعبيرات العادية، والمعالجة المتعددة، وذلك وفقًا لبيان مايكروسوفت.

بحسب موقع “ذي فيرج”، تعتمد مجموعة القرصنة الكورية الشمالية، المعروفة باسم ثاليوم، على نماذج اللغة الكبيرة لتحليل نقاط الضعف المعلن عنها واستهداف المنظمات لمساعدتها في مهام البرمجة النصية الأساسية، وإعداد محتوى لحملات الاحتيال.

وتُفيد مايكروسوفت بأن المجموعة الإيرانية المعروفة باسم كوريوم تستخدم أيضًا نماذج اللغة الكبيرة لإنشاء رسائل بريد إلكتروني لعمليات الاحتيال، وحتى لكتابة تعليمات برمجية لتجنب اكتشافها بواسطة تطبيقات مكافحة الفيروسات. وتستخدم المتسللون الصينيون التابعون للدولة أيضًا نماذج اللغة الكبيرة لأغراض البحث والبرمجة والترجمة وتحسين أدواتهم الحالية.

وفيما يتعلق بالمخاوف المتعلقة باستخدام الذكاء الاصطناعي في الهجمات الإلكترونية، تشير مايكروسوفت إلى ظهور أدوات مثل “وُرم جي بي تي” و”فرويد جي بي تي” التي تساعد في إنشاء رسائل بريد إلكتروني ضارة وأدوات الاختراق.

وفي تصريحات سابقة، حذر مسؤول كبير في وكالة الأمن القومي من أن المتسللين يستخدمون الذكاء الاصطناعي لجعل رسائل البريد الإلكتروني التصيدية الخاصة بهم تبدو أكثر إقناعًا.

وبالرغم من عدم اكتشاف أي “هجمات كبيرة” حتى الآن، قامت مايكروسوفت وأوبن إيه آي بإغلاق جميع الحسابات والأصول المرتبطة بمجموعات القرصنة هذه.

تعلق مايكروسوفت على هذا البحث بالقول: “نرى أن من المهم نشر هذا البحث لكشف التحركات التدريجية في المراحل المبكرة التي نراقبها من جهات فاعلة معروفة بالتهديد، ومشاركة المعلومات حول كيفية التعامل معهم ومواجهتهم مع مجتمع المدافعين”.

وعلى الرغم من أن استخدام الذكاء الاصطناعي في الهجمات الإلكترونية يبدو محدودًا في الوقت الحالي، إلا أن مايكروسوفت تحذر من الاستخدامات المحتملة مثل انتحال الهوية الصوتية.

وبشكل طبيعي، تستخدم مايكروسوفت الذكاء الاصطناعي في الرد على هجمات الذكاء الاصطناعي. يقول مدير تحليلات في مايكروسوفت، هوما هاياتيفار: “يمكن للذكاء الاصطناعي أن يساعد المهاجمين على تطوير هجماتهم بشكل أفضل، ولديهم الموارد الكافية لتنفيذها.. لقد رصدنا ذلك في أكثر من 300 جهة تهديد تتعقبها مايكروسوفت، ونحن نستخدم الذكاء الاصطناعي للحماية والكشف والاستجابة”.

وتعمل مايكروسوفت على بناء “سيكيورتي كوبايلوت”، وهو مساعد جديد للذكاء الاصطناعي يهدف إلى مساعدة متخصصي الأمن السيبراني في تحديد الان