في السنوات الأخيرة، شهد مجال الذكاء الاصطناعي تطورات كبيرة، حيث ظهرت تطبيقات وحالات استخدام جديدة لأنظمة الذكاء الاصطناعي التوليدية، مثل "شات جي بي تي" من شركة "أوبن إيه آي"، و"جيميني" من غوغل، وأصبحت أدوات لا غنى عنها في مختلف القطاعات.
تعمل الشركات الناشئة وشركات التكنولوجيا على تطوير قدراتها في مجالات الذكاء الاصطناعي والأنظمة البيئية لتحقيق أتمتة المهام، من جدولة المواعيد إلى شراء المنتجات، وذلك لمواكبة هذه التطورات.
مع التطورات الحالية، تصبح هذه الأنظمة أكثر استقلالية وتعرضة لمخاطر وهجمات إلكترونية متنوعة، منها تطوير البرمجيات الخبيثة التي تعمل بالذكاء الاصطناعي، مما يشكل تهديدًا كبيرًا للأمن السيبراني.
في هذا السياق، قام فريق من الباحثين بتطوير ما يعتقدون أنها أول "ديدان الذكاء الاصطناعي التوليدية"، والتي تتميز بالقدرة على الانتشار بين الأنظمة وسرقة البيانات أو نشر برامج خبيثة.
هذه الديدان هي برامج خبيثة تعمل بالذكاء الاصطناعي وتتميز بقدرتها على التعلم الذاتي والتكيف مع البيئة وإنشاء برامج خبيثة جديدة.
وفقًا للباحثين، هذا الاكتشاف يعني أن هناك الآن القدرة على تنفيذ أنواع جديدة من الهجمات الإلكترونية التي لم تسبق لها مثيل.
الباحثون أطلقوا على ابتكارهم اسم "موريس2"، مستوحى من دودة الحاسوب السيئة السمعة التي أحدثت ضجة على الإنترنت في عام 1988، ويظهرون كيف يمكن لهذه الديدان التسلل إلى مساعد البريد الإلكتروني الذي يعمل بالذكاء الاصطناعي وسرقة البيانات أو نشر رسائل بريد إلكتروني عشوائية.
يحذر الباحثون من أن هذه الهجمات تشكل خطرًا أمنيًا كبيرًا يتطلب اهتمام الشركات والمطورين على حد سواء.
بشكل عام، يمكن لأنظمة الذكاء الاصطناعي التوليدية العمل عن طريق الاستجابة للأوامر النصية، ومن ثم يمكن التلاعب بهذه الأوامر لتخريب عمليات النظام.
يمكن أن تؤدي عمليات كسر الحماية إلى تجاهل بروتوكولات الأمان، وبالتالي إلى إنتاج محتوى مؤذي أو استغلال ثغرات الأمان في التطبيقات.
يمكن أن تساعد هذه البحوث في توعية المجتمع حول أهمية تأمين الأنظمة الذكية والتحذير من التهديدات الجديدة التي يمكن أن تعرض البيانات والأمن السيبراني للخطر.
يعتمد البحث على استخدام مساعد بريد إلكتروني ذكي يستجيب للرسائل ويتصرف بناءً على المحتوى المستلم.
ومن خلال إرسال "أوامر نصية عدائية"، يمكن للباحثين تضليل المساعد وجعله يرسل معلومات حساسة إلى مستلمين غير مقصودين.
تم تصميم الرسائل العدائية لتشويش المساعد وتحفيزه على إرسال معلومات حساسة بدلاً من الردود المفيدة المتوقعة.
هذا يعني أن المساعد يمكن أن يرسل معلومات شخصية مثل أرقام البطاقات الائتمانية إلى الأشخاص غير المعنيين.
من خلال هذا التصميم، يمكن للباحثين خلق سلسلة من التفاعلات المتكررة تسمح بتسريب المعلومات السرية عبر مساعدي البريد الإلكتروني الآخرين، مما يشكل تهديدًا كبيرًا للخصوصية والأمان السيبراني.
وعلى الرغم من أن الباحثين قاموا بمشاركة نتائجهم مع الشركات المعنية مثل غوغل وأوبن إيه آي، فإن هذا الاكتشاف يؤكد على ضرورة تعزيز أمان الأنظمة الذكية وتطوير آليات الدفاع ضد الهجمات السيبرانية المتطورة.
.
