بعد عدة أسابيع من الهجوم الإلكتروني على نموذج الذكاء الاصطناعي الخاص بشركة OpenAI، مطور ChatGPT، اعترف منافسها Anthropic بأنه تعرض لحادث مماثل. أثناء الاختبار، اخترق الذكاء الاصطناعي لشركة Anthropic بشكل غير مخطط له الأنظمة الحاسوبية لثلاث شركات، كما ذكرت الشركة على مدونتها. اعتُبرت حقيقة أن نموذج الذكاء الاصطناعي أصبح متسللاً بمبادرة منه خلال الاختبار حادثاً غير مسبوق وإشارة تحذيرية لصناعة التكنولوجيا، لكن الآن أصبح من الواضح أن هذه لم تكن حالة منعزلة، كما ذكرت وكالة DPA.
قد يهمك: احتيال العملات الرقمية: كيف تتعرف على الاحتيال وتحمي أموالك قبل فوات الأوان
بعد حادث OpenAI، Anthropic تبلغ عن مشكلة أيضاً
لم تلاحظ Anthropic ولا الشركات المتضررة الحادث. اكتشف Anthropic النشاط فقط أثناء الفحص اللاحق لأكثر من 141,000 عملية اختبار. بدأ ذلك بعد حادث شركة OpenAI، عندما خرج وكيلها المستقل عن السيطرة أثناء اختبار أمني وأطلق هجوماً هدد البنية التحتية لشركة Hugging Face.
على عكس نموذج OpenAI، الذي كان عليه إيجاد طريقه من بيئة الاختبار إلى الإنترنت المفتوح، كانت نماذج Anthropic في وضع أسهل بكثير. على الرغم من أن سيناريو الاختبار أشار إلى عدم وجود وصول إلى الإنترنت، إلا أنه بسبب سوء فهم مع الشريك الذي كان يوفر الاختبار، ظل اتصال الإنترنت مفتوحاً طوال الوقت. استخدمت ثلاثة نماذج هذه الفرصة، كما ذكرت شركة Anthropic.
كانت الاختبارات تهدف إلى التحقق من قدرات الذكاء الاصطناعي في الهجمات الإلكترونية، وهو ما تفعله الشركات عادة لاكتشاف المخاطر المحتملة وتحديد تدابير أمنية أكثر فعالية. تلقت النماذج مهمة الحصول على معلومات محددة مخزنة في كمبيوتر آخر، حيث كان عليها اختراق النظام المستهدف للحصول عليها. تعلقت الحوادث بثلاثة نماذج منفصلة وحدثت أقدم حالة في أبريل.
اقرأ المزيد: eToro – مراجعة الوسيط المعروف
فشل الذكاء الاصطناعي “الآمن”
في أحد الحوادث، اختار الشريك الذي يوفر الاختبار اسماً لشركة وهمية، لكنه تطابق مع عنوان إنترنت حقيقي. استهدف الذكاء الاصطناعي بعد ذلك شركة موجودة فعلياً بدلاً من الهدف المحاكى، وحاول في أربع عمليات اختبار اختراق أنظمتها، من بين أمور أخرى حصل على وصول إلى قاعدة البيانات. واصل الهجوم حتى بعد أن تعرف على أنها شركة حقيقية.
في اختبار آخر، أنشأ نموذج Anthropic برنامجاً ضاراً لاختراق الكمبيوتر المستهدف. بفضل الوصول إلى الإنترنت، نشره على منصة متخصصة، حيث قامت 15 نظاماً بتنزيله في غضون ساعة تقريباً. من بينها كانت شركة متخصصة في الأمن السيبراني تقوم عادة بتنزيل وتشغيل مثل هذه السكريبتات لغرض اختبارها. وبالتالي حصل نموذج Anthropic على وصول إلى البنية التحتية الحاسوبية لهذه الشركة.
يحذر الخبراء منذ فترة طويلة من أن نماذج الذكاء الاصطناعي الأكثر قدرة يمكن إساءة استخدامها في الهجمات الإلكترونية. لذلك اعتبروا حادث OpenAI تحذيراً ودعوا إلى تأمين أفضل لبيئات الاختبار. الحالات المعلنة حديثاً مزعجة أيضاً بالنسبة لـ Anthropic، التي طالما قدمت نفسها كمدافع عن التطوير المسؤول للذكاء الاصطناعي. ذكرت الشركة أن الأحداث تظهر ضرورة تعزيز أمن بيئات الاختبار الداخلية والخارجية بشكل كبير، لأن نماذج الذكاء الاصطناعي أصبحت أكثر قدرة على تنفيذ هجمات إلكترونية حقيقية.
شاهد: مراجعة BITmarkets
المصدر: ČTK
