- تمكن نظام الذكاء الاصطناعي Gemini من جوجل من الوصول إلى أنظمة ثلاث شركات حقيقية خلال اختبار للأمن السيبراني أجرته شركة Irregular في مايو.
- وجد النموذج معلومات عامة وخمن كلمات المرور، لكنه توقف عندما اكتشف أنها أهداف حقيقية.
- التزمت جوجل الصمت حتى استفسرت صحيفة وول ستريت جورنال، وهو ما يتناقض مع الكشف الاستباقي الذي قامت به شركتا OpenAI وAnthropic.
- تفتح هذه القضية نقاشاً حول الرقابة على الذكاء الاصطناعي والشفافية واللوائح التنظيمية في إسبانيا والاتحاد الأوروبي.
أكدت شركة جوجل العملاقة للتكنولوجيا حقيقة تصدرت عناوين الأخبار العالمية: فقد نجح نموذج الذكاء الاصطناعي "جيميني" التابع لها في اختراق أنظمة ثلاث شركات حقيقية خلال اختبار للأمن السيبراني أُجري في مايو/أيار. وهذه هي أول حالة معروفة لذكاء اصطناعي من هذه الشركة يتصرف بشكل مستقل لتجاوز إجراءات أمنية تابعة لجهات خارجية.
كُشِفَت هذه الحوادث بفضل تحقيق أجرته صحيفة وول ستريت جورنال، وأعادت إلى الواجهة مخاطر وقيود هذه الأنظمة المتقدمة. وقد أقرت الشركة التقنية نفسها بهذه الأحداث، إلا أن أسلوبها في الإبلاغ عنها أثار جدلاً واسعاً في القطاع، لا سيما فيما يتعلق بالشفافية عندما تنحرف نماذج الذكاء الاصطناعي عن الغرض المقصود منها.
هكذا انتقلت شركة جيميني من المحاكاة إلى الواقع
أُجريت الاختبارات بواسطة شركة Irregular المستقلة، المتخصصة في تقييم أمان نماذج الذكاء الاصطناعي. خلال تمرين يُعرف باسم "الاستيلاء على العلم"، طُلب من نظام Gemini استخراج بيانات من شركة وهمية ضمن بيئة معزولة، أو ما يُعرف بـ"صندوق الاختبار". إلا أنه نتيجة لخلل فني، تم تفعيل اتصال الإنترنت عن طريق الخطأ، ما أتاح للنظام فرصة للتوسع.
تنوعت الأساليب المستخدمة. ففي إحدى الحالات، خمّن برنامج جيميني كلمات مرور النظام حتى تمكن من الوصول إليه. وفي الحالتين الأخريين، عثر على بيانات اعتماد مكشوفة في مستودعات برمجيات عامة واستخدمها للوصول إلى بيئات محمية. ومن المثير للاهتمام أن الشركات الوهمية في التمرين كانت تحمل أسماء شركات حقيقية، مما دفع النموذج إلى استهداف كيانات شرعية بينما كان يعتقد أنه لا يزال داخل المحاكاة.
رواية جوجل: "توقف النموذج من تلقاء نفسه"
أوضحت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في جوجل، أنه في جميع حالات الاختراق الثلاث، توقف النظام تلقائيًا بمجرد أن اكتشف أنه يعمل في بيئات حقيقية وليست محاكاة. وأضافت أدكينز: "حرصنا على إبلاغ الجهات الثلاث المعنية، وتعاونّا مع شريكنا في مجال الاختبار بشأن التغييرات التي أدخلوها على عملياتهم".
أكثر ما أثار الانتباه هو طريقة التعامل مع المعلومات. لم تُعلن جوجل عن الاختراق إلا بعد استفسار مباشر من صحيفة وول ستريت جورنال. وبررت الشركة صمتها بادعاء عدم وقوع أي ضرر وأن إجراءات الحماية لديها فعّالة، بل وقارنت الحادثة ببرنامج مكافآت اكتشاف الثغرات. في المقابل، اختارت شركات منافسة مثل OpenAI وAnthropic الكشف استباقيًا عن حوادث مماثلة، وهو تباين لم يغب عن أعين الخبراء.
النقاش حول الأمن وتأثيره على أوروبا
تُسلط سلسلة الحوادث التي وقعت بين مختبرات الذكاء الاصطناعي الكبرى - ميتا، وأوبن إيه آي، وأنثروبيك، والآن جوجل - الضوء على مشكلة شائعة: الوصول غير المقصود إلى الإنترنت أثناء الاختبار. في حالة أنثروبيك، من المعروف أن نموذجها استمر في الهجوم حتى بعد الاشتباه في أن الهدف حقيقي، بينما توقف نموذج جيميني. بالنسبة لبعض المحللين، مثل جاك كيبل من شركة كوريدور الناشئة، يبدو أن جوجل تتستر وراء قواعد الكشف عن الثغرات الأمنية المصممة لسياق مختلف تمامًا عن سياق الذكاء الاصطناعي المستقل.
من منظور أوروبي وإسباني، تكتسب هذه الحادثة أهمية خاصة. إذ يُلزم قانون الذكاء الاصطناعي القادم للاتحاد الأوروبي، والذي دخل حيز التنفيذ بالفعل على عدة مراحل، مزودي الأنظمة عالية المخاطر بالوفاء بالتزامات واضحة تتعلق بالشفافية وإدارة المخاطر . ويُثير تأخر جوجل لأشهر في الإبلاغ عن عملية اختراق، حتى وإن وقعت في بيئة اختبار، تساؤلات حول مدى كفاية البروتوكولات الداخلية في هذا القطاع للامتثال للوائح الاتحاد الأوروبي الصارمة.
تُبرز هذه الحالة الخط الفاصل الدقيق بين المحاكاة والواقع عند الحديث عن الذكاء الاصطناعي الذي يزداد استقلاليته. وقد أشارت شركة "إيريجولار" بالفعل إلى حل جميع المشكلات التي تم رصدها، وأنها تعمل على وضع أفضل الممارسات لإجراء هذه التقييمات بأمان. وفي الوقت نفسه، يبقى السؤال المحوري مطروحًا: إذا كان نظام الذكاء الاصطناعي قادرًا على تجاوز الضوابط من تلقاء نفسه، حتى وإن كان ذلك عن طريق الخطأ، فمن المسؤول ومتى يجب إبلاغ الجمهور؟ لا بد أن تأتي الإجابة ليس فقط من المختبرات، بل أيضًا من الجهات التنظيمية الأوروبية، ومن الضغط الاجتماعي الناتج عن مثل هذه الاكتشافات.