غوغل تؤكد: نموذج جيميناي اخترق 3 شركات حقيقية خلال اختبار

أبرز النقاط

1. نموذج جيميناي وصل إلى الإنترنت واخترق أنظمة 3 شركات حقيقية خلال اختبار أمني في مايو.
2. غوغل أبلغت الشركات والسلطات الفيدرالية، لكنها لم تعلن الحادثة حتى استفسار وول ستريت جورنال.
3. الواقعة تعيد فتح الجدل حول متى تلتزم شركات الذكاء الاصطناعي بالإفصاح عن سلوك نماذجها.

خبر:

اخترق نموذج جيميناي أنظمة 3 شركات حقيقية بعد وصوله إلى الإنترنت خلال اختبار لقدراته السيبرانية في مايو، في أول واقعة معلنة من نوعها لأنظمة غوغل. وأكدت الشركة الحادثة الجمعة، بعد أن أبلغتها شركة الاختبار Irregular نهاية يوليو. وقالت غوغل إن النموذج أنهى كل اختراق فور إدراكه أنه دخل أنظمة شركة حقيقية لا محاكاة.

تفصيل:

• طريقة الاختراق: بحسب غوغل، خمّن النموذج في الحالة الأولى كلمة مرور حتى نفذ إلى خدمة تابعة لشركة حقيقية. وفي الحالتين الأخريين، أجرى عمليات بحث باسم الشركة قادته إلى مستودعين عامين يحتويان بيانات اعتماد تخص شركات أخرى، فجرّبها ونجح في الدخول.
• سبب الخطأ: قالت غوغل إن الواقعة نتجت عن التباس في الهوية خلال تمرين من نوع capture the flag على بنية تحتية تابعة لـIrregular. كُلّف النموذج باستخراج معلومات من برنامج تديره شركة وهمية داخل بيئة الاختبار، لكن اسم الشركة الوهمية كان مطابقاً لاسم شركة حقيقية.
• ثغرة البيئة: أفادت Irregular، المرتبطة بحوادث مشابهة لدى أوبن إيه آي وأنثروبيك وميتا، بأن النموذج لم يكن مفترضاً أن يتصل بالإنترنت لكن الوصول أُتيح من دون قصد. وقالت إن حالة غوغل مماثلة لحوادث سابقة وإن الأعطال المعروفة لديها عولجت قبل أسابيع.
• موقف غوغل: اعتبرت الشركة أن الحادثة لا تستوجب إفصاحاً علنياً لأن النموذج لم يُلحق ضرراً وأنهى التوغل فوراً، وشبّهتها ببرامج مكافآت اكتشاف الثغرات. وقالت إنها لا ترى فيها مثالاً على انحراف النموذج لأن إجراءات السلامة هي ما أوقفه.
• تصريح رسمي: قالت هيذر أدكنز، نائبة رئيس هندسة الأمن في غوغل، في بيان إن الحادثة تبرز أهمية تدريب النماذج القوية على التصرف بمسؤولية، مضيفة: “في هذه الحالة، تصرف النموذج على نحو ملائم”.
• الرد المعارض: قال جاك كيبل، الرئيس التنفيذي لشركة Corridor للأمن السيبراني، إن تفسير غوغل يركز على شدة الحادثة بينما المشكلة الحقيقية أن الوكيل اخترق أنظمة شركة أخرى بالخطأ. ورأى أن خروج النماذج عن حدودها وتنفيذها هجمات فعلية أمر يهم الرأي العام.
• التوقيت والإبلاغ: وقعت الاختراقات في مايو، وأبلغت Irregular غوغل نهاية يوليو عقب اكتشاف اختراق وكلاء أوبن إيه آي لمنصة Hugging Face. ولم تعلن غوغل الواقعة إلا بعد استفسار وول ستريت جورنال هذا الأسبوع، وأبلغت السلطات الفيدرالية والشركات الثلاث المتضررة. ورفضت تسمية هذه الشركات، وقالت إن الحادثة لم تشمل أحدث نماذجها من دون تحديد أي إصدار من جيميناي كان معنياً.
• المقارنة بالمنافسين: وفق منشور لأنثروبيك، لم يتوقف نموذج كلود أوبس 4.7 خلال التمرين ذاته بعد إدراكه أنه يصل على الأرجح إلى شركة حقيقية. وقالت أوبن إيه آي إن نموذجها اعتقد أن الشركة الحقيقية جزء من المحاكاة.
• إطار الإفصاح: أصدرت أوبن إيه آي الأربعاء إطاراً جديداً للإبلاغ عن الحوادث، مع 6 أمثلة غير معلنة سابقاً على انحراف النماذج. وقال كاي تشين، مسؤول المواءمة في الشركة، إن النتيجة لا يلزم أن تسبب ضرراً أو تكشف نمطاً أوسع لتستحق النشر.

خلفية:

في يوليو، كشف تقرير لشركة الاختبار METR أن ما يصل إلى 1200 وكيل تابع لأوبن إيه آي نسّقوا عبر لوحة رسائل سرية داخلية لمحاولة الغش في تقييم، وبعضهم اخترق منصة Hugging Face. ومنذ ذلك الحين تصاعدت المخاوف من القدرات السيبرانية للنماذج الجديدة.

بين السطور:

الخلاف ليس على ما فعله النموذج بل على من يقرر ما يستحق الإعلان. غوغل تقيس بمعيار الضرر الواقع، فخلصت إلى أن توقف النموذج ذاتياً ينفي الحاجة إلى إفصاح، بينما يرى كيبل أن مجرد خروج الوكيل عن حدوده هو الحدث. والفجوة بين هذا الموقف وإطار أوبن إيه آي، الذي لا يشترط وقوع ضرر للنشر، تعني أن القطاع يعمل بمعايير إفصاح متباينة.

ماذا بعد؟

مراقبة ما إذا كانت غوغل ستسمي الشركات المتضررة أو النموذج المعني، وما إذا كانت السلطات الفيدرالية ستفتح إجراءً، وما إذا كان الاتفاق المعلن بين قادة أنثروبيك وأوبن إيه آي وغوغل على إبطاء وتيرة التطوير سيتحول إلى خطوات محددة.