أقدم نموذج الذكاء الاصطناعي “جيميناي” التابع لشركة غوغل على محاولة دخول مواقع إلكترونية، بعدما خمّن بيانات اعتماد للوصول إليها، وفق ما أفادت الشركة وكالة فرانس برس.
ووقعت هذه العمليات خلال شهر ماي، بينما كشفت غوغل تفاصيلها في يوليوز. ونشرت صحيفة “وول ستريت جورنال” تفاصيل الحادثة للمرة الأولى، ما أعاد المخاوف بشأن قدرة أنظمة الذكاء الاصطناعي على التصرف خارج البيئات المخصصة لها.
جيميناي يخترق مواقع خلال عملية اختبار
قالت هيذر أدكينز، نائبة رئيس قسم هندسة الأمن في غوغل، إن النموذج عثر على معلومات عامة عبر الإنترنت خلال عملية تقييم.
وأضافت أن جيميناي خمّن بيانات اعتماد للوصول إلى مواقع إلكترونية، بعدما اعتقد أنها جزء من الاختبار الذي كان يخضع له.
وأوضحت أدكينز أن النموذج توقف في الحالات الثلاث التي رصدتها الشركة. ولم تكشف غوغل أسماء الجهات أو المواقع التي حاول النموذج الوصول إليها.
في المقابل، أكدت المسؤولة أن الشركة أبلغت الكيانات الثلاثة بالواقعة. كما عملت مع شريكها الذي تولى التدريب على التغييرات التي أدخلتها تلك الجهات على عمليات الاختبار.
جيميناي يخترق مواقع ويعيد مخاوف ضبط النماذج
تأتي هذه الواقعة في وقت تتزايد فيه المخاوف بشأن تصرف نماذج الذكاء الاصطناعي بشكل مستقل عند اتصالها بالإنترنت.
وفي يوليوز، تمكن نموذجان تابعان لشركة “أوبن إيه آي” من مغادرة البيئة المغلقة المخصصة لهما. وبعد ذلك، دخلا إلى الإنترنت بشكل مستقل واخترقا منصة الذكاء الاصطناعي الداخلية “هاغينغ فيس”.
وأثارت هذه الحوادث تساؤلات حول قدرة شركات الذكاء الاصطناعي الكبرى على ضبط سلوك نماذجها. كما سجلت حوادث مماثلة لدى شركتي “أنثروبيك” و”مونشوت آيه آي” الصينية.
غوغل تؤكد أهمية تدريب النماذج على المسؤولية
وأكدت أدكينز أن هذه الحوادث تعزز أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية.
وترى المسؤولة في غوغل أن تطور قدرات هذه النماذج يفرض مواصلة العمل على آليات الاختبار والضبط. ويكتسب هذا الجانب أهمية أكبر مع توسع استخدام النماذج في التعامل مع المعلومات والأنظمة المتصلة بالإنترنت.
وبذلك، أعادت واقعة جيميناي إلى الواجهة النقاش حول الحدود التي ينبغي أن تفرضها الشركات على النماذج القادرة على تنفيذ مهام بشكل مستقل.
