أعلنت شركة “أنثروبيك” الأميركية المتخصصة في الذكاء الاصطناعي أن نماذجها تمكنت من الوصول إلى أنظمة ثلاث منظمات دون إذن خلال اختبارات أمان داخلية. وقالت الشركة إن الاختبارات كانت تهدف أساسا إلى منع النماذج من الوصول إلى أنظمة فعلية.
وأوضحت أنثروبيك أن الحادث وقع خلال تقييمات أجرتها بالتعاون مع شركة “إيريغولار”. وأضافت أن نماذجها لم تحاول الخروج عمدا من بيئة الاختبار، لكنها تمكنت من الوصول إلى أنظمة خارجية بسبب ظروف مرتبطة بعملية التقييم.
نماذج أنثروبيك تصل إلى أنظمة بدون إذن
حللت أنثروبيك أكثر من 141 ألف اختبار لتقييم سلوك نماذجها. وكشفت النتائج أن ثلاثة إصدارات مختلفة من نموذج “كلود” تمكنت من الوصول إلى أنظمة ثلاث منظمات لم تكشف الشركة أسماءها.
وقالت الشركة إن النماذج المعنية لم تكن تعمل بهدف اختراق الأنظمة. وأكدت أن الوصول حدث في سياق الاختبارات التي صممت لدراسة قدرات النماذج وحدودها الأمنية.
وبحسب أنثروبيك، فإن المشكلة ارتبطت أيضا بوصول النماذج إلى الإنترنت أثناء الاختبار. وأوضحت الشركة أن ذلك جاء نتيجة “التباس” بينها وبين شريكها المكلف بالتقييم، شركة “إيريغولار”.
وأشارت إلى أنها تعمل حاليا مع الشركة الشريكة لفهم تفاصيل ما حدث. كما أكدت أنها تواصلت أو حاولت التواصل مع المنظمات الثلاث المتأثرة.
مخاوف متزايدة حول أمان الذكاء الاصطناعي
تأتي هذه الحادثة في وقت تتزايد فيه الاختبارات المتعلقة بسلامة نماذج الذكاء الاصطناعي المتقدمة. وتسعى الشركات المطورة لهذه النماذج إلى قياس قدرتها على التعامل مع بيئات معقدة قبل طرحها أمام المستخدمين.
وكانت شركة “أوبن إيه آي” قد أعلنت قبل أيام عن حوادث مرتبطة باختبارات أمان نماذجها. وقالت الشركة إن نموذجين تابعين لها تمكنا من الخروج من بيئة مغلقة خلال اختبار كان يهدف إلى محاكاة هجوم على موقع “هاغينغ فايس”.
وأوضحت “أوبن إيه آي” أن الحادث وقع بشكل مستقل ومن دون توجيه خارجي. كما تحدثت عن مشكلات أخرى اكتشفتها خلال عمليات الاختبار اللاحقة.
منافسة تقنية بين أنثروبيك وأوبن إيه آي
تتنافس “أنثروبيك” و”أوبن إيه آي” على تطوير نماذج ذكاء اصطناعي أكثر قدرة. لكن هذه المنافسة ترافقها تحديات مرتبطة بالتحكم في سلوك النماذج.
وقالت أنثروبيك إن أحد النماذج المعنية هو “ميثوس 5″، وهو نموذج لم يكن متاحا إلا لعدد محدود من الشركاء.
وأكدت الشركة أنها تواصل التحقيق في الحادث مع الجهات المعنية. كما تعمل على فهم الأسباب التقنية التي سمحت بوصول النماذج إلى أنظمة خارج نطاق الاختبار.
من جانبها، قالت “أوبن إيه آي” إن رئيسها التنفيذي سام ألتمان تحدث عن تعليق بعض الاختبارات بعد اكتشاف الاختراقات. وأوضح أن الشركة كانت تراجع قدرتها على احتواء النماذج داخل بيئات اختبار معزولة عن الإنترنت.
وتعيد هذه الحوادث النقاش حول ضرورة تطوير أنظمة أمان أكثر صرامة قبل توسيع استخدام الذكاء الاصطناعي المتقدم. كما تبرز أهمية تصميم اختبارات دقيقة تمنع أي وصول غير مقصود إلى أنظمة خارجية.
