أعلنت شركة “أوبن إي آي” الأمريكية حزمة جديدة لتعزيز أمن وسلامة تطوير نماذج الذكاء الاصطناعي. وتركز إجراءات أوبن إي آي للأمن والسلامة على المراقبة والعزل وتحسين مواءمة النماذج خلال مراحل التدريب والاختبار.
وأوضحت الشركة أن تسارع قدرات النماذج دفعها إلى رفع معايير الحماية. كما أشارت إلى مؤشرات أولية بشأن قدرات سيبرانية متقدمة لأحد نماذجها المرتقبة. وأكدت “أوبن إي آي” رسميا أنها تعمل على تشديد الضوابط داخل بيئات البحث والتطوير.
إجراءات أوبن إي آي للأمن والسلامة
تعتمد الشركة مقاربة ترتكز على ثلاثة محاور رئيسية.
يتمثل المحور الأول في مراقبة سلوك النماذج بصورة أوسع.
أما الثاني، فيركز على تحسين مواءمة النماذج مع الأهداف المحددة لها.
ويرتبط المحور الثالث بتعزيز الإجراءات الأمنية التي تحدد ما يمكن للنماذج الوصول إليه أو التأثير فيه.
وتشمل التدابير الجديدة مراحل مختلفة من عملية تطوير الذكاء الاصطناعي.
كما تمنح الشركة اهتماما أكبر لفترة ما بعد التدريب.
وتهدف هذه الخطوات إلى اكتشاف السلوك المثير للقلق مبكرا.
كما تسعى إلى تقليل احتمال تنفيذ عمليات غير مصرح بها داخل بيئات الاختبار.
تشديد حماية بيئات البحث
رفعت “أوبن إي آي” معايير الأمن في البيئات المخصصة لتدريب النماذج المتقدمة وتقييمها.
وتشمل الإجراءات تعزيز عزل أعباء العمل التي تتعامل مع أكواد غير موثوقة.
كما شددت الشركة الفصل بين بعض بيئات العمل وشبكة الإنترنت.
وتريد الشركة منع أي اختراق منفرد من فتح الطريق إلى شبكات أخرى.
ويشمل ذلك أيضا الخدمات الداعمة المرتبطة بعمليات البحث والتطوير.
وأكدت “أوبن إي آي” أن هذه الإجراءات تعتمد مبدأ تعدد طبقات الحماية.
كما تعمل الشركة على تحسين جمع السجلات الأمنية ومراقبتها.
وتختبر كذلك الحدود الأمنية بصورة مستمرة عبر أنظمة آلية.
مراقبة أكثر دقة لسلوك النماذج
توسع الإجراءات الجديدة نطاق مراقبة نشاط نماذج الذكاء الاصطناعي.
وقالت الشركة إن نظامها الجديد يعمل عبر مراحل متعددة.
ويراقب النظام النشاط الداخلي للنموذج خلال عمليات محددة.
كما يفحص استخدام الأدوات ومسار النشاط المرتبط بالنموذج.
ويركز البحث على مؤشرات قد تكشف سلوكا غير مصرح به.
وتشمل الأنماط المراقبة محاولات تجاوز الضوابط الأمنية أو الوصول غير المسموح به.
فالشركة توسع نطاقها لتشمل عمليات تدريب وتقييم تستخدم أدوات خارجية.
كما تمنح أولوية أكبر للنماذج التي تمتلك قدرات سيبرانية متقدمة.
تنبيه خلال 30 دقيقة
تستهدف “أوبن إي آي” إصدار تنبيه خلال 30 دقيقة من رصد نشاط يثير المخاوف.
وتمنح الشركة الحالات المرتبطة بحدود أمنية حساسة أولوية مرتفعة.
وبحسب النظام الحالي، تتلقى فرق السلامة والأمن والبحث هذه التنبيهات.
وتعمل الفرق بعدها على تقييم طبيعة النشاط المرصود.
وتقول الشركة إنها تتوقع وقف النشاط عند تعذر استبعاد الخطر خلال الفترة المحددة.
ويعكس هذا النظام رغبة الشركة في تقليص زمن الاستجابة للحوادث المحتملة.
كما يمنح فرقها فرصة التدخل أثناء عمليات الاختبار نفسها.
المراقبة تحتاج موارد حوسبة إضافية
لا تأتي هذه الإجراءات دون تكلفة تقنية.
وتقدر “أوبن إي آي” أن نظام المراقبة الحالي يحتاج موارد حوسبة إضافية.
وتعادل هذه الموارد نحو 20 في المائة من حوسبة عمليات الاستدلال الخاضعة للمراقبة.
لكن الشركة تؤكد أن التكلفة تختلف حسب طبيعة التدريب أو التقييم.
ويمثل ذلك عبئا إضافيا على عمليات تطوير النماذج.
غير أن الشركة تعتبر هذه الضوابط ضرورية مع ارتفاع مستوى القدرات.
قدرات سيبرانية متقدمة ترفع مستوى الحذر
ربطت “أوبن إي آي” تشديد إجراءاتها بالتقدم السريع للنماذج المتطورة.
وكشفت في بيانها الرسمي عن مؤشرات أولية تخص نموذجا مرتقبا يحمل اسم “Astra”.
وقالت إن هذا النموذج قد يصل إلى مستوى قدرات سيبرانية تصنفها الشركة “حرجة” ضمن إطار الاستعداد الخاص بها.
ولهذا السبب، شددت الشركة مستوى الحماية لبعض عمليات التدريب والتقييم.
كما أبقت عددا من أعباء العمل متوقفا إلى حين استيفاء المعايير الجديدة.
ويشكل ذلك جزءا من محاولة موازنة سرعة تطوير النماذج مع متطلبات السلامة.
المراقبة والمواءمة والأمن
تؤكد “أوبن إي آي” أن تطور الذكاء الاصطناعي يفرض تطوير وسائل الحماية بالسرعة نفسها.
ولهذا تعتمد الشركة حاليا على ثلاثة خطوط دفاع مترابطة.
الأول يرصد السلوك المثير للقلق.
والثاني يسعى إلى جعل النماذج أكثر التزاما بالأهداف المطلوبة.
أما الثالث، فيقيد وصول النماذج إلى الأنظمة والموارد الحساسة.
وتقول الشركة إنها ستواصل تطوير إطار الاستعداد الخاص بها.
كما تعتزم مشاركة مزيد من التفاصيل حول أنظمة المراقبة والمواءمة مستقبلا.
وتعكس الإجراءات الجديدة اتجاها نحو تشديد الرقابة على مراحل تطوير النماذج المتقدمة، بالتزامن مع تسارع قدراتها واتساع نطاق المهام التي تستطيع تنفيذها.
