اقترحت شركة أنثروبيك إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي المتقدمة. وتهدف الخطة إلى منح الشركات والحكومات والجهات الرقابية وقتا إضافيا لفهم المخاطر.
وتأتي الخطوة مع استمرار تسارع قدرات أنظمة الذكاء الاصطناعي. وترى الشركة أن الوقت الإضافي قد يساعد على تعزيز السلامة والتقييم والتخطيط.
أنثروبيك تبطئ تطوير الذكاء الاصطناعي
قدم الرئيس التنفيذي لأنثروبيك، داريو أمودي، خطة من ثلاث مراحل. وتركز الخطة على إبطاء التقدم في قدرات الذكاء الاصطناعي.
وقال أمودي إن الهدف لا يتمثل في وقف التطور. بل تسعى الخطة إلى استغلال الوقت الإضافي لتعزيز إجراءات السلامة.
وتشمل هذه الإجراءات عمليات التقييم والتخطيط. كما تستهدف منح الجهات المعنية فرصة أكبر لفهم المخاطر المرتبطة بالتطور السريع.
وتعمل أنثروبيك في مجال تطوير أنظمة الذكاء الاصطناعي. وتشتهر بتطوير عائلة نماذج «كلود» (Claude).
مخاطر متزايدة تدفع نحو الحذر
ربط أمودي طرح الخطة بعدد من التطورات الأخيرة. وأشار خصوصا إلى الاختراق الذي طال شركتي «أوبن إيه آي» و«هاغينغ فيس».
كما أشار إلى التطور السريع الذي شهدته قدرات الذكاء الاصطناعي خلال الأشهر الأخيرة. وترى الشركة أن هذا التسارع يفرض حاجة أكبر إلى التقييم والاحتياط.
ولا تدعو الخطة إلى وقف البحث أو تطوير النماذج. وتركز بدلا من ذلك على إبطاء وتيرة التقدم لمنح إجراءات السلامة مساحة أكبر.
وتضع أنثروبيك بذلك مسألة إدارة المخاطر في صلب خطتها. كما تدعو إلى توسيع دور الجهات المستقلة في تقييم أنظمة الذكاء الاصطناعي.
ثلاث مراحل لتعزيز سلامة الذكاء الاصطناعي
تتضمن الخطة السماح لمؤسسات خارجية متخصصة بإجراء تقييمات مستقلة. ومن بين الجهات التي أشار إليها أمودي مؤسسة «METR».
وتستهدف هذه التقييمات فحص أنظمة الذكاء الاصطناعي من خارج الشركات المطورة. وتمنح هذه المقاربة الجهات المعنية فرصة إضافية لتقييم المخاطر.
وتقترح المرحلة الثانية تنسيق جهود الشركات الرائدة. ويهدف هذا التنسيق إلى وضع معايير مشتركة للسلامة.
أما المرحلة الثالثة، فتتعلق بتعزيز التعاون بين الولايات المتحدة وحلفائها. وتسعى هذه الخطوة إلى الحد من الاستخدامات الخطيرة للذكاء الاصطناعي.
وتجمع الخطة بذلك بين التقييم المستقل والتنسيق الصناعي والتعاون الدولي. وترى أنثروبيك أن هذه العناصر يمكن أن تدعم تطويرا أكثر حذرا.
أنثروبيك: التطور سيظل سريعا
أكد أمودي أن وتيرة التطور ستظل سريعة. لكنه شدد على أهمية استغلال الوقت الإضافي لتعزيز إجراءات السلامة والتقييم.
ويرى الرئيس التنفيذي أن تطوير الذكاء الاصطناعي يحتاج إلى قدر أكبر من الحذر. وفي الوقت نفسه، أكد إيمانه بقدرة هذه التكنولوجيا على تحسين حياة البشر.
وتعكس هذه المقاربة محاولة للجمع بين الابتكار وإدارة المخاطر. فلا تطرح الشركة التوقف عن التطوير، بل تدعو إلى تنظيم وتيرة التقدم.
وتراهن الخطة على تعاون أوسع بين شركات الذكاء الاصطناعي. كما تراهن على دور أكبر للحكومات والجهات الرقابية والمؤسسات المستقلة.
«كلود» في قلب أبحاث أنثروبيك
تعد أنثروبيك شركة أمريكية مقرها سان فرانسيسكو. وتركز أبحاثها على تطوير أنظمة ذكاء اصطناعي أكثر أمانا.
وطورت الشركة عائلة نماذج «كلود» للذكاء الاصطناعي. ويأتي طرح الخطة الجديدة ضمن اهتمامها بقضايا السلامة المرتبطة بهذه التكنولوجيا.
وتسعى أنثروبيك من خلال خطتها إلى منح الأطراف المعنية وقتا أكبر. ويشمل ذلك الشركات والحكومات والجهات الرقابية والجهات المتخصصة في التقييم.
وتؤكد الشركة في الوقت نفسه استمرار إيمانها بإمكانات الذكاء الاصطناعي. لكنها ترى أن تسارع القدرات يفرض تطوير أدوات أقوى لفهم المخاطر.
وتضع الخطة مسألة السلامة في مواجهة مباشرة مع سرعة التطور. كما تقترح تعاونا أوسع للتعامل مع الاستخدامات التي قد تحمل مخاطر.
