OpenAI تمنح مجلس إدارتها حق نقض قرارات سام ألتمان في إطار جهودها لتعزيز السلامة

أعلنت شركة OpenAI عن إطار الاستعداد، وهو مجموعة من العمليات والأدوات لرصد وإدارة المخاطر المحتملة لنماذج الذكاء الاصطناعي القوية. ويأتي هذا الإعلان وسط فترة مضطربة للشركة، التي واجهت سابقًا انتقادات بسبب تعاملها مع إقالة وإعادة تعيين رئيسها التنفيذي، سام ألتمان.

يحدد إطار الاستعداد كيف تتبع OpenAI وتقيم وتتنبئ وتحمي من المخاطر الكارثية التي تشكلها النماذج القوية بشكل متزايد، مثل تلك التي يمكن استخدامها للهجمات الإلكترونية، أو الإقناع الجماعي، أو الأسلحة المستقلة.

ويعد استخدام بطاقات أداء المخاطر لنماذج الذكاء الاصطناعي بمنزلة المكون الرئيسي لإطار الاستعداد، وتقيس هذه البطاقات وتتتبع مؤشرات مختلفة للضرر المحتمل، مثل قدرات النموذج ونقاط الضعف والتأثيرات.

وتحدث الشركة بطاقات الأداء بانتظام، مما يؤدي إلى إجراء مراجعات وتدخلات عند الوصول إلى عتبات مخاطر معينة.

وعلى الرغم من أن إطار الاستعداد يمنح سام ألتمان وفريقه سلطة اتخاذ القرار، إلا أنه يمنح مجلس الإدارة أيضًا حق نقض قرارات القيادة. وتقع سلطة اتخاذ القرار النهائي على عاتق مجلس الإدارة بدلًا من الرئيس التنفيذي.

يبدو أن إطار الاستعداد الجديد يشير إلى أن سام ألتمان وفريقه يظلون خاضعين للمساءلة من مجلس إدارة الشركة. ومن شأن هذا أن يتماشى أيضًا مع ما قاله ألتمان علنًا.

ولكن من المهم ملاحظة أن إطار الاستعداد لا يزال في طور التطوير، ومن غير الواضح بعد كيف سيعمل في الممارسة العملية.