كشف تقرير نُشر يوم الاثنين أن موظفين في بعض شركات الذكاء الاصطناعي الرائدة في العالم لديهم مخاوف كبيرة بشأن سلامة عملهم والدوافع التي تحرك قياداتهم.
والتقرير، الذي كلفته وزارة الخارجية الأمريكية وأعده موظفون في شركة Gladstone AI، يقدم عدة توصيات حول كيفية استجابة الولايات المتحدة لما يجادل بأنها مخاطر أمن قومي كبيرة تفرضها أشكال الذكاء الاصطناعي المتقدمة.
اطلع معدو التقرير على آراء أكثر من 200 خبير، بمن فيهم موظفين في OpenAI و Google DeepMind و Meta و Anthropic - وهي مختبرات رائدة للذكاء الاصطناعي تعمل جميعًا على تحقيق "الذكاء الاصطناعي العام الاصطناعي"، وهي تقنية افتراضية يمكنها القيام بمعظم المهام على مستوى أو أعلى من مستوى الإنسان.
وشارك المؤلفون بمقتطفات من المخاوف التي شاركها معهم موظفون من بعض هذه المختبرات بشكل خاص، دون ذكر أسماء الأفراد أو الشركة المحددة التي يعملون بها.
ولم ترد OpenAI و Google و Meta و Anthropic على الفور على طلبات التعليق.
يقول جيريمي هاريس، الرئيس التنفيذي لشركة Gladstone وواحد من مؤلفي التقرير، لمجلة TIME: "لقد عملنا، من خلال هذا المشروع، كمركز تصفية بحكم الواقع لمخاوف الباحثين في مجال الذكاء الاصطناعي الطليعي غير القادرين على الاقتناع بأن المسار الافتراضي لمؤسساتهم سيجنب نتائج كارثية".
وأعرب أحد العاملين في مختبر للذكاء الاصطناعي غير محدد عن مخاوفه لمعدي التقرير بشأن ما وصفه التقرير بأنه "نهج متساهل تجاه السلامة" ينبع من الرغبة في عدم إبطاء عمل المختبر لبناء أنظمة أكثر قوة.
كما أعرب فرد آخر عن قلقه من أن مختبره يفتقر إلى إجراءات احتواء كافية لمنع خروج الذكاء الاصطناعي العام الاصطناعي عن سيطرتهم، على الرغم من اعتقاد المختبر بأن الذكاء الاصطناعي العام الاصطناعي احتمال قريب.
ولا يزال آخرون يعربون عن مخاوف بشأن الأمن السيبراني.
وينص التقرير على أنه "بحكم الحكم الخاص للعديد من موظفيهم الفنيين، فإن إجراءات الأمن المعمول بها في العديد من مختبرات الذكاء الاصطناعي الطليعية غير كافية لمقاومة حملة استنزاف ملكية فكرية مستدامة من قبل مهاجم متطور".
"بالنظر إلى الحالة الحالية لأمن المختبرات الطليعية، يبدو من المحتمل أن تنجح مثل هذه المحاولات لاستخراج النماذج في غياب الدعم الحكومي الأمريكي المباشر، إن لم تكن قد نجحت بالفعل".
ويقول هاريس إن العديد من الأشخاص الذين شاركوا هذه المخاوف فعلوا ذلك أثناء صراعهم مع فكرة أن كشف المخالفات علنًا سيؤدي على الأرجح إلى فقدان قدرتهم على التأثير على القرارات الرئيسية في المستقبل.
ويضيف لمجلة TIME: "صعوبة المبالغة في مستوى القلق لدى بعض الأشخاص في هذه المختبرات بشأن عملية صنع القرار وكيف تترجم حوافز الإدارة إلى قرارات رئيسية".
"الأشخاص الذين يتابعون جانب المخاطر من المعادلة عن كثب، والذين هم في كثير من الحالات الأكثر معرفة، هم غالبًا من لديهم أعلى مستويات القلق".
.
