تخيل أنك تدخل امتحان تاريخ دون أي تحضير مسبق، وتعتمد فقط على حدسك وما تتذكره بشكل غير مؤكد. ترى الرقم &#8220;1776&#8221; فتربطه سريعاً باستقلال الولايات المتحدة، وعند رؤية &#8220;1969&#8221; تفكر فوراً في هبوط الإنسان على سطح القمر. هذا النوع من التخمين المبني على الأنماط السطحية هو بالضبط ما تقوم به نماذج اللغة الكبيرة (LLMs) مثل ChatGPT. ورغم قدرتها الهائلة على صياغة الجمل والإجابة بطلاقة، إلا أن ما تقوم به لا يُشبه التفكير أو الفهم الحقيقي، بل هو في جوهره &#8220;تنبؤ إحصائي&#8221; بالكلمة التالية.



هذه الحقيقة تفسر لنا جانباً من القوة الهائلة لهذه النماذج، لكنها في الوقت نفسه تسلط الضوء على حدودها الجوهرية. وهنا يبرز السؤال الأهم: إذا كانت هذه النماذج بهذا الذكاء الظاهري، فلماذا تستمر في ارتكاب الأخطاء، أو في &#8220;هلوسة&#8221; معلومات خاطئة، أو حتى في إظهار تحيّزات لا تُغتفر أحياناً؟



لفهم ذلك، نحتاج إلى نظرة أعمق على كيفية تدريب هذه النماذج وكيفية عملها، كما أوضحت منصة &#8220;Interesting Engineering&#8221;.



<h3 class="wp-block-heading">كيف تتعلم نماذج اللغة؟</h3>



في البداية، تُجزّأ اللغة إلى وحدات صغيرة تُعرف بـ&#8221;الرموز&#8221; (tokens)، مثل &#8220;walk&#8221; و&#8221;ing&#8221;، بحيث يمكن لكل رمز أن يمثل جزءاً من كلمة أو كلمة كاملة. تُخصَّص لكل رمز قيمة عددية داخل شبكة عصبية ضخمة، وهي شبكة مكونة من طبقات متعددة من العُقد الحسابية التي تحاكي وظائف الدماغ البشري.



خلال عملية التدريب، تُضخ كميات هائلة من النصوص في النموذج، ويُطلب منه التنبؤ بالكلمة التالية. عندما يخطئ النموذج، يتم تعديل &#8220;الأوزان&#8221; التي تتحكم في كيفية معالجة الرموز، بحيث يقل الخطأ في التنبؤ في المرات التالية. هذه العملية تتكرر ملايين أو مليارات المرات، ما يجعل النموذج قادراً على التقاط أنماط لغوية معقدة.



لكن هنا تكمن المعضلة: النموذج لا &#8220;يفهم&#8221; المعلومات كما يفعل البشر، بل يحاكي ما يبدو أنه &#8220;معلومة صحيحة&#8221; فقط لأنه رآها كثيراً أثناء تدريبه.



<h3 class="wp-block-heading">لماذا ترتكب هذه النماذج أخطاء أو تهلوس؟</h3>



السبب الأساسي أن هذه النماذج تعتمد على &#8220;التخمين المُستند إلى الأنماط&#8221;، وليس على المعرفة الحقيقية أو الفهم العميق. لذا، فهي معرضة لما يُعرف بـ&#8221;الهلوسة&#8221;  أي اختراع معلومات تبدو منطقية لكنها غير صحيحة إطلاقاً. قد تكتب مرجعاً أكاديمياً غير موجود، أو تسرد معلومة تاريخية خاطئة بكل ثقة.



هذه الأخطاء ليست أكاذيب متعمدة، بل نتيجة طبيعية لافتقار النموذج إلى الحس بالواقع أو القدرة على التحقق من المعلومات. في حالات معينة، تكون هذه الأخطاء طفيفة، لكن في مجالات حساسة مثل القانون أو الطب، قد تكون العواقب كارثية.



<h3 class="wp-block-heading">التحيزات والمعلومات القديمة: نقاط ضعف مقلقة</h3>



تعتمد النماذج على البيانات التي تُجمع من الإنترنت، والتي تعكس في كثير من الأحيان تحيّزات المجتمع البشري، مثل التحيّزات الجندرية أو العرقية أو السياسية. وبالتالي، يمكن للنموذج أن يُعيد إنتاج هذه التحيزات دون وعي أو نية سيئة.



علاوة على ذلك، فإن &#8220;معرفة&#8221; النموذج تكون محدودة بوقت تدريبه. فإذا طرأت تغييرات جوهرية في العالم بعد آخر تحديث للنموذج، فإنه سيظل يعتمد على &#8220;حقيقته&#8221; التي أصبحت قديمة. هذا يسبب مشكلات كبيرة في المواضيع المتغيرة مثل القوانين، التطورات التقنية، أو حتى الكوارث والأزمات.



<h3 class="wp-block-heading">لماذا يصعب إصلاح هذه المشكلات؟</h3>



رغم الجهود الضخمة المبذولة لتحسين أداء هذه النماذج، إلا أن التحديات التقنية والبشرية تجعل من عملية التصحيح أمراً بالغ الصعوبة:



<ol>
<li>تكلفة تدريب النماذج: يتطلب تدريب نموذج جديد على بيانات محدثة موارد هائلة — من الوقت إلى الطاقة إلى البنية التحتية الحاسوبية المتطورة. </li>



<li>غموض الصندوق الأسود: لا يمكن تفسير قرارات النموذج بسهولة. فحتى مطوريه أنفسهم لا يمكنهم دائماً تحديد السبب الذي دفعه لتوليد استجابة معينة. </li>



<li>محدودية التدقيق البشري: من غير الواقعي فحص كل إجابة يصدرها الذكاء الاصطناعي، خصوصاً عند استخدامه على نطاق واسع في آلاف التطبيقات. </li>
</ol>



<h3 class="wp-block-heading">محاولات لإصلاح الخلل: حلول تقنية وتنظيمية</h3>



رغم كل هذه التحديات، هناك جهود كبيرة تبذل لتحسين أداء النماذج وتخفيف أضرارها المحتملة:



<ul>
<li>التعلّم المعزز بالتغذية الراجعة البشرية (RLHF): حيث يقيّم البشر نتائج النموذج ويعطون ملاحظات تساعد على تحسين الأداء المستقبلي. </li>



<li>الذكاء الاصطناعي الدستوري: كما في نموذج Claude من شركة Anthropic، حيث يتم تدريب النموذج على الالتزام بمبادئ أخلاقية محددة. </li>



<li>مبادرة Superalignment من OpenAI: وتهدف إلى تطوير نماذج ذكاء اصطناعي تتماشى تلقائياً مع القيم الإنسانية دون الحاجة إلى إشراف بشري دائم. </li>



<li>تشريعات وقوانين صارمة: مثل قانون الذكاء الاصطناعي في الاتحاد الأوروبي، الذي يُجبر الشركات على الالتزام بمعايير أمان صارمة عند استخدام الذكاء الاصطناعي في مجالات عالية الخطورة. </li>
</ul>



<h3 class="wp-block-heading">ما هو دور المستخدم؟ ولماذا لا يمكننا الاعتماد كلياً على الذكاء الاصطناعي؟</h3>



في نهاية المطاف، تظل نماذج اللغة أدوات قوية لكنها محدودة. لا يمكن معاملتها ككيانات واعية أو موثوقة بالكامل. لذا، تقع مسؤولية مراجعة المحتوى الذي تنتجه على عاتق البشر، خاصةً في المجالات التي تتطلب دقة ومصداقية عالية مثل الطب، القانون، التعليم، والإعلام.



الذكاء الاصطناعي ليس بديلاً للعقل البشري، بل هو امتداد له&nbsp; أداة تسهّل، تُسرّع، وتدعم، لكنها لا تُفكر ولا تتحقق من تلقاء نفسها. ولأن الخطأ الذي يصدر عنه قد يبدو مقنعاً، فإن الوعي البشري هو خط الدفاع الأخير.