آخر الأخبار
إطلاق “Patronus AI” لأول منصة لمنع هلوسات الذكاء الاصطناعي وضمان سلامة الأنظمة التوليدية

في خطوة رائدة تهدف إلى تحسين أداء أنظمة الذكاء الاصطناعي وضمان سلامتها، أطلقت شركة Patronus AI الناشئة منصتها الذاتية للكشف عن هلوسات الذكاء الاصطناعي ومنعها في الوقت الفعلي. تصف الشركة منصتها بأنها بمثابة “مدقق إملائي متقدم” للذكاء الاصطناعي، حيث تركز على اكتشاف الأخطاء والتشوهات المحتملة في الإجابات التي تُقدمها الأنظمة التوليدية قبل أن تصل إلى المستخدمين النهائيين. هذه الأداة تتيح للمطورين والشركات ضمان جودة مخرجات الذكاء الاصطناعي وتقليل المخاطر الناتجة عن العيوب والسلوك غير المتوقع.
مشكلة هلوسات الذكاء الاصطناعي: خطر جديد يتطلب حلولاً مبتكرة
تعتبر الهلوسات أو الأخطاء الغريبة التي قد تنتجها نماذج الذكاء الاصطناعي التوليدي واحدة من أبرز التحديات التي تواجهها الشركات حاليًا. وفقًا لتقرير صادر عن Venturebeat، أظهرت دراسة قامت بها Patronus AI أن النماذج المتقدمة مثل GPT-4 تُعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44%، كما أن العديد من النماذج فشلت في اجتياز اختبارات السلامة الأساسية بنسبة تتجاوز 20%. هذا يُظهر أن أنظمة الذكاء الاصطناعي، على الرغم من تطورها، لا تزال تعاني من عيوب كبيرة تؤثر على دقتها وسلامتها، ما يعرّض الشركات لمخاطر قانونية وأمنية.
يشير فاروق جوشي، مدير المنتجات في Patronus AI، إلى أن تحسين النماذج ونتائج الذكاء الاصطناعي لا يقتصر على تجنب العواقب السلبية، بل يُسهم أيضًا في تعزيز جودة المنتج بشكل عام. وبدلاً من وضع حواجز أمان ثابتة، تكمن أهمية التحسين المستمر لأنظمة الذكاء الاصطناعي لمواكبة التطور السريع في هذا المجال.
مميزات منصة Patronus AI وأدواتها المتقدمة
توفر Patronus AI مجموعة من الأدوات المتقدمة التي تعمل على تعزيز سلامة الذكاء الاصطناعي التوليدي وكشف الأخطاء الناتجة عن الهلوسات:
- أداة تقييم القضاة (Judge Evaluators): تتيح هذه الأداة للشركات كتابة قواعد مخصصة باستخدام لغة إنجليزية بسيطة، ما يسهل تحديد المعايير التي تتوافق مع احتياجات الشركات، سواء في مجال الامتثال التنظيمي في القطاع المالي أو الدقة الطبية في المجال الصحي.
- نموذج Lynx: يُعدّ هذا النموذج أحد الركائز الأساسية للنظام، حيث يتم استخدامه للكشف عن الأخطاء بشكل أكثر دقة. قد أظهرت الاختبارات أن Lynx يتفوق على GPT-4 في الكشف عن الأخطاء الطبية بنسبة 8.3%. يعمل هذا النموذج على توفير فحص فوري ودقيق للهلوسات في الوقت الحقيقي.
- أداة CopyrightCatcher: تُستخدم هذه الأداة للكشف عن إعادة إنتاج المحتوى المحمي بحقوق النشر، مما يساعد الشركات في تجنب المشكلات القانونية المتعلقة بحقوق الملكية الفكرية عند استخدام الذكاء الاصطناعي.
- FinanceBench: تُعدّ هذه الأداة معيارًا جديدًا لتقييم أداء النماذج الذكاء الاصطناعي في الإجابة على الأسئلة المتعلقة بالقطاع المالي. يساعد هذا الأداة الشركات في التأكد من أن إجابات الأنظمة التوليدية تتماشى مع المعايير المالية الدقيقة.
تسعير مرن وجذب لشركات كبيرة وصغيرة
تبنّت Patronus AI نموذج تسعير يعتمد على الاستخدام، مما يتيح للشركات الصغيرة والمتوسطة الاستفادة من تقنيات سلامة الذكاء الاصطناعي المتقدمة دون الحاجة لتحمل تكاليف باهظة. تبدأ الأسعار من 10 دولارات لكل 1000 استدعاء API بسرعة منخفضة، بينما تبلغ 20 دولارًا للسرعة العالية.
وقد لاقت المنصة اهتمامًا واسعًا من الشركات الكبرى مثل HP، AngelList، وPearson، كما أبرمت الشركة شراكات استراتيجية مع Nvidia، MongoDB، وIBM. هذه الشراكات تؤكد على فعالية النظام وقدرته على تقديم حلول مبتكرة لتحديات الذكاء الاصطناعي المعقدة.
تأثير التشريعات المستقبلية على صناعة الذكاء الاصطناعي
في وقت يشهد فيه الذكاء الاصطناعي تطورات سريعة وواسعة، تزداد أهمية ضمان سلامة الأنظمة التوليدية. مع زيادة التشريعات، بما في ذلك الأمر التنفيذي الذي أصدره الرئيس الأمريكي جو بايدن بشأن الذكاء الاصطناعي، بالإضافة إلى قانون الاتحاد الأوروبي للذكاء الاصطناعي، من المتوقع أن تواجه الشركات في المستقبل متطلبات قانونية لضمان أن أنظمة الذكاء الاصطناعي التي تستخدمها آمنة ولا تتسبب في مشاكل قانونية أو أخطاء غير متوقعة.
التوجه المستقبلي
مع استمرار ازدياد الاعتماد على الذكاء الاصطناعي التوليدي في مختلف الصناعات مثل خدمة العملاء، التسويق الرقمي، و القطاع الصحي، تبقى سلامة هذه الأنظمة أولوية حيوية. و Patronus AI تقدم الآن الحل المثالي لضمان دقة الأداء وحمايته من المخاطر المحتملة.
إطلاق هذه المنصة يمثل خطوة هامة نحو المستقبل، حيث تشير التقارير إلى أن المزيد من الشركات ستحتاج إلى تبني حلول متقدمة مثل هذه لضمان سلامة أنظمتها التوليدية في المستقبل.