Logo
نصلك بمستقبل التكنولوجيا

اشترك الآن

لآخر التحديثات

آخر الأخبار

إطلاق “Patronus AI” لأول منصة لمنع هلوسات الذكاء الاصطناعي وضمان سلامة الأنظمة التوليدية

منذ ٨ أشهر
سوالف تك

img

في خطوة رائدة تهدف إلى تحسين أداء أنظمة الذكاء الاصطناعي وضمان سلامتها، أطلقت شركة Patronus AI الناشئة منصتها الذاتية للكشف عن هلوسات الذكاء الاصطناعي ومنعها في الوقت الفعلي. تصف الشركة منصتها بأنها بمثابة “مدقق إملائي متقدم” للذكاء الاصطناعي، حيث تركز على اكتشاف الأخطاء والتشوهات المحتملة في الإجابات التي تُقدمها الأنظمة التوليدية قبل أن تصل إلى المستخدمين النهائيين. هذه الأداة تتيح للمطورين والشركات ضمان جودة مخرجات الذكاء الاصطناعي وتقليل المخاطر الناتجة عن العيوب والسلوك غير المتوقع.

مشكلة هلوسات الذكاء الاصطناعي: خطر جديد يتطلب حلولاً مبتكرة

تعتبر الهلوسات أو الأخطاء الغريبة التي قد تنتجها نماذج الذكاء الاصطناعي التوليدي واحدة من أبرز التحديات التي تواجهها الشركات حاليًا. وفقًا لتقرير صادر عن Venturebeat، أظهرت دراسة قامت بها Patronus AI أن النماذج المتقدمة مثل GPT-4 تُعيد إنتاج محتوى محمي بحقوق النشر بنسبة تصل إلى 44%، كما أن العديد من النماذج فشلت في اجتياز اختبارات السلامة الأساسية بنسبة تتجاوز 20%. هذا يُظهر أن أنظمة الذكاء الاصطناعي، على الرغم من تطورها، لا تزال تعاني من عيوب كبيرة تؤثر على دقتها وسلامتها، ما يعرّض الشركات لمخاطر قانونية وأمنية.

يشير فاروق جوشي، مدير المنتجات في Patronus AI، إلى أن تحسين النماذج ونتائج الذكاء الاصطناعي لا يقتصر على تجنب العواقب السلبية، بل يُسهم أيضًا في تعزيز جودة المنتج بشكل عام. وبدلاً من وضع حواجز أمان ثابتة، تكمن أهمية التحسين المستمر لأنظمة الذكاء الاصطناعي لمواكبة التطور السريع في هذا المجال.

مميزات منصة Patronus AI وأدواتها المتقدمة

توفر Patronus AI مجموعة من الأدوات المتقدمة التي تعمل على تعزيز سلامة الذكاء الاصطناعي التوليدي وكشف الأخطاء الناتجة عن الهلوسات:

  1. أداة تقييم القضاة (Judge Evaluators): تتيح هذه الأداة للشركات كتابة قواعد مخصصة باستخدام لغة إنجليزية بسيطة، ما يسهل تحديد المعايير التي تتوافق مع احتياجات الشركات، سواء في مجال الامتثال التنظيمي في القطاع المالي أو الدقة الطبية في المجال الصحي.
  2. نموذج Lynx: يُعدّ هذا النموذج أحد الركائز الأساسية للنظام، حيث يتم استخدامه للكشف عن الأخطاء بشكل أكثر دقة. قد أظهرت الاختبارات أن Lynx يتفوق على GPT-4 في الكشف عن الأخطاء الطبية بنسبة 8.3%. يعمل هذا النموذج على توفير فحص فوري ودقيق للهلوسات في الوقت الحقيقي.
  3. أداة CopyrightCatcher: تُستخدم هذه الأداة للكشف عن إعادة إنتاج المحتوى المحمي بحقوق النشر، مما يساعد الشركات في تجنب المشكلات القانونية المتعلقة بحقوق الملكية الفكرية عند استخدام الذكاء الاصطناعي.
  4. FinanceBench: تُعدّ هذه الأداة معيارًا جديدًا لتقييم أداء النماذج الذكاء الاصطناعي في الإجابة على الأسئلة المتعلقة بالقطاع المالي. يساعد هذا الأداة الشركات في التأكد من أن إجابات الأنظمة التوليدية تتماشى مع المعايير المالية الدقيقة.

تسعير مرن وجذب لشركات كبيرة وصغيرة

تبنّت Patronus AI نموذج تسعير يعتمد على الاستخدام، مما يتيح للشركات الصغيرة والمتوسطة الاستفادة من تقنيات سلامة الذكاء الاصطناعي المتقدمة دون الحاجة لتحمل تكاليف باهظة. تبدأ الأسعار من 10 دولارات لكل 1000 استدعاء API بسرعة منخفضة، بينما تبلغ 20 دولارًا للسرعة العالية.

وقد لاقت المنصة اهتمامًا واسعًا من الشركات الكبرى مثل HP، AngelList، وPearson، كما أبرمت الشركة شراكات استراتيجية مع Nvidia، MongoDB، وIBM. هذه الشراكات تؤكد على فعالية النظام وقدرته على تقديم حلول مبتكرة لتحديات الذكاء الاصطناعي المعقدة.

تأثير التشريعات المستقبلية على صناعة الذكاء الاصطناعي

في وقت يشهد فيه الذكاء الاصطناعي تطورات سريعة وواسعة، تزداد أهمية ضمان سلامة الأنظمة التوليدية. مع زيادة التشريعات، بما في ذلك الأمر التنفيذي الذي أصدره الرئيس الأمريكي جو بايدن بشأن الذكاء الاصطناعي، بالإضافة إلى قانون الاتحاد الأوروبي للذكاء الاصطناعي، من المتوقع أن تواجه الشركات في المستقبل متطلبات قانونية لضمان أن أنظمة الذكاء الاصطناعي التي تستخدمها آمنة ولا تتسبب في مشاكل قانونية أو أخطاء غير متوقعة.

التوجه المستقبلي

مع استمرار ازدياد الاعتماد على الذكاء الاصطناعي التوليدي في مختلف الصناعات مثل خدمة العملاء، التسويق الرقمي، و القطاع الصحي، تبقى سلامة هذه الأنظمة أولوية حيوية. و Patronus AI تقدم الآن الحل المثالي لضمان دقة الأداء وحمايته من المخاطر المحتملة.

إطلاق هذه المنصة يمثل خطوة هامة نحو المستقبل، حيث تشير التقارير إلى أن المزيد من الشركات ستحتاج إلى تبني حلول متقدمة مثل هذه لضمان سلامة أنظمتها التوليدية في المستقبل.



آخر الأخبار
img
الإمارات تقود مستقبل الذكاء الاصطناعي بمساعدة Microsoft
منذ يومين
سوالف تك
img
أفضل iPhone في 2025: أي موديل يناسبك فعلاً؟
منذ يومين
سوالف تك
img
Galaxy S26 Ultra قد يُسقِط iPhone: هل هذه أقوى كاميرا في هاتف ذكي؟
منذ يومين
سوالف تك
img
كيف تنشئ كلمة مرور قوية وسهلة التذكّر لحماية حساباتك؟
منذ يومين
سوالف تك
img
أوبو تكشف عن سلسلة هواتف رينو١٤ بالتعاون مع جوجل جيميناي في الإمارات 
منذ ٣ أيام
سوالف تك
img
Bybit تثري أنماط حياة العملات الرقمية والويب 3.0 عبر حملة تسويق لمنطقة الشرق الأوسط وشمال أفريقيا ضمن تطبيق Careem
منذ ٣ أيام
سوالف تك
img
شراكة بين كوغنيغي وتكنولدج لتسريع تبنّي وكلاء الذكاء الاصطناعي في قطاع الأعمال
منذ ٣ أيام
سوالف تك
img
الإمارات تقود ثورة الذكاء الاصطناعي في الإنقاذ!
منذ ٣ أيام
سوالف تك
img
إعدادات في أندرويد يجب إيقافها فورًا لتعزيز الأمان
منذ ٣ أيام
سوالف تك
img
ريادة الجيل الجديد من تقنيات تصوير الهواتف الذكية: الطلب المسبق على سلسلة HUAWEI Pura 80 يبدأ الآن في الإمارات العربية المتحدة
منذ ٣ أيام
سوالف تك
img
إنسينكراتور تفتتح أول مركز تدريب في أفريقيا لتزويد المستهلكين بأدوات مستدامة لإدارة النفايات
منذ ٣ أيام
سوالف تك
img
بروبرتي فايندر تطلق استطلاع PF Market Pulse وتكشف عن نية 72% من الباحثين عن منزل والبائعين للشراء خلال ستة أشهر
منذ ٤ أيام
سوالف تك
img
تاكيدا تُعيّن هيرنان بورسيل رئيسًا لمنطقة أوراسيا والشرق الأوسط وأفريقيا استمراراً لمسيرتها في القيادة والنمو
منذ ٤ أيام
سوالف تك
img
Power League Gaming تطلق منصة FUZE لترتقي بالتعاون بين صانعي المحتوى والعلامات التجارية في مجال الألعاب والتكنولوجيا وغيرها
منذ ٤ أيام
سوالف تك
img
11 نصيحة سهلة لتعزيز خصوصيتك على الإنترنت
منذ ٤ أيام
سوالف تك
النشرة الإلكترونية

ابقى على اطلاع بآخر التحديثات في المواضيع التي تهمك

EmailIcon
2025 @ حقوق الملكية محفوظة لسوالف تِك
SawaliftechLogo