آخر الأخبار
أداة Whisper من OpenAI: انتقادات متزايدة حول اختلاق النصوص

تواجه أداة التفريغ الصوتي “Whisper” التابعة لشركة OpenAI انتقادات متزايدة بسبب قدرتها على “اختلاق” نصوص غير دقيقة أثناء تحويل التسجيلات الصوتية إلى نصوص مكتوبة. هذه الظاهرة تثير قلقًا خاصًا في بعض القطاعات الحساسة، مثل المستشفيات والمراكز الطبية، التي تعتمد على دقة المعلومات المُفرّغة.
معلومات غير دقيقة تثير المخاوف
أفاد عدد من المطورين والباحثين الأكاديميين بأن “Whisper” تقوم بإدراج معلومات خاطئة، تتضمن أدوية وهمية وتعليقات ذات طابع عنصري، وحتى عبارات تتعلق بالعنف. هذه الاختلاقات يمكن أن تشكل خطرًا حقيقيًا في بيئات حيوية تتطلب دقة متناهية.
وعلى الرغم من التحذيرات، حققت النسخة الأخيرة من الأداة حوالي 4.2 مليون عملية تحميل عبر منصة Hugging Face المفتوحة المصدر خلال الشهر الماضي. كما تم دمج الأداة في منصات الحوسبة السحابية الخاصة بشركتي أوراكل ومايكروسوفت، بالإضافة إلى بعض إصدارات ChatGPT.
انتشار المشكلات في البيانات
تشير الأدلة التي جمعتها جامعات وفرق بحثية متخصصة إلى أن هذه المشكلات ليست حالات فردية، بل هي ظاهرة واسعة الانتشار. على سبيل المثال، رصد باحث من جامعة ميشيغان وجود نصوص مُختلَقة في ثمانية من كل عشرة تسجيلات لمناسبات عامة. وفي دراسة أخرى، وثق علماء الحاسوب 187 حالة “هلوسة” خلال تحليل أكثر من 13 ألف تسجيل صوتي، بينما عُثر على هذه الاختلاقات في تفريغ نصي لنحو 26 ألف تسجيل.
المخاطر في المجال الطبي
تزداد الإشكالية عند النظر إلى الاستخدامات الطبية للأداة. حيث أفادت التقارير بأن هناك شركة تُدعى نابلا تعتمد على “Whisper” لتفريغ التسجيلات الطبية، وتقدّم خدماتها لأكثر من 30 ألف طبيب و40 نظامًا صحيًا. وقد استخدمت الأداة لتفريغ ما يقارب 7 ملايين استشارة طبية حتى الآن.
ورغم أهمية الأداة، إلا أنه لا توجد آلية للتحقق من دقة النصوص المُفرغة. وفقًا للمسؤولين في الشركة، تم حذف بعض البيانات لحماية الخصوصية، لكنهم يطلبون من الأطباء مراجعة النصوص وتحريرها بشكل سريع. هذا الأمر يضيف عبئًا إضافيًا على الطواقم الطبية، مما يثير تساؤلات حول فعالية تطبيق هذه الإجراءات.
الحاجة إلى دقة أعلى
تظل الدقة التامة في تفريغ التسجيلات الصوتية هاجسًا رئيسيًا، خاصة في المجالات الحساسة مثل الطب. أي اختلاق للنصوص يمكن أن يؤدي إلى تداعيات خطيرة على القرارات العلاجية، مما يستدعي مراجعة شاملة للاعتماد على مثل هذه التقنيات في المستقبل.
في ضوء هذه المخاوف، قد تحتاج الشركات والمطورون إلى إعادة تقييم مدى الاعتماد على أداة “Whisper” وضمان دقة المعلومات المقدمة، لتفادي المخاطر المحتملة.