OpenAI تتردد في إطلاق أداة كشف النصوص المزيفة

الشركة تواجه تحديات في تطوير تقنية فعالة دون التسبب في آثار جانبية غير مرغوب فيها

أعلنت شركة OpenAI عن تطوير أداة جديدة قادرة على كشف النصوص التي تم إنشاؤها بواسطة روبوت الدردشة الشهير ChatGPT، وذلك في محاولة للتصدي لمشكلة الغش الأكاديمي وانتشار المعلومات المضللة. ومع ذلك، فإن الشركة تعاني من التردد في إطلاق هذه الأداة بسبب مجموعة من التحديات التي قد تنجم عنها.

وفقًا لما ذكرته صحيفة “وول ستريت جورنال”، فإن OpenAI تعتمد على تقنية “العلامة المائية النصية” في كشف النصوص المزيفة، حيث تقوم بإجراء تعديلات طفيفة على أسلوب كتابة ChatGPT، مما يترك بصمة خفية يمكن اكتشافها لاحقًا.

على الرغم من فعالية هذه التقنية في الكشف عن النصوص المزيفة، إلا أن OpenAI تواجه تحديين رئيسيين:

• التلاعب بالنتائج: يمكن للمستخدمين الخبثاء استخدام تقنيات مختلفة لإخفاء العلامة المائية، مما يقلل من فعالية الأداة.
• التأثير على غير الناطقين باللغة الإنجليزية: قد يؤدي استخدام هذه التقنية إلى وصم مستخدمي الذكاء الاصطناعي غير الناطقين باللغة الإنجليزية، مما يحد من استخدامهم لتطبيقات مفيدة.

تؤكد OpenAI على أنها تبذل جهودًا كبيرة لتطوير أداة فعالة وآمنة، ولكنها تدرك الصعوبات التي تواجهها في تحقيق هذا الهدف. وبالتالي، فإن الشركة ما زالت تدرس إمكانية إطلاق الأداة وتقييم الآثار المحتملة لها.

هذا التطور يسلط الضوء على التحديات الكبيرة التي تواجه صناعة الذكاء الاصطناعي في مواجهة المشاكل الأخلاقية والقانونية الناجمة عن استخدام هذه التقنيات.