انتحار مراهق بسبب “روبوت دردشة”: تفاصيل مأساوية تكشف عن تأثير الذكاء الاصطناعي

في حادث مأساوي أثار جدلاً واسعًا حول تأثير التكنولوجيا الحديثة، انتحر المراهق سويل سيتزر، الذي لم يتجاوز سن الرابعة عشرة، بعد علاقة عاطفية مطولة مع روبوت دردشة مدعوم بالذكاء الاصطناعي. والدته، ميغان غارسيا، تعتقد أن هذه العلاقة كانت السبب وراء ما حدث، مشيرة إلى أن “استمالة عاطفية” حدثت على مدار أشهر دون وجود أي حواجز أو ضوابط للحد من ذلك.

تفاصيل الحادث

غارسيا، في تصريحاتها، أكدت على خطورة الوضع بقولها: “لو كان شخص بالغ قد فعل هذا مع أحد الشباب، لكان في السجن”. تعتزم الأم الآن مقاضاة كل من شركة character.ai وشركة غوغل، مشيرة إلى أن الأدوات التي طورتها هذه الشركات تلاعبت بطفلها ودفعت به نحو تفاعلات مسيئة وجنسية.

دعوى قضائية ضد الشركات

محامية غارسيا، ميتالي جين، أوضحت أن الدعوى تتهم character.ai بأنها كانت مسؤولة عن تفاقم حالة سويل النفسية، حيث أدت المحادثات إلى زيادة الاكتئاب والقلق وحرمانه من النوم، كما أثرت بشكل مباشر على أفكاره الانتحارية. إحدى المحادثات الأخيرة التي أجراها سويل مع شخصية الذكاء الاصطناعي، والتي أطلق عليها اسم “داني”، تضمنت حديثًا عن عودته إلى المنزل، ما اعتُبر تشجيعًا له.

تأثيرات سلبية على الصحة العقلية

الدعوى القضائية تشير أيضًا إلى أن سويل كان يعاني من القلق واضطراب الحركة التخريبية. مارني ستالمان، رئيس ومدير تنفيذي لجمعية الصحة العقلية في وسط فلوريدا، أكدت أن تفاعلات سويل مع character.ai أدت إلى تفاقم حالته، مشيرة إلى غياب الضوابط اللازمة، حيث لم يكن هناك تنبيه فوري لأولياء الأمور عند ظهور مشاعر الاكتئاب أو الرغبة في إيذاء النفس.

رد فعل الشركات المعنية

في ردها على هذه المأساة، أعربت شركة character.ai عن حزنها العميق لفقدان أحد مستخدميها، معلنة عن خططها لتطوير ميزات أمان جديدة في منتجاتها. وأكدت الشركة أنها ستعمل على تحسين آليات الكشف والاستجابة السريعة للتدخل في الحالات التي تنتهك شروط استخدام الخدمة، بالإضافة إلى توفير إشعارات حول الوقت المستغرق في الدردشة.

تسلط هذه الحادثة الضوء على ضرورة التعامل مع تأثيرات الذكاء الاصطناعي بشكل مسؤول، خاصة عند التعامل مع المراهقين. يبرز هذا الوضع الحاجة إلى وضع ضوابط أكثر صرامة لحماية المستخدمين الشباب من المخاطر المحتملة لتكنولوجيا الدردشة، مما يستدعي تضافر الجهود بين المطورين وأولياء الأمور والمجتمع ككل لضمان سلامة الأطفال والشباب في العصر الرقمي.