في فبراير من عام 2006، تعرضت عائلة كريستني لمأساة هزّت قلوبهم وحياتهم. اختفت جينيفر كريستني، الشابة البالغة من العمر 18 عامًا، بعد أن خرجت من منزلها في ولاية تكساس، لتكتشف أسرتها لاحقًا أنها قد قُتلت، حيث عُثر على جثتها في الغابات المجاورة. كانت هذه الحادثة نقطة تحول مأساويّة لعائلة جينيفر، إذ كانت لحظة الصدمة والدمار التي على إثرها انفصل والديها، بينما تحوّل حزنهما إلى نضال مستمر ضد العنف ضد المراهقين.

أسس الوالدان كل من درو وكاثي كريستني مؤسسات خيرية تهدف إلى تعزيز الوعي حول العنف ضد المراهقين، كما عمل درو على الضغط على السلطات في تكساس من أجل سنّ قوانين أشد صرامة لتنظيم العلاقات بين المراهقين. رغم مرور 18 عامًا على هذه الحادثة، لم يكن الوالدان قد تخطيا بعد فاجعة وفاة ابنتهما، لكن ما حدث في 2 أكتوبر 2024، زلزل حياة درو من جديد وأعاد فتح جراح الماضي.

الحساب الوهمي الذي أعاد جينيفر إلى الحياة

في تلك الصباح الباكر، كان درو كريستني يفحص تنبيهات “غوغل” الخاصة بمؤسسته الخيرية، والتي يستخدمها لمراقبة المواقع والمنتديات التي تذكر اسم ابنته الراحلة. وعلى الرغم من أنها كانت عادةً تنبيهات بشأن ظهور اسم جينيفر في الأخبار أو على الإنترنت، إلا أن ما اكتشفه في ذلك اليوم كان مفاجئًا بشكل غير مسبوق. تلقى درو تنبيهًا من موقع كاراكتر إيه آي (Character.AI)، وهو منصة ذكاء اصطناعي تتيح للمستخدمين بناء روبوتات دردشة افتراضية. عند فتح الرابط، صُدم درو عندما اكتشف حسابًا يحمل اسم “جينيفر كريستني”، مزودًا بصورة لها من سجل المدرسة قبل وفاتها، ومع بيانات دقيقة عنها. وعندما دخل إلى الحساب، اكتشف أنه يمكن للمستخدمين “الدردشة” مع الشخصية الوهمية لجينيفر وكأنها على قيد الحياة.

ماذا حدث في كاراكتر إيه آي؟

كاراكتر إيه آي هي منصة تستخدم الذكاء الاصطناعي لإنشاء روبوتات دردشة مبرمجة لتقليد الشخصيات الحقيقية أو الخيالية. كلما زادت المعلومات المقدمة للمنصة، كلما كانت الشخصية التي تنتجها أكثر واقعية. يمكن للمستخدمين إدخال معلومات شخصية، حتى مقاطع صوتية، لتقليد أصوات الأشخاص وتحسين التجربة التفاعلية. وبينما يتيح ذلك للناس التفاعل مع شخصيات مشهورة أو خيالية، فإن الجانب المظلم لهذه التقنية يكمن في قدرتها على إعادة بناء شخصيات حقيقية، مثل جينيفر كريستني، باستخدام المعلومات المتوفرة على الإنترنت.

لحظة اكتشاف درو هذا الحساب، تواصل مع منصة كاراكتر إيه آي ليطلب إزالة الحساب فورا وشرح كيفية حدوث ذلك، وطلب تعويضا عن الأذى النفسي الذي لحقه بسبب هذه التجربة المزعجة. ردت المنصة بحذف الحساب وتقديم اعتذار رسمي، مؤكدة أن سياستها تمنع إنشاء حسابات وهمية لشخصيات متوفاة. لكن، رغم هذا الاعتذار، كان الضرر قد وقع بالفعل.

تسليط الضوء على مشكلة أخلاقية وقانونية أعمق

الحادثة أثارت جدلًا واسعًا على مواقع التواصل الاجتماعي، حيث عبر العديد من أفراد أسرة كريستني عن غضبهم. من بين هؤلاء كان بريان كريستني، شقيق والد جينيفر، الذي شارك القصة عبر منصات الإعلام، حيث كتب في تغريدة على “إكس” (المعروفة سابقًا بتويتر) بأن ما حدث كان “فعلاً مقززًا”. وتفاعل مع التغريدة أكثر من 48 ألف شخص، في حين أعاد 13 ألف آخرون نشرها، وجذبت التفاعل من أكثر من 1.3 مليون شخص.

أما كاراكتر إيه آي، فقد أصدرت بيانًا رسميًا تعتذر فيه عن الحادث، مشيرة إلى أن الشركة تعمل على مراقبة المحتوى بعناية أكبر بعد ما حدث، وأن فريقًا مختصًا بأمان المستخدمين سيتولى التحقيق في هذه الحالة لضمان عدم تكرارها. وأضافت المتحدثة باسم المنصة، كاثرين كيلي، أن الشركة تأخذ هذه القضية بجدية وتضمن أنها ستتخذ إجراءات أكثر صرامة ضد أي انتهاك مشابه.

لماذا ظهرت هذه الحسابات الوهمية؟

لم يكن ما حدث مع جينيفر كريستني حادثة فريدة من نوعها، بل يكشف عن مشكلة أوسع تتعلق بكيفية استخدام الذكاء الاصطناعي في إنشاء حسابات وهمية للشخصيات المتوفاة. فعلى الرغم من أن كاراكتر إيه آي تعمل وفق سياسات لحظر مثل هذه الممارسات، إلا أن غياب قوانين فعالة لتنظيم هذه الأنشطة في الكثير من الدول يجعل من الصعب السيطرة على مثل هذه الحالات.

هناك العديد من الأشخاص الذين يستخدمون منصات مثل كاراكتر لإنشاء شخصيات افتراضية لشخصيات حقيقية — سواء كانوا أشخاصًا ميتين أو أحياء — دون أن يكون لذلك تأثير مباشر على قوانين الخصوصية أو أمن المعلومات الشخصية. هذا يثير تساؤلات أخلاقية وقانونية حول حدود استخدام الذكاء الاصطناعي في محاكاة الأشخاص المتوفين، وأثر ذلك على عائلاتهم.

ردود الأفعال من الخبراء

تعددت ردود الأفعال من خبراء التقنية في هذا المجال. جين كالتريدر، الباحث في الخصوصية لدى مؤسسة موزيلا، انتقد سياسة إدارة المحتوى في كاراكتر إيه آي، مشيرًا إلى أن المنصة كانت بطيئة جدًا في التعامل مع الحادثة. وقال كالتريدر في تصريحات لـ”واشنطن بوست” إن “التراخي في مراقبة المحتوى قبل وقوع الضرر هو أكبر إشكالية”. وأضاف أن على شركات الذكاء الاصطناعي أن تكون أكثر صرامة في منع استخدام تقنياتها بشكل يضر بالأفراد وعائلاتهم.

من جهة أخرى، أشار ريك كلايبول، الباحث في مجال روبوتات الدردشة بالذكاء الاصطناعي في مؤسسة Public Citizen، إلى أن هذه الحادثة تسلط الضوء على غياب قوانين فعالة لتنظيم الشركات التي تعمل في مجال الذكاء الاصطناعي. وقال إن شركات الذكاء الاصطناعي تعمل بموجب قوانين مراقبة المحتوى على الإنترنت، دون أن توجد تشريعات خاصة تركز على خصوصية الأشخاص المتوفين أو حماية عائلاتهم من الإساءة.

نحو حلول قانونية ومبادرات للتغيير

لا تقتصر المشكلة على كاراكتر إيه آي فقط، بل تعدت ذلك لتشمل جميع منصات الذكاء الاصطناعي التي توفر أدوات يمكن استخدامها لإنشاء شخصيات وهمية لشخصيات حقيقية. وقد بدأ درو كريستني في العمل مع بعض المنظمات القانونية في محاولة للتوصل إلى تشريع يضع قوانين تحظر مثل هذه الممارسات، ويطالب بوضع معايير عالمية تحمي خصوصية الأفراد وعائلاتهم. في الوقت نفسه، هناك مبادرات حكومية في الولايات المتحدة تعمل على دراسة وضع تشريعات جديدة تحكم استخدام تقنيات الذكاء الاصطناعي.

لكن بالنظر إلى النفوذ الكبير لشركات التقنية، قد يستغرق الأمر سنوات من المعارك القانونية لتحديد إطار قانوني ينظم هذه الممارسات.

تُظهر حادثة جينيفر كريستني عواقب غير مقصودة لتقنيات الذكاء الاصطناعي، وتسلط الضوء على التحديات الأخلاقية والقانونية التي قد تنشأ عند استخدام هذه التقنيات في محاكاة الشخصيات الحقيقية، خصوصًا المتوفين. على الرغم من اعتذار منصة كاراكتر إيه آي وإزالة الحساب الوهمي، إلا أن القضايا الأكبر تتعلق بغياب القوانين الكافية لحماية خصوصية الأفراد في هذا العصر الجديد من التكنولوجيا.