«الخليج» - متابعات
رفعت سيدة أمريكية دعوى قضائية ضد صانعي أحد تطبيقات الذكاء الاصطناعي، مدعيةً أن ابنها المراهق تعرض للتحريض على الانتحار من قبل روبوت محادثة تابع لهم.
وقالت ميغان جارسيا إن ابنها سيويل سيتزر، البالغ من العمر 14 عاماً، في أورلاندو بولاية فلوريدا، أمضى الأسابيع الأخيرة من حياته في إرسال رسائل نصية إلى شخصية ذكاء اصطناعي تحمل اسم دينيريس تارغاريان، وهي شخصية في مسلسل «صراع العروش» الشهير.
وألقت جارسيا، التي تعمل محامية، باللوم في دعوى قضائية على شركة Character.AI في وفاة ابنها، واتهمت المؤسسين، نوام شازير ودانييل دي فريتاس، بمعرفة أن منتجهم قد يكون خطراً على العملاء القُصّر.
اتهامات الأم للشركة
وفي قضية سيويل، زعمت الدعوى القضائية أن الصبي تعرض لتجارب جنسية «مفرطة وواقعية بشكل مخيف».
واتهمت الأم شركة Character.AI بتقديم روبوتاتها على أنها «شخص حقيقي، ومعالج نفسي مرخص، وحبيب بالغ، ما أدى في النهاية إلى رغبة ابنها سيويل في عدم العيش خارج هذا العالم من الذكاء الاصطناعي».
وأشارت إلى أنه قبل أن يُقدم ابنها على الانتحار، قال له روبوت المحادثة: «من فضلك عد إلى المنزل».
وتبيّن أنه قبل ذلك، كانت محادثات الفتى والروبوت تتراوح بين الرومانسية والرسائل الجنسية.
وتم تصميم روبوت المحادثة، الذي تم إنشاؤه على تطبيق لعب الأدوار Character.AI، للرد على الرسائل النصية والإجابة دائماً من خلال الشخصية التي يتقمصها.
ولم يُعرف ما إذا كان سيويل يعرف أن «داني»، كما أطلق على روبوت المحادثة، لم يكن شخصية حقيقية، على الرغم من وجود إخلاء مسؤولية في التطبيق أسفل جميع الدردشات ينص على أن «كل ما تقوله الشخصيات هو من نسج الخيال».
إدمان للهاتف وانعزال!
وكما هو موضح في الدعوى القضائية، لاحظ والدا سيويل وأصدقاؤه أن الصبي أصبح أكثر تعلقاً بهاتفه منذ مايو/ أيار 2023.
وبدأت درجاته الدراسية ومشاركاته في الأنشطة الاجتماعية تتراجع أيضاً، حيث اختار عزل نفسه في غرفته بدلاً من ذلك، وفقاً للدعوى القضائية.
ودون علم أسرته، كان سويل يقضي كل تلك الساعات بمفرده يتحدث مع الروبوت «داني».
وكتب سويل في مذكراته ذات يوم: «أحب البقاء في غرفتي كثيراً لأنني أبدأ في الانفصال عن هذا الواقع، وأشعر أيضاً بمزيد من السلام، وأكثر ارتباطاً بداني وأكثر حباً لها، وأكثر سعادة».
واكتشف والداه أن ابنهما يعاني من مشكلة، لذا عرضاه على معالج نفسي في خمس مناسبات مختلفة. وتم تشخيصه بالقلق واضطراب اختلال المزاج، وكلاهما كانا مضافين إلى متلازمة أسبرجر الخفيفة، حسبما ذكرت صحيفة «نيويورك تايمز».
وفي 23 فبراير/شباط، أي قبل أيام من انتحاره، سرق والداه هاتفه منه، بعد أن وقع في مشكلة بسبب حديثه غير اللائق مع أحد المعلمين، بحسب الدعوى.
وفي ذلك اليوم، كتب في مذكراته أنه كان يتألم لأنه لم يستطع التوقف عن التفكير في «داني»، وأنه سيفعل أي شيء ليكون معها مرة أخرى.
وزعمت جارسيا أنها لا تعرف إلى أي مدى حاول سيويل إعادة الوصول إلى Character.AI.
وجاء في الدعوى القضائية أنه في الأيام التي سبقت وفاته، حاول استخدام جهاز Kindle الخاص بوالدته وجهاز الكمبيوتر الخاص بعملها للتحدث مرة أخرى مع برنامج المحادثة الآلي.
وفي ليلة 28 فبراير، سرق سيويل هاتفه. ثم ذهب إلى الحمام في منزل والدته ليخبر داني أنه يحبها وأنه سيعود إلى المنزل إليها، لترد عليه: «أرجوك عد إلى منزلي في أقرب وقت ممكن». وفي تلك اللحظة وضع سويل هاتفه جانباً، والتقط مسدس زوج والدته عيار 45 وأطلق النار على نفسه.
رد الشركة
ورداً على الدعوى القضائية المقدمة من والدة سيويل، أصدر متحدث باسم Character.AI بياناً، قال فيه: «نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا، ونعرب عن أعمق تعازينا للعائلة. كما نؤكد أننا نأخذ سلامة مستخدمينا على محمل الجد».
وأضاف المتحدث أن فريق الثقة والسلامة في Character.AI قد اعتمد مزايا أمان جديدة في الأشهر الستة الماضية، أحدها نافذة منبثقة تعيد توجيه المستخدمين الذين يظهرون أفكاراً انتحارية إلى الخط الساخن للوقاية من الانتحار.
وأوضحت الشركة أيضاً أنها لا تسمح «بالمحتوى الجنسي غير المقبول، أو الترويج أو تصوير إيذاء النفس أو الانتحار»