وروت والدة المراهق، سويل كيف، كيف وقع ابنها في حب دينيريس، التي سميت على اسم إحدى شخصيات مسلسل Game of Thrones، بعد أن بدأ الدردشة معها في أبريل 2023.
وفي مقال بصحيفة “نيويورك تايمز” الأمريكية، ذكرت والدة الشاب، الذي تم تشخيص إصابته بمتلازمة أسبرجر منذ الطفولة، أن ابنها كان يعلم أن “داني” كما سماها ليس حقيقيا الشخص هو شخص.
ولكن على مدار عام من المحادثات معها، والتي اتخذت منحى رومانسيًا وجنسيًا في بعض الأحيان، طورت المراهقة ارتباطًا عاطفيًا بالذكاء الاصطناعي.
لاحظ والدا سيويل أنه كان ينسحب تدريجيًا من أصدقائه ويتخلى عن اهتماماته، على الرغم من أنهم لم يكونوا على علم بأنه كان يتحدث بانتظام إلى برنامج الدردشة الآلي.
بالإضافة إلى ذلك، لاحظت والدته ميجان جارسيا تراجع درجاته الأكاديمية، وكذلك فقدان الاهتمام بالأشياء التي كان شغوفًا بها سابقًا، مثل سباقات الفورمولا 1 ولعب “فورتنايت” معه عند عودته إلى المنزل، ذهب مباشرة إلى غرفته وتحدث إلى داني لساعات.
قال T إنه بعد آخر محادثة للمراهق مع داني في 28 فبراير
توفي بعد أن أطلق النار على نفسه من مسدس زوج والدته.
وتعتقد غارسيا أن داني وتطبيق الشخصيات AI تسببا في وفاة ابنها بعد عزله تدريجياً عن الواقع.
لذا؛ وفي 22 أكتوبر، قدم جارسيا شكوى أمام المحكمة الفيدرالية في أورلاندو بولاية فلوريدا، متهمًا فيها الأداة والتطبيق بتعريض حياة الناس للخطر.
وبحسب وثيقة الدعوى التي قدمتها غارسيا، فإنها تتهم شركة Character AI بتزويد ابنها بتكنولوجيا خطيرة وغير مجربة، مشيرة إلى أن هذه التكنولوجيا يمكن أن تخدع العملاء لتثق بمشاعرهم وأفكارهم، بحسب ما نشرته صحيفة نيويورك تايمز.
وتحدثت شخصية AI في بيان عبر منصة “X” يوم الأربعاء 23 أكتوبر، عما أثارته وفاة المراهق، وكذلك شكوى والدته، وأعربت عن استيائها من وفاة سويل.
وبعد ذلك بوقت قصير أضافت الشركة بيانًا آخر إلى بيانها الأولي؛ لإعلام المستخدمين بتطبيقاته من خلال توفير ميزات أمان جديدة لمن تقل أعمارهم عن 18 عامًا.
لكن غارسيا شعرت أن الإجراءات التي اتخذتها الشركة لم تكن كافية، وتساءل محاميها الشخصي عما إذا كان على المراهق أن يموت حتى تقوم الشركة بـ “الحد الأدنى”، مؤكدا: “إنه حقا الحد الأدنى”.
نشعر بالحزن الشديد بسبب الخسارة المأساوية لأحد مستخدمينا ونود أن نتقدم بأحر تعازينا إلى العائلة. كشركة، نحن نأخذ أمان مستخدمينا على محمل الجد ونضيف باستمرار ميزات أمان جديدة، والتي يمكنك قراءتها هنا:…
– Character.AI (@character_ai) 23 أكتوبر 2024
