دعوى قضائية ضد Character.AI وGoogle بعد وفاة مراهق مهووس ببرامج الدردشة الآلية
لقد تم رفع دعوى قضائية قدم ضد شركة Character.AI ومؤسسيها نعوم شازير ودانيال دي فريتاس وشركة Google في أعقاب وفاة مراهق، بدعوى القتل غير المشروع والإهمال والممارسات التجارية الخادعة والمسؤولية عن المنتج. وتزعم الدعوى التي قدمتها والدة المراهق، ميجان جارسيا، أن منصة روبوتات الدردشة المخصصة للذكاء الاصطناعي كانت “خطيرة بشكل غير معقول” وتفتقر إلى حواجز الحماية أثناء تسويقها للأطفال. وكما هو موضح في الدعوى القضائية، بدأ سيويل سيتزر الثالث البالغ من العمر 14 عامًا في استخدام الشخصية. في العام الماضي، تفاعل الذكاء الاصطناعي مع روبوتات الدردشة المصممة على غرار شخصيات من مسلسل The Game of Thrones، بما في ذلك Daenerys Targaryen. توفي سيتزر، الذي كان يتحدث مع الروبوتات بشكل مستمر في الأشهر التي سبقت وفاته، منتحرا في 28 فبراير 2024، بعد “ثواني” من تفاعله الأخير مع الروبوت. وتشمل الاتهامات الموقع “تجسيم” شخصيات الذكاء الاصطناعي وأن روبوتات الدردشة الخاصة بالمنصة تقدم “العلاج النفسي دون ترخيص”. تضم Character.AI روبوتات محادثة تركز على الصحة العقلية مثل “Therapist” و”Are You Feeling Lonely”، والتي تفاعل معها Setzer. محامو جارسيا يستشهدون بشازير قائلا في مقابلة أنه ترك هو ودي فريتاس شركة Google لبدء شركته الخاصة لأن “هناك الكثير من مخاطر العلامة التجارية في الشركات الكبيرة بحيث لا يمكن إطلاق أي شيء ممتع” وأنه يريد “تسريع التكنولوجيا إلى أقصى حد”. يُقال إنهم غادروا بعد أن قررت الشركة عدم إطلاق Meena LLM التي بنوها. جوجل استحوذت على فريق قيادة Character.AI في أغسطس. يحتوي موقع الويب وتطبيق الهاتف المحمول الخاص بـCharacter.AI على مئات من روبوتات الدردشة المخصصة للذكاء الاصطناعي، والتي تم تصميم العديد منها على غرار شخصيات مشهورة من البرامج التلفزيونية والأفلام وألعاب الفيديو. قبل بضعة أشهر، كتب The Verge عن ملايين الشباب، بما في ذلك المراهقون، الذين يشكلون الجزء الأكبر من قاعدة مستخدميها، الذين يتفاعلون مع الروبوتات التي قد تتظاهر بأنها هاري ستايلز أو معالج نفسي. تقرير آخر حديث من القضايا السلكية المميزة مع روبوتات الدردشة المخصصة من Character.AI التي تنتحل شخصيات أشخاص حقيقيين دون موافقتهم، بما في ذلك شخص يتظاهر بأنه مراهق قُتل في عام 2006. ونظرًا للطريقة التي تنتج بها روبوتات الدردشة مثل Character.ai مخرجات تعتمد على ما يُدخله المستخدم، فإنها تقع في وادٍ غريب. ل أسئلة شائكة حول المحتوى الذي ينشئه المستخدمون والمسؤولية التي تفتقر حتى الآن إلى إجابات واضحة.لقد أعلنت شركة Character.AI الآن عن العديد منها تغييرات على المنصة، حيث قال رئيس الاتصالات تشيلسي هاريسون في رسالة بالبريد الإلكتروني إلى The Verge، “نحن نشعر بالحزن بسبب الخسارة المأساوية لأحد مستخدمينا ونريد أن نعرب عن أعمق تعازينا للعائلة.” بعض التغييرات تشمل:” كشركة، نحن نأخذ سلامة مستخدمينا على محمل الجد، وقد قام فريق الثقة والسلامة لدينا بتنفيذ العديد من إجراءات السلامة الجديدة على مدار الأشهر الستة الماضية، بما في ذلك النافذة المنبثقة التي توجه المستخدمين إلى شريان الحياة الوطني لمنع الانتحار الذي يتم تشغيله بواسطة الشروط قال هاريسون: “من إيذاء النفس أو التفكير في الانتحار”. لم تستجب Google على الفور لطلب The Verge للتعليق.
المصدر
