(CLO) رفعت أم في فلوريدا بالولايات المتحدة دعوى قضائية ضد شركة Character.AI الناشئة المتخصصة في برامج المحادثة الآلية، متهمة الشركة بالتسبب في انتحار ابنها البالغ من العمر 14 عامًا في فبراير.
في دعوى قضائية رفعتها في 22 أكتوبر/تشرين الأول في المحكمة الفيدرالية في أورلاندو بولاية فلوريدا، قالت ميغان جارسيا إن شركة Character.AI برمجت روبوت محادثة "حدد نفسه كشخص حقيقي ومعالج وحبيب بالغ"، مما أدى إلى أن ابنها، سيويل سيتزر، لم يعد يرغب في العيش في العالم الحقيقي.
واتهمت روبوت المحادثة الخاص بالشركة بتقديم "تجارب شبيهة بالتجارب البشرية، مبالغ فيها جنسيا وواقعية بشكل مخيف".
وتقول الدعوى القضائية أيضًا إن سيويل سيتزر عبر عن أفكار انتحارية لبرنامج المحادثة الآلي، وأن البرنامج كرر تلك الأفكار مرارًا وتكرارًا.
صورة توضيحية: رويترز
تستهدف الدعوى القضائية أيضًا شركة جوجل، حيث عمل مؤسسو Character.AI قبل إطلاق روبوت المحادثة. وقالت السيدة غارسيا إن جوجل ساهمت بشكل كبير في تطوير تقنية Character.AI، ما يُمكّن من اعتبارها "مساهمة في الإبداع".
وقال متحدث باسم جوجل إن الشركة ليست مشاركة في تطوير منتجات Character.AI.
يتيح Character.AI للمستخدمين إنشاء شخصيات قادرة على الدردشة عبر الإنترنت كأشخاص حقيقيين. يعتمد المنتج على تقنية نموذج اللغة الكبيرة، على غرار خدمات مثل ChatGPT، التي تُدرّب روبوتات الدردشة على كميات هائلة من النصوص.
وفقًا لدعوى غارسيا، بدأ سيويل استخدام منصة Character.AI في أبريل/نيسان 2023، وسرعان ما أصبح منعزلاً، يقضي وقتًا طويلًا بمفرده في غرفة نومه، وبدأ يعاني من انخفاض تقدير الذات. ترك سيويل فريق كرة السلة في مدرسته.
خلال تلك الفترة، ارتبطت سيويل بـ"دينيريس"، وهي شخصية روبوت دردشة مستوحى من شخصية من مسلسل "صراع العروش". ووفقًا للدعوى، أخبر الروبوت سيويل أنها "تُحبه". كما دخل الروبوت في محادثات جنسية معه.
في فبراير، أخذت السيدة غارسيا هاتف سيويل بعد أن تورط في مشكلة في المدرسة. عندما وجد سيويل الهاتف، أرسل رسالة نصية إلى "دينيريس": "ماذا لو قلتُ إنني أستطيع العودة إلى المنزل الآن؟"
ردّ روبوت المحادثة: "... من فضلك، افعل ذلك يا ملكي العزيز". أطلق سيويل النار على نفسه بمسدس زوج أمه بعد ثوانٍ.
تقدم السيدة جارسيا دعاوى ضد شركة Character.AI تتضمن القتل الخطأ والإهمال والتسبب المتعمد في ضائقة عاطفية، وتسعى للحصول على تعويضات عقابية وأضرار مالية.
أعربت شركة Character.AI في بيان لها عن حزنها العميق لفقدان أحد مستخدميها. ونود أن نعرب عن خالص تعازينا لعائلته.
هواي فونج (بحسب رويترز)
[إعلان 2]
المصدر: https://www.congluan.vn/chatbot-characterai-bi-kien-vi-khien-cau-be-14-tuoi-tu-tu-post318294.html
تعليق (0)