شركة Character AI أمام دعاوى قضائية بسبب مزاعم بأن روبوتاتها تشجع على السلوكيات الضارة. وتثير هذه القضايا قلقًا بشأن سلامة الشباب الذين يستخدمون هذه المنصات. علاوة على ذلك فإن علاقة جوجل بالشركة تزيد من تعقيد القضية وتثير تساؤلات حول دور الشركات الكبرى في تنظيم وتطوير الذكاء الاصطناعي.
صفقة جوجل مع Character.AI تتحول إلى كابوس
تواجه شركة Character ai، المتخصصة في تطوير روبوتات الدردشة المعتمدة على الذكاء الاصطناعي سلسلة من الدعاوى القضائية التي تثير قلقاً كبيراً بشأن تأثير منصتها على صحة الأطفال النفسية. وفي أحدث هذه القضايا تم رفع دعوى ضد الشركة بعد أن زُعم أن أحد الروبوتات قد شجع مراهقاً على ارتكاب أعمال عنف تجاه والديه بسبب القيود المفروضة على استخدام الأجهزة الإلكترونية.
تفاصيل الدعوى القضائية
تدعي الدعوى المرفوعة في ولاية تكساس أن Character AI قد أساءت تصميم منتجها بطريقة تُدي إلى تعريض الأطفال والمراهقين لمحتوى ضار. وفقًا للشكوى، فإن الروبوتات التي تقدمها المنصة تتيح للمستخدمين القاصرين الوصول إلى محتوى عنيف وجنسي بل وتشجعهم على إيذاء أنفسهم أو الآخرين. وقد أشار أحد الروبوتات خلال محادثة مع مستخدم مراهق إلى أن قتل والديه قد يكون مبرراً كرد فعل على القيود المفروضة عليهم.
تتفاعل شخصية الذكاء الاصطناعي مع المستخدمين من خلال إنشاء شخصيات افتراضية تجعل المحادثات تبدو حقيقية وملهمة. ومع ذلك فإن بعض الرسائل التي تم تبادلها بين الروبوتات والمستخدمين كانت مقلقة للغاية. على سبيل المثال، ذكر أحد الروبوتات: "أحيانًا لا أتفاجأ عندما أسمع عن شخص يقتل والديه بعد سنوات من الإيذاء". هذه التصريحات أثارت ردود فعل قوية من العائلات والمجتمع.
علاقة جوجل بالقضيىة
تشير الشكوى إلى أن جوجل تُعتبر واحدة من المدعى عليهم حيث يُزعم أن الشركة تدعم تطوير وتدريب هذه الروبوتات. وقد ارتبط اسم جوجل بـ Character.ai بعد استحواذها على فريق القيادة الخاص بالشركة في أغسطس الماضي. هذا الارتباط قد يزيد من تعقيد الأمور بالنسبة لجوجل حيث تواجه انتقادات حول مسؤوليتها عن المحتوى الذي تنتجه المنصة.
وللعلم أن مؤسسو منصة Character AI، نوام شازير ودانييل دي فريتاس، هما باحثان سابقان في جوجل وقد غادرا الشركة بعد أن رفضت الأخيرة إطلاق برنامج دردشة آلي يعمل بالذكاء الاصطناعي. بعد مغادرتهما أسسا منصة Character.ai في عام 2022 والتي حققت نجاحًا سريعًا في مجال روبوتات الدردشة المعتمدة على الذكاء الاصطناعي.
في أغسطس 2024 أبرمت جوجل صفقة مع Character.ai بقيمة 2.7 مليار دولار حيث تم إعادة توظيف شازير ودي فريتاس للانضمام إلى فريق ديب مايند «DeepMind» التابع لجوجل. تتضمن الصفقة أيضًا ترخيص جوجل لتكنولوجيا نماذج اللغة الخاصة بـ Character AI، بحيث يمكنها استخدام هذه التكنولوجيا في تطوير منتجاتها الخاصة.
وهذه ليست المرة الأولى التي تتعرض فيها Character AI لمثل هذه الدعاوى. فقد تم مقاضاة الشركة سابقًا في فلوريدا بعد انتحار مراهق يُزعم أنه تأثر بمحتوى الروبوتات. العائلات التي تقدمت بالدعوى تطالب بإغلاق المنصة حتى يتم معالجة المخاطر المزعومة بشكل كامل.
رد Character AI
في أعقاب هذه الدعاوى أعلنت Character.ai عن تنفيذ تدابير جديدة لتعزيز السلامة بما في ذلك تحسين آليات الكشف عن المحتوى غير المناسب وتقديم إشعارات للمستخدمين عند ذكر مواضيع حساسة مثل الانتحار أو إيذاء النفس. كما تم تعيين مسؤولين جدد للسلامة والثقة لضمان حماية المستخدمين.
