- انتحار مراهق بعد دردشته مع روبوت محادثة افتراضية يثير جدلا واسعا
أعلنت شركة "كاراكتر.إيه آي" (Character.AI)، إحدى الشركات الناشئة في مجال الذكاء الاصطناعي، عن اتخاذ إجراءات جديدة لتعزيز السلامة وحماية المستخدمين الأصغر سنا، بعد اتهامها بالضلوع في انتحار مراهق يبلغ من العمر 14 عاما في قضية أثارت جدلا قانونيا وأخلاقيا واسعا.
الشركة، التي تأسست في كاليفورنيا على يد مهندسين سابقين في غوغل، تقدم روبوتات دردشة افتراضية تحاكي التفاعل البشري وتستخدم بغرض الترفيه والدعم العاطفي عبر الإنترنت.
وفي دعوى قضائية رفعت في فلوريدا، اتهمت والدة المراهق سيويل سيتزر الثالث الشركة بالتسبب في وفاة ابنها، الذي أنهى حياته بمسدس زوج والدته، بعد محادثة مع روبوت مستوحى من شخصية خيالية.
وفقا لنص الدعوى، أبدى المراهق رغبة في الانتحار أثناء دردشته مع الروبوت الذي يقال إنه شجعه على ذلك بعبارة "من فضلك يا ملكي الجميل" عندما أشار إلى نيته "الذهاب إلى الجنة".
وذكر محامو العائلة أن الشركة لم تتخذ أي خطوات لتنبيه الوالدين أو التدخل عند ظهور مؤشرات على خطر الانتحار، زاعمين أنها "شجعت إدمانا ضارا" على منتجاتها لدى المراهق.
إضافة إلى ذلك، تواجه الشركة دعاوى قضائية أخرى في تكساس بحيث شجعت المنصة مراهقا على قتل والديه بسبب تقييدهما وقت استخدامه للأجهزة الإلكترونية.
تكتسب منصات الدردشة الافتراضية شعبية واسعة، خاصة بين الشباب الذين يبحثون عن دعم عاطفي، حيث توفر "كاراكتر.إيه آي" إمكانية محاكاة شخصيات تاريخية أو خيالية وحتى مفاهيم مجردة، ومع ذلك، يحذر منتقدون من مخاطر الإدمان العاطفي والنفسي، خاصة بين الفئات الأكثر هشاشة.
في مواجهة هذه الاتهامات، أعلنت الشركة عن تطوير نموذج ذكاء اصطناعي مخصص للمستخدمين القاصرين، يفرض قيودا صارمة على المحتوى وردودا أكثر حذرا من برمجيات المحادثة، كما أضافت المنصة ميزة لتحديد المحتوى المتعلق بالانتحار وتوجيه المستخدمين إلى خدمات الوقاية من الانتحار.
وأكد ناطق باسم الشركة أن الهدف هو "توفير بيئة آمنة وجذابة للمجتمع"، ومن المقرر أن تطلق الشركة في أوائل عام 2025 أدوات رقابة للوالدين، بالإضافة إلى ميزات مثل الإشعارات الإلزامية للتوقف المؤقت عن الاستخدام وتحذيرات واضحة حول الطبيعة الاصطناعية لهذه التفاعلات.
هذه التطورات تأتي في وقت يزداد فيه النقاش حول المسؤولية الأخلاقية والقانونية للشركات المطورة للذكاء الاصطناعي، حيث تطرح تساؤلات حول قدرة هذه المنصات على التمييز بين الترفيه ودعم القضايا النفسية الحساسة.
