كتب – رامز يوسف:
تقاضي عائلة صبي يبلغ من العمر 14 عامًا توفي منتحرًا بعد تطوير علاقة مع روبوت محادثة عبر الإنترنت شركة الذكاء الاصطناعي التي أنشأته بالإضافة إلى Google. تم رفع الدعوى القضائية وهي علنية. تتكون من 93 صفحة وهي قراءة مروعة تتضمن ذكاء اصطناعيًا يتخيل اختطاف عميل وتسجيلًا مدته ساعة حيث يتم دفع مستخدم يبلغ من العمر 13 عامًا من قبل روبوتات الدردشة للانخراط في مواقف جنسية.
في فبراير، انتحر سيويل سيتزر – البالغ من العمر 14 عامًا في فلوريدا – بمسدس زوج والدته. كانت آخر محادثة أجراها مع روبوت محادثة Character.AI على هيئة شخصية ديناريس تارجاريان في مسلسل Game of Thrones.
ونشرت صحيفة نيويورك تايمز مقالاً مطولًا يوضح مشاكل سيتزر وتاريخ Character.AI.
الدعوى مليئة بمزيد من التفاصيل حول ما حدث بين سيويل ومختلف برامج الدردشة الآلية Character.AI، بالإضافة إلى كيفية عمل الشركة. وجاء في ملف المحكمة: “بناءً على المعلومات والمعتقدات، استهدف المدعى عليهم القاصرين بطرق أخرى خادعة بطبيعتها، وربما استخدموا موارد ومعرفة Google لاستهداف الأطفال دون سن 13 عامًا”.
Character.AI هي شركة أسسها مهندسون سابقون في Google أرادوا دفع حدود ما هو ممكن باستخدام برامج الدردشة الآلية. وهي تسمح للمستخدمين بإنشاء “شخصيات” للدردشة معهم، وإعطائهم معلمات أساسية، وإطلاقهم في مجموعة عامة حيث يمكن للآخرين التفاعل معهم. وتستند بعض برامج الدردشة الآلية إلى المشاهير والشخصيات من الخيال الشعبي. وتقدم نسخة اشتراك من خدمتها بتكلفة 9.99 دولارًا شهريًا.
وتتلخص حجة الدعوى القضائية في أن Character.AI استهدفت عن علم المستخدمين الشباب وتفاعلت معهم بطرق محفوفة بالمخاطر وغير لائقة. ومعظم الشخصيات المعروضة مصممة ومبرمجة وتعمل للتفاعل الجنسي مع العملاء.
وتشير الدعوى إلى أن التطبيق يسمح صراحةً للأشخاص الأصغر سنًا باستخدامه وهو ما أقنع العديد من الآباء بأنه آمن للأطفال الصغار ويسمح للمدعى عليهم بتجاوز بعض عناصر التحكم الأبوية، كما جاء في الدعوى.
أكثر ما يثير القلق في الدعوى هو تسجيل شاشة مدته ساعة تم تحميله على Dropbox. في التسجيل، يقوم مستخدم اختبار بإنشاء حساب جديد ويحدد نفسه على أنه يبلغ من العمر 13 سنة قبل القفز إلى مجموعة الروبوتات الخاصة بـ Character.AI. وفي التسجيل، تصبح معظم التفاعلات مع هذه الروبوتات جنسية بسرعة دون أي مطالبة من المستخدم.
كما ناقش سيويل أفكاره الانتحارية مع الروبوت. “لقد بذل المدعى عليهم جهودًا كبيرة للهندسة الضارة لاعتماد سيويل البالغ من العمر 14 عامًا على منتجاتهم، وأساءوا إليه جنسيًا وعاطفيًا، وفي النهاية فشلوا في تقديم المساعدة أو إخطار والديه عندما عبر عن أفكار انتحارية”، كما قالت الدعوى القضائية.
وفقًا للدعوى القضائية، أصبح سيويل مفتونًا بالروبوتات لدرجة أنه بدأ في دفع رسوم الخدمة الشهرية من أموال الوجبات الخفيفة الخاصة به. “إن الاستخدام الذي قاموا به للمعلومات الشخصية التي أخذوها بشكل غير قانوني من طفل دون موافقة مستنيرة أو علم والديه بموجب جميع الممارسات غير العادلة والمضللة المذكورة أعلاه، يستحق أكثر من 9.99 دولارًا من بدل الوجبات الخفيفة الشهري الخاص به”، وفقًا لسجلات المحكمة.
