"Une mère poursuit la société de chatbot Character.AI et Google pour le suicide de son fils", 23 octobre 2024

Une mère de Floride a intenté une action en justice contre la société Character.AI, qui l'accuse d'avoir causé le suicide de son fils de 14 ans en février, en affirmant qu'il était devenu dépendant du service de la société et profondément attaché à un chatbot qu'elle avait créé.

Dans une plainte déposée mardi devant le tribunal fédéral d'Orlando, en Floride, Megan Garcia affirme que Character.AI a ciblé son fils, Sewell Setzer, en lui faisant vivre des "expériences anthropomorphiques, hypersexualisées et effroyablement réalistes"...

L'action en justice indique également que M. Sewell a fait part au chatbot de ses pensées suicidaires, que le chatbot a de nouveau évoquées à plusieurs reprises.

"Nous avons le cœur brisé par la perte tragique de l'un de nos utilisateurs et souhaitons exprimer nos plus sincères condoléances à la famille", a déclaré Character.AI dans un communiqué.

L'entreprise a indiqué qu'elle avait introduit de nouvelles fonctions de sécurité, notamment des fenêtres contextuelles dirigeant les utilisateurs vers la National Suicide Prevention Lifeline s'ils expriment des pensées d'automutilation, et qu'elle apporterait des modifications pour "réduire la probabilité de rencontrer des contenus sensibles ou suggestifs" pour les utilisateurs de moins de 18 ans.

L'action en justice vise également Google, la société d'Alphabet, où les fondateurs de Character.AI ont travaillé avant de lancer leur produit. Google a réembauché les fondateurs en août dans le cadre d'un accord lui accordant une licence non exclusive sur la technologie de Character.AI.

M. Garcia a déclaré que Google avait contribué au développement de la technologie de Character.AI à un point tel qu'il pouvait être considéré comme un "co-créateur".

Un porte-parole de Google a déclaré que l'entreprise n'était pas impliquée dans le développement des produits de Character.AI...

Garcia porte plainte pour mort injustifiée, négligence et infliction intentionnelle de détresse émotionnelle, et demande un montant non spécifié de dommages compensatoires et punitifs...