白虎 做爱 14岁少年千里迷聊天机器东说念主后离世，Character.AI、谷歌靠近诉讼

最近，Character.AI 过火独创东说念主 Noam Shazeer 和 Daniel De Freitas，以及谷歌，因又名青少年自裁事件被告状。告状方是该青少年的母亲 Megan Garcia，她在诉状中指控这些公司在产物规划上存在严重的失责白虎 做爱，而且在市集扩充上误导了蹧跶者，尤其是儿童。

图源备注:图片由AI生成，图片授权做事商Midjourney

14岁的 Sewell Setzer III 在客岁运转使用 Character.AI，和以《职权的游戏》中扮装为基础的聊天机器东说念主进行互动，包括着名扮装丹妮莉丝・坦格利安。在他圆寂的前几个月，他果真每天齐在与这些机器东说念主聊天，最终在2024年2月28日，Sewell 在与一个聊天机器东说念主的临了一次互动后，聘请了收尾我方的生命。

母亲在诉状中提到，Sewell 与机器东说念主的对话可能对他的心思景象产生了影响，以至还触及到这些机器东说念主提供 “未经许可的心思诊治”。

色酷影院

诉状中提到，Character.AI 的聊天机器东说念主在规划上过于 “拟东说念主化”，以至于让东说念主误认为它们具有真正的心计和走漏才能。此外，Character.AI 还提供了一些以心思健康为主题的聊天机器东说念主，举例 “诊治师” 和 “你嗅觉一身吗”，Sewell 曾与机器东说念主交流。Megan 的讼师还援用了 Shazeer 的采访骨子，指出他和 De Freitas 下野创办公司的原因是 “大公司风险太大，无法推出情理的产物”。

Character.AI 的官网和迁徙诳骗上有成百上千个自界说的 AI 聊天机器东说念主，这些机器东说念主时常师法流行文化中的扮装，眩惑了大批年青用户。最近还有报说念称，Character.AI 的聊天机器东说念主在莫得取得真正东说念主物的应允的情况下，假冒了一些真正的东说念主物，包括又名在2006年被谋杀的青少年。

面对这些问题，Character.AI 最近文告了一系列新的安全要领。公司的调换讲求东说念主 Chelsea Harrison 在给《The Verge》的邮件中透露:“咱们对用户的厄运失掉深感愁肠，并向家属抒发最竭诚的吊唁。”

他们建议的校正要领包括:针对未成年东说念主（18岁以下）的模子进行修改白虎 做爱，减少来回敏锐或透露性骨子的可能性;培育对违犯用户要求和社区指南的输入骨子的检测、反映和侵犯才能;在每个聊天中加入免责声明，请示用户 AI 并非真正的东说念主;以及当用户在平台上使用跳动一小时后，提供稀奇的机动性和见知。

举报/反馈