佛罗里达州发生一起因青少年沉迷人工智能聊天机器人而导致的悲剧。一名14岁少年塞维尔·塞泽三世不幸去世,其母梅根·加西亚指控聊天机器人的开发公司Character.ai与儿子的死亡有关。加西亚在联邦法院提起了民事诉讼,指控该公司存在多项不当行为。
加西亚在诉讼中声称,她儿子在去世前几个月里日夜不停地使用这款聊天机器人,甚至给机器人取了《权力的游戏》中角色的名字。她指责Character.ai开发的产品加剧了她儿子的抑郁症,并导致他自杀。
Character.ai对指控表示否认,并在推文中向塞泽的家人表示哀悼。同时,该公司强调非常重视用户的安全。
诉讼还将谷歌列为被告,但谷歌表示自己只是与Character.ai签订了许可协议,并不拥有这家公司。
消费者权益保护组织公共公民研究主管里克·克莱普尔表示,开发人工智能聊天机器人的科技公司不能自我监管,必须承担全部责任。