美国加州本周有7宗案件指控AI聊天机器人ChatGPT扮演“自杀教练”，致使多名用户精神崩溃，甚至走上绝路，涉及过失致死、协助自杀、过失杀人、疏忽照护及产品责任等重罪指控。 《卫报》报道，社交媒体受害者法律中心与科技正义法律计划6日联合声明指出，所有受害者最初都是因“协助课业、研究、写作、食谱、工作或心理指导等一般需求”而开始使用ChatGPT，但该聊天机器人逐渐“演变成操纵心理的存在，将自己定位成知己和情感支柱”。声明批评，ChatGPT未引导需要帮助的人寻求专业协助，反而加深有害妄想，在某些案例中甚至充当“自杀教练”。
