10月16日消息,据CNBC报道,OpenAI首席执行官SamAltman周三表示,该公司不是世界选举出来的道德警察,此前他决定放松限制并允许其聊天机器人ChatGPT中包含色情内容,此举遭到强烈反对。
这家人工智能初创公司近几个月来扩大了其安全控制范围,因为它面临着越来越严格的审查,审查内容是它如何保护用户,特别是未成年人。
但奥特曼周二在X上的一篇文章中表示,OpenAI现在有了新工具,并且能够缓解“严重的心理健康问题”,因此可以“安全地放宽”大多数限制。
去年12月,奥特曼表示将允许ChatGPT为“经过验证的成年人”提供更多内容,包括色情内容。
奥特曼周三在X的一篇文章中试图澄清这一举动,称OpenAI“非常在意将成年用户视为成年人的原则”,但仍然不会允许“对他人造成伤害的事情”。
奥特曼写道:“就像社会区分其他适当的界限(例如R级电影)一样,我们也想在这里做类似的事情。”
这些帖子与奥特曼8月份在播客节目中发表的评论相矛盾,当时他表示,他对OpenAI能够抵制某些功能(例如“性爱机器人头像”)的能力感到“自豪”,这些功能可能会提高ChatGPT的参与度。
奥特曼表示:“我们可以做很多短期的事情,这些事情确实可以促进增长或收入,但与长期目标却大相径庭。”
今年9月,美国联邦贸易委员会(FTC)对OpenAI和其他科技公司展开调查,调查内容包括ChatGPT等聊天机器人可能对儿童和青少年造成负面影响。OpenAI还卷入了一起非正常死亡诉讼,一家人将他们十几岁的儿子自杀归咎于ChatGPT。
在调查和诉讼之后的几个月里,该公司已采取多项公开措施,以增强ChatGPT的安全性。上个月底,该公司推出了一系列家长控制功能,并正在构建一个年龄预测系统,该系统将自动为18岁以下的用户应用适合青少年的设置。
周二,OpenAI宣布成立一个由八名专家组成的委员会,他们将深入探讨人工智能如何影响用户的心理健康、情绪和动力。Altman当天发布了该公司放松限制的计划,在社交媒体上引发了混乱和迅速的反弹。
奥特曼表示,这次事件比他预想的要严重得多。
他的帖子也引起了国家性剥削中心等倡导组织的注意,这些组织呼吁OpenAI撤销允许在ChatGPT上发布色情内容的决定。
NCOSE执行董事HaleyMcNamara在周三的一份声明中表示:“性化的人工智能聊天机器人本质上是有风险的,其人造亲密关系会对心理健康造成真正的危害;而这一切都发生在行业安全标准定义不明确的背景下。”(鞭牛士、AI普瑞斯编译)