生成式AI在快速发展，然而它的问题也越来越明显，请看关于生成式AI的9个问题 在快速发展的人工智能领域，生成式人工智能工具正在展示出令人难以置信的潜力。然而，它们潜在的危害也越来越明显。 Visualcapitalist与VERSES一起，在下面图中展示了关于使用来自各种不同来源的数据的生成人工智能工具的9个问题。它们中的许多属于以下类别之一: 质量控制和数据准确性以及道德考虑或技术挑战-当然，有一定程度的重叠。 ——问题1: 偏入，偏出 主题:质量控制与准确性 生成式人工智能的一个关键问题在于它倾向于再现它所训练的数据中存在的偏见。这些工具非但没有减轻偏见，反而经常放大或延续偏见，引发了对其应用准确性的质疑——这可能导致更大的道德问题。 ——问题2: 黑匣子问题 主题:道德和法律考虑 采用生成人工智能的另一个重大障碍是其决策过程缺乏透明度。由于思维过程通常是不可解释的，这些人工智能系统在解释其决策时面临挑战，特别是在关键问题上发生错误时。 值得注意的是，这是人工智能系统的一个更广泛的问题，而不仅仅是生成工具。 ——问题3: 培训和维护成本高 主题:复杂性和技术挑战 训练像大型语言模型(LLM) ChatGPT这样的生成式人工智能模型是非常昂贵的，由于所需的计算能力和基础设施，成本通常达到数百万美元。例如，OpenAI前首席执行官萨姆·奥特曼证实，ChatGPT-4的培训成本高达1亿美元。 ——问题4: 盲目的鹦鹉学舌 主题:质量控制与准确性 尽管具有先进的能力，但生成人工智能受到训练数据和模式的限制。这种限制导致产出可能不包括人类知识的广度或处理不同的情景。 ——问题5: 与人类价值观保持一致 主题:道德和法律考虑 与人类不同，生成型人工智能缺乏根据人类价值观来考虑其行为后果的能力。 虽然像人工智能制造的“巴黎世家教皇”这样的例子似乎是无害的，但重要的是要认识到，深度伪造可能被用于更有害的目的，比如在面临公共卫生危机时传播虚假信息。 这突出了需要更多的框架来确保这些系统在道德界限内运行。 ——问题6: 电力消耗 主题:复杂性和技术挑战 生成式人工智能对环境的影响不容忽视。由于处理单元消耗大量电力，像ChatGPT这样的模型的成本相当于为33,000个美国家庭供电，仅一次查询就比一封电子邮件耗电量多10到100倍。 ——问题7: 幻觉 主题: 质量控制与准确性 众所周知，生成式人工智能模型在面对数据缺口时会创建虚构的语句或图像，这引发了人们对其输出的可靠性和潜在后果的担忧。 例如，在谷歌Bard的宣传视频中，聊天机器人错误地声称詹姆斯·韦伯太空望远镜捕捉到了太阳系外行星的第一张图像。 ——问题8: 侵犯版权和知识产权 主题: 道德和法律考虑 当考虑到一些生成人工智能工具在未经同意、信用或补偿的情况下挪用受版权保护的作品，侵犯了艺术家和创作者的权利时，数据的道德使用变得至关重要。 OpenAI最近推出了一项名为Copyright Shield的补偿计划，该计划涵盖了某些客户级别的版权侵权诉讼的法律费用，而不是从ChatGPT的训练数据集中删除受版权保护的材料。 ——问题9: 静态信息 主题: 复杂性和技术挑战 使生成式人工智能模型保持最新需要大量的计算资源和时间，这是一项艰巨的技术挑战。然而，一些模型是为增量更新而设计的，为这个复杂的问题提供了一个潜在的解决方案。 在追求利用人工智能的力量时，必须保持谨慎的平衡，以确保在这一变革领域取得合乎道德、透明和有影响力的进展。
