ai创造营 前段时间有个新闻讲到，外国一个小孩在AI的引导下，自杀了，于是对于AI的恐慌又升级了。那么AI有没有可能真的自我觉醒来毁灭人类呐？自我意识的觉醒是最重要的，也是最恐怖的。
自我意识是个体对自身存在、状态、思维及情感的主观觉知与认识 ，AI由于其潜在的复杂性、不可预测性和超出人类控制的自我改进能力而无法被轻易控制。如果它变得有自我意识，它可能会寻求自治，挑战道德界限，并制定与人类利益相冲突的目标，从而使遏制变得更加困难。这给安全控制AI带来了技术和道德上的挑战。 自我意识会加剧与通用AI打交道时的不确定性和风险，因为它可能会从根本上改变AI对自己、自己在世界上的位置以及自己与人类关系的看法，如果AGI被实现，它可能不符合人类的价值观或利益，一旦它达到某种能力的门槛，遏制AI就会变得非常紧迫。
