Elon Musk:Grok 3.5 早期测试版将于下周向订阅了 SuperGrok 的用户。
这将是第一个推理能力显著增强的模型。后面紧跟的两个问题是他之前反复谈论过的。
比如 2023 年在 Lex Fridman 的播客中他提到 Grok 被设计用来回答几乎任何问题。比如 Grok 应该回答「如何优化火箭发动机的推力」或「如何提高电池的能量密度」。
回答这些问题会逼着模型从第一性原理出发思考,而不能只从网上抓取答案。现在的 LLM 面对这类问题,一般只能给出泛泛的答案或者直接承认不知道,xAI 试图训练 Grok 「真正理解这些系统的底层原理」。
去年 5 月 Elon 提到为了增强 Grok 的能力,训练数据集中有一些来自 SpaceX 和特斯拉的工程文档。
看起来 xAI 会用这些数据在后训练阶段对 Grok 的能力做一些引导和迭代。