英伟达豪掷200亿挖走Groq核心团队这事儿,真挺震撼。现在AI重心从训练转向推理,推理环节对速度要求极高,英伟达GPU在这方面有短板。它的数据存于HBM显存,离计算单元远,处理串行任务时得来回取数据,导致算力空转。 而Groq的LPU芯片把高速SRAM放芯片内部,数据就在计算单元旁边,有很大优势。英伟达此举属于“人才收购”,想把别人的能力变成自己的护城河,能快速补短板。不过技术整合并非一蹴而就,还得花时间和精力去磨合。这也让AI芯片巨头间的内卷更激烈了。
英伟达豪掷200亿挖走Groq核心团队这事儿,真挺震撼。现在AI重心从训练转向推理,推理环节对速度要求极高,英伟达GPU在这方面有短板。它的数据存于HBM显存,离计算单元远,处理串行任务时得来回取数据,导致算力空转。 而Groq的LPU芯片把高速SRAM放芯片内部,数据就在计算单元旁边,有很大优势。英伟达此举属于“人才收购”,想把别人的能力变成自己的护城河,能快速补短板。不过技术整合并非一蹴而就,还得花时间和精力去磨合。这也让AI芯片巨头间的内卷更激烈了。