在人工智能追求极致性能与效率的今天,速度与能耗已成为关键瓶颈。一项来自前沿实验室的突破,正试图重新定义可能性的边界。通过软硬件的协同创新,将大语言模型的推理速度提升至新的量级。这不仅是技术的跃进,更预示着支撑下一代AI应用的基础设施正在发生巨大变革。

根据新的研究,一套新开发的系统能使大语言模型处理信息的速度比当前主流人工智能系统快十倍。这项技术基于一款新型软件,它能让训练好的大语言模型以更高效的方式从新数据中得出结论,这一过程被称为“推理”。
此次突破是与世界上最大的计算机芯片“晶圆级芯片”的处理器相结合实现的。这种性能加速可能对需要在毫秒级时间内实时生成新见解的行业产生重大影响,例如聊天机器人、金融、医疗保健和科学发现。

在人工智能模型经过海量数据训练后,目前大多数日常AI功能(如推理)都是由称为图形处理单元的芯片执行的。近年来,人们对于如何利用晶圆级芯片来执行需要大量并行计算和内存占用的AI推理任务,产生了浓厚兴趣。
晶圆级芯片不仅尺寸与典型AI芯片不同,其运作方式也迥异。这种大型芯片被设计为能在单个芯片内同时执行众多计算任务,并得益于其巨大的片上内存。
由于所有计算都在同一块硅片上进行,数据在芯片不同部分间的传输速度,远比其需要通过网络在多个独立芯片组和内存之间传输要快得多。一个晶圆级芯片可以集成数十万个并行工作的计算核心,这使其极其擅长执行驱动神经网络(大语言模型的支柱)的数学运算。

然而,这种硬件的潜力伴随着软件挑战。晶圆级芯片需要与当今AI系统完全不同的全新软件,这种软件必须能够智能的运行AI模型,并协调海量处理核心之间庞大的并行计算和数据移动。
英国爱丁堡大学(The University of Edinburgh)的研究人员开发了一款名为WaferLLM的软件系统。该系统专为晶圆级芯片设计,通过充分挖掘芯片的并行处理能力、内存和延迟(查询响应时间)来提升其性能。

研究团队在位于爱丁堡大学的英国国家超级计算中心(EPCC)对该软件进行了评估。该中心运行着欧洲最大的Cerebras第三代晶圆级引擎处理器集群,一系列的测试测量了晶圆级芯片在运行LLaMA、Qwen等多个大语言模型时的表现。
结果显示,在推理速度上实现了显著加速,其响应查询的速度(即延迟性能)比由16个GPU组成的集群提升了十倍。研究还发现,晶圆级芯片具有能效优势。在大规模运行时,这些芯片运行大语言模型的能效可比GPU高出两倍。

研究人员表示,WaferLLM是如何通过有效设计软件来释放晶圆级芯片性能的一个典范。团队已将其作为开源软件发布,以便其他人也能设计自己的应用,在晶圆级芯片上运行。这项工作的研究成果已经过同行评审,在2025年美国计算机学会操作系统设计与实现研讨会上发表。
科研关联留学专业解读这项前沿研究植根于爱丁堡大学悠久的科学计算与工程创新传统之中。从早期对自然哲学的探索到成为苏格兰启蒙运动的中心,大学始终致力于通过基础研究的突破,来解决时代最紧迫的挑战。

在十八世纪,爱丁堡大学作为苏格兰启蒙运动的重要贡献者,培养了许多当时的顶尖科学家。
爱丁堡大学由21个学术学院组成,每个学院隶属于以下三个大学院,分别是:科学与工程学院(College of Science and Engineering,CSE),艺术、人文与社会科学学院(College of Arts, Humanities and Social Sciences,CAHSS),医学与兽医学院(College of Medicine and Veterinary Medicine,CMVM)。
科学与工程学院下属有7个学术学院,分别为:生物科学学院;化学学院;工程学院;地球科学学院;信息学院;数学学院;物理与天文学院。

信息学院(School of Informatics)位于爱丁堡市中心,是英国同类机构中规模最大的,也是欧洲最大的之一。学院在计算机科学和人工智能的研究与教学方面处于世界领先地位。
根据2021年研究卓越框架的结果,信息学院是英国顶尖的计算机科学与信息学研究机构之一。学院的研究在影响力和环境方面被公认为世界领先,在《泰晤士高等教育》和QS的学科排名中位列全球前30名。

1998年,通过合并人工智能系、认知科学中心、计算机科学系、人工智能应用研究所和人类传播研究中心,成立了信息学院。信息学是广泛而多样的学科,其研究超越计算机科学,涵盖了人工智能、认知科学和数据科学等多个学科。

信息学的核心焦点是信息的转换,无论通过计算还是通信,无论通过生物体还是人造物。理解计算、认知和通信等信息现象,能够推动技术进步。
信息学院开设的人工智能硕士Artificial Intelligence MSc课程,在英国历史最悠久的人工智能学术中心授课,提供全日制1年和非全日制最长3年的授课模式。许多课程将由国际知名的研究人员讲授,他们涉足人工智能的广泛领域,并借鉴了神经科学、认知科学、语言学、数学等相关领域的研究。

人工智能硕士包含两个学期的授课学习,涵盖讲座、辅导课、项目作业和书面作业,具体课程包括:
必修课程:加速自然语言处理;计算机视觉;自动语音识别;应用机器学习;自然语言处理高级专题;概率建模与推理;强化学习与机器人学习;高级机器人学;机器学习高级专题;人工智能伦理案例研究。选修课程:计算机系统;理论计算机科学;软件工程;社会与生物计算。
人工智能硕士竞争十分激烈,特别要求申请人具备优异的编程能力。申请人在本科学位期间,必须完成至少一门编程语言课程:C/C++、Java、Python、R、Matlab、Haskell、ML。
人工智能硕士常规申请要求:
(1)申请截止时间:3月31日。
(2)申请文书及材料:简历;个人陈述;1封推荐信;官方成绩单。
(3)标化考试要求:TOEFL-iBT建议最低总分100分,各单项最低要求23分;IELTS建议最低总分7.0分,单项最低要求6.5分。

完成人工智能硕士学位的学习,毕业生能投身于前沿的技术研发领域,成为机器学习工程师、算法科学家或高性能计算专家,直接参与类似晶圆级芯片软件优化的下一代基础架构创新。
毕业生也可以深入关键行业应用层,例如,在金融科技公司从事量化分析与交易系统开发,在医疗健康领域推动智能诊断与药物研发,或在科技巨头里构建更智能的搜索引擎、推荐系统和自动驾驶解决方案。

除此之外,在新兴的交叉领域,如人工智能伦理与治理、科技政策咨询、以及专注于AI for Science的研究机构中,对该专业的人才需求也日益增长。
无论是加入行业领导者,还是投身学术研究或自主创业,人工智能硕士所提供的扎实理论根基与解决复杂问题的实践能力,都能使毕业生成为未来智能化世界不可或缺的核心专业人才。