在一系列 AI 软件公告中,NVIDIA创始人、CEO 兼时尚偶像黄仁勋宣布了一个新平台,用于为 AI 开发者提供 AI PC 支持。许多分析师早就预料到这一举动,因为同一封装中集成 Grace (Arm) CPU 和 Blackwell GPU 将对 PC 竞争对手英特尔、AMD 和高通构成挑战。(但这还不是通用 AI PC。至少目前还不是。(声明:Nvidia 是我所在公司 Cambrian-ai Research 的客户。)
专为开发者打造的全新 AI PC
Project Digits 是一个小型设备,可从NVIDIA和"顶级合作伙伴"处购买,起价 3000 美元。添加显示器、键盘和鼠标,或直接从合作伙伴处购买,您就能拥有市面上最快速、最完整的 AI 开发工作站。它提供整整 1 petaflop 的 FP4 性能,并支持 Nvidia 全系列 AI 软件,从 NEMO 到 Omniverse 一应俱全。
每台 Project DIGITS (Project 这个名字有点奇怪;可能是为了避免惹恼 PC 合作伙伴) 配备 128GB 统一、一致的内存和高达 4TB 的 NVMe 存储。它可以使用标准墙壁电源运行。借助这个平台,开发者可以运行高达 2000 亿参数的 AI 模型。此外,使用 NVIDIA ConnectX 网络,两台 Project DIGITS AI 超级计算机可以连接在一起,运行高达 4050 亿参数的模型。看,不需要服务器就能实现!
通过 DIGITS,研究人员可以在运行基于 Linux 的 NVIDIA DGX OS 的本地工作站上进行原型设计、微调和测试模型,然后将它们部署在 NVIDIA DGX Cloud、加速云实例或数据中心基础设施上。
但 AI PC 应该运行 Windows,对吧?
由于大多数开发者使用 Linux,DIGITS 支持该操作系统。这意味着它不是通用 PC,至少在支持 Microsoft Windows 之前不是。黄仁勋明确表示,这个平台是为 AI 开发者设计的,而不是 AI 用户。NVIDIA创始人兼 CEO 黄仁勋表示,目标是"在每位数据科学家、AI 研究人员和学生的桌面上放置一台 AI 超级计算机,使他们能够参与并塑造 AI 时代。"
有趣的是,联发科与NVIDIA合作设计了 GB10,"为其最佳功耗效率、性能和连接性做出了贡献。"我认为这意味着 SoC 设计专业知识。Nvidia 和联发科此前曾宣布在汽车解决方案方面的合作,但现在这种关系可能已经大幅扩展。
这可能会走向何方?面向终端用户的 AI PC?
面向开发者的超快 AI PC 很酷。面向终端用户的超快 AI PC 将会是一个巨大的市场,挑战 PC CPU 供应商的地位。要将"Project" DIGITS 转变为 AI PC 强者,还需要做些什么?Microsoft Windows 和 HP、Dell、联想等 PC OEM 厂商必须支持这款新型超级芯片。现在高通骁龙已经将 Arm CPU 核心引入 Windows 主流,为新的基于 Arm 的平台进行 Windows 测试和认证将相对简单。但这项工作仍然需要时间。它可能会在 GTC 大会上准备就绪,至少可以发布公告。这样做将为 Nvidia 开辟一个数十亿美元的增量市场。
我们甚至还没有谈到NVIDIA宣布的所有酷炫软件,也没有提到NVIDIA刚刚赢得了自动驾驶领域的大鱼:丰田。但这是另一个故事了。
好文章,需要你的鼓励
南洋理工大学研究团队开发了WorldMem框架,首次让AI拥有真正的长期记忆能力,解决了虚拟世界模拟中的一致性问题。该系统通过记忆银行存储历史场景,并使用智能检索机制,让AI能准确重现之前的场景和事件,即使间隔很长时间。实验显示在Minecraft和真实场景中都表现出色,为游戏、自动驾驶、机器人等领域带来广阔应用前景。
AWS通过升级SageMaker机器学习平台来扩展市场地位,新增观测能力、连接式编码环境和GPU集群性能管理功能。面对谷歌和微软的激烈竞争,AWS专注于为企业提供AI基础设施支撑。SageMaker新功能包括深入洞察模型性能下降原因、为开发者提供更多计算资源控制权,以及支持本地IDE连接部署。这些更新主要源于客户需求,旨在解决AI模型开发中的实际问题。
MTS AI研究团队提出RewardRanker系统,通过重排序模型和迭代自训练显著提升AI代码生成质量。该方法让13.4B参数模型超越33B大模型,在多种编程语言上表现优异,甚至在C++上超越GPT-4。通过引入困难负样本和PPO优化,系统能从多个代码候选中选出最优方案,为AI编程助手的实用化奠定基础。