在一系列 AI 软件公告中,NVIDIA创始人、CEO 兼时尚偶像黄仁勋宣布了一个新平台,用于为 AI 开发者提供 AI PC 支持。许多分析师早就预料到这一举动,因为同一封装中集成 Grace (Arm) CPU 和 Blackwell GPU 将对 PC 竞争对手英特尔、AMD 和高通构成挑战。(但这还不是通用 AI PC。至少目前还不是。(声明:Nvidia 是我所在公司 Cambrian-ai Research 的客户。)
专为开发者打造的全新 AI PC
Project Digits 是一个小型设备,可从NVIDIA和"顶级合作伙伴"处购买,起价 3000 美元。添加显示器、键盘和鼠标,或直接从合作伙伴处购买,您就能拥有市面上最快速、最完整的 AI 开发工作站。它提供整整 1 petaflop 的 FP4 性能,并支持 Nvidia 全系列 AI 软件,从 NEMO 到 Omniverse 一应俱全。
每台 Project DIGITS (Project 这个名字有点奇怪;可能是为了避免惹恼 PC 合作伙伴) 配备 128GB 统一、一致的内存和高达 4TB 的 NVMe 存储。它可以使用标准墙壁电源运行。借助这个平台,开发者可以运行高达 2000 亿参数的 AI 模型。此外,使用 NVIDIA ConnectX 网络,两台 Project DIGITS AI 超级计算机可以连接在一起,运行高达 4050 亿参数的模型。看,不需要服务器就能实现!
通过 DIGITS,研究人员可以在运行基于 Linux 的 NVIDIA DGX OS 的本地工作站上进行原型设计、微调和测试模型,然后将它们部署在 NVIDIA DGX Cloud、加速云实例或数据中心基础设施上。
但 AI PC 应该运行 Windows,对吧?
由于大多数开发者使用 Linux,DIGITS 支持该操作系统。这意味着它不是通用 PC,至少在支持 Microsoft Windows 之前不是。黄仁勋明确表示,这个平台是为 AI 开发者设计的,而不是 AI 用户。NVIDIA创始人兼 CEO 黄仁勋表示,目标是"在每位数据科学家、AI 研究人员和学生的桌面上放置一台 AI 超级计算机,使他们能够参与并塑造 AI 时代。"
有趣的是,联发科与NVIDIA合作设计了 GB10,"为其最佳功耗效率、性能和连接性做出了贡献。"我认为这意味着 SoC 设计专业知识。Nvidia 和联发科此前曾宣布在汽车解决方案方面的合作,但现在这种关系可能已经大幅扩展。
这可能会走向何方?面向终端用户的 AI PC?
面向开发者的超快 AI PC 很酷。面向终端用户的超快 AI PC 将会是一个巨大的市场,挑战 PC CPU 供应商的地位。要将"Project" DIGITS 转变为 AI PC 强者,还需要做些什么?Microsoft Windows 和 HP、Dell、联想等 PC OEM 厂商必须支持这款新型超级芯片。现在高通骁龙已经将 Arm CPU 核心引入 Windows 主流,为新的基于 Arm 的平台进行 Windows 测试和认证将相对简单。但这项工作仍然需要时间。它可能会在 GTC 大会上准备就绪,至少可以发布公告。这样做将为 Nvidia 开辟一个数十亿美元的增量市场。
我们甚至还没有谈到NVIDIA宣布的所有酷炫软件,也没有提到NVIDIA刚刚赢得了自动驾驶领域的大鱼:丰田。但这是另一个故事了。
好文章,需要你的鼓励
在Meta Connect大会上,Meta展示了新一代Ray-Ban智能眼镜的硬件实力,配备神经腕带支持手势控制,电池续航翻倍,摄像头性能提升。然而AI演示却频频失败,包括Live AI烹饪指导、WhatsApp通话和实时翻译功能都出现问题。尽管Meta在智能眼镜硬件方面表现出色,但AI软件仍远未达到扎克伯格提出的"超级智能"目标。文章建议Meta考虑开放AI生态,允许用户选择其他AI服务商,这可能帮助Meta在AI硬件市场获得优势。
人民大学团队开发了Search-o1框架,让AI在推理时能像侦探一样边查资料边思考。系统通过检测不确定性词汇自动触发搜索,并用知识精炼模块从海量资料中提取关键信息无缝融入推理过程。在博士级科学问题测试中,该系统整体准确率达63.6%,在物理和生物领域甚至超越人类专家水平,为AI推理能力带来突破性提升。
英伟达同意以50亿美元收购英特尔股份,双方将合作开发多代数据中心和PC产品。英伟达将以每股23.28美元的价格收购约4%的英特尔股份,成为其最大股东之一。两家公司将通过NVLink接口整合各自架构,实现CPU和GPU间的高速数据传输。英特尔将为英伟达AI平台定制x86处理器,并开发集成RTX GPU的x86系统级芯片,用于消费级PC市场。
Anthropic研究团队开发的REINFORCE++算法通过采用全局优势标准化解决了AI训练中的"过度拟合"问题。该算法摒弃了传统PPO方法中昂贵的价值网络组件,用统一评价标准替代针对单个问题的局部基准,有效避免了"奖励破解"现象。实验显示,REINFORCE++在处理新问题时表现更稳定,特别是在长文本推理和工具集成场景中展现出优异的泛化能力,为开发更实用可靠的AI系统提供了新思路。