Claude“最后三公里”的问题，解方在云上 原创

今年3月，人工智能初创公司Anthropic全新大语言模型Claude 3上线，以生成结果准确、延迟低等特点，直接叫板OpenAI的GPT-4。在这之后，亚马逊也宣布已完成对Anthropic的40亿美元投资，Claude 3也正式登陆Amazon Bedrock。

亚马逊云科技大中华区产品部总经理陈晓建表示：“从模型能力到真正的运营生产之间，企业还需要增加很多辅助能力。此外，对用户来说，大模型与业务结合必须要有非常强的数据基石。”

三层架构，面向场景提供不同选择

尽管大模型非常重要，但只依靠大模型，对满足企业需求来说是远远不够的。陈晓建认为，企业需要一系列周边的能力来正确、合理、安全、高效地使用大模型，这就是亚马逊云科技一系列产品所提供的价值所在。

在这样的背景下，亚马逊云科技提供基础设施、模型和应用三层架构，为不同的客户提供不同层级的产品选择：

基础设施层面，亚马逊云科技提供基础算力，包括NVIDIA最新的G200芯片。同时，亚马逊云科技也投身到芯片研发的工作中，包括用于训练的Amazon Trainium、用于推理的Amazon Inferentia，这两款芯片都已经推出第二代。除此之外，亚马逊云科技也提供用于训练和推理的平台——Amazon Sagemaker。

模型层面，亚马逊云科技利用Amazon Bedrock这样的平台，帮助企业接入丰富的大模型。除Claude外，通过Amazon Bedrock，客户还可以选择Jurassic-2、Stable Diffusion XL 1.0、Llama 2、Amazon Titan等领先的基础模型。

应用层面，亚马逊云科技的生成式AI助手Amazon Q，能够与智能客服产品Amazon Connect和商业智能服务Amazon Quicksight结合，针对开发者，还提供Amazon CodeWhisperer等产品。

Amazon Bedrock提供一系列广泛的能力，预置吞吐量功能，可以保障业务拥有稳定独享的底层资源；模型微调，可以将自身的业务数据与大模型快速进行结合。在企业生产环境中，这些工程化的能力是企业真正需要的。

Claude 3，多种能力手到擒来

在Amazon Bedrock提供的众多基础模型当中，获得关注最多的就是最新上线的Claude 3，这款模型在很多领域的认知能力上都有着出色的表现。

Claude 3提供Haiku、Sonnet、Opus三种版本，分别相当于“中杯”、“大杯”、“超大杯”。Haiku规模较小，但具有几乎即时的响应速度；Sonnet则是在能力与速度之间达到理想平衡；Opus作为“超大杯”，可以处理高度复杂的任务。客户可以根据自己的商业需求，从中选择最合适的智能、速度和价格组合。

沟通会上，亚马逊云科技也展示了Claude 3在数学、编程、推理等方面的能力。Claude 3不仅可以识别图片文本，还能根据用户提供的图片展开回答，能够充分理解图片中几乎每一个元素之间的关系，而且得出反馈结果的速度也很快。

经过专业训练，Claude3将更擅长理解，包括图片、图表、图形以及OCR扫描产生的图像，理解速度也优于业界其他多模态模型。除此之外，Claude 3还能完成内容续写、辅助写代码、根据照片编写商品描述等任务。

在大部分业务场景中，生成式AI出现幻觉是很难避免的。这可能与数据、模型结构以及训练算法有关。在解决这个问题方面，Anthropic做了很多努力，相较于之前的模型，最新的Claude3模型已经取得了很大进步。

专业支持，为“最后三公里”提供助力

Claude 3在多个领域展现出超越凡的能力，但是企业实际部署一款大模型，还需要考虑数据隐私、处理速度和成本效益等问题。出于这样的考量，企业需要在云端和本地之间做出选择。

大模型运行需要的算力并非仅凭传统IDC数据中心就可以轻松实现。除了考虑芯片，还需要考虑散热、网络，以及自身的高可用、断电后的恢复等问题。在亚马逊云科技大中华区产品技术总监王晓野看来，云服务才是运行优质大模型最好的途径：“真正能跑在边缘的模型，能力还远不能达到优秀大模型所实现的‘重塑’体验的效果。”

人工智能有训练和推理两个阶段，亚马逊云科技大中华区数据分析与生成式AI产品总监崔玮认为，不论在云端还是本地，都需要先选择一个场景：“不同行业用例可能不同。训练端需要一个大的可扩展性和规模集群。”

通用模型无法全面覆盖所有应用场景，然而在某些场景下，客户会对成本更加敏感。亚马逊云科技推出Amazon Bedrock，为客户提供了丰富的选择，客户可以在自己的应用场景下，选择成本和性能更合适的环境。

对于企业客户来说，在模型能力和实际运营生产之间还需要增加很多辅助能力。陈晓建介绍，Amazon Bedrock能够提供一系列除了大模型之外的能力，如预置吞吐量（Provisioned Throughput），客户可以购买后台资源，这些资源提供的大模型能力也是完全独享的；模型微调（fine-tunning）能够帮助企业将自身的业务数据与达模型结合，进行微调，帮助客户用好业务数据，实现差异化，这是仅使用标准化大模型无法做到的。

即便有了完善的数据基础和优质的工具，应用场景依然在不断变化。为了将最新的云端生产力更好地与业务结合，企业需要更专业的团队提供支持，而亚马逊云科技在做的正是为生成式AI的“最后三公里”提供支持。