權威機構弗若斯特沙利文（Frost&Sullivan，簡稱“沙利文”）聯(lián)合頭豹研究院發(fā)布了《2023年中國 AI 開發(fā)平臺市場報告》。報告對 AI 開發(fā)平臺的數(shù)據(jù)處理能力，模型構建、訓練、評估、部署和推理能力，安全與權限管理能力，服務支持水平，以及應用場景解決方案豐富度等指標進行了增長和創(chuàng)新兩個維度的評估，并結合了用戶調(diào)研結果。亞馬遜云科技連續(xù)第三年被評為中國 AI 開發(fā)平臺 “領導者”，并連續(xù)在增長指數(shù)和創(chuàng)新指數(shù)兩個維度蟬聯(lián)第一。

“亞馬遜云科技是中國 AI 開發(fā)平臺領導者，不僅為用戶提供 AI 開發(fā)全生命周期管理能力，還推出完整的生成式人工智能（Generative AI）技術棧幫助用戶簡化生成式 AI 應用的開發(fā)，同時確保企業(yè)的安全隱私。平臺融合多樣模型，強化數(shù)據(jù)定制能力，以先進云基礎設施支持廣泛客戶群，深耕中國市場，助力企業(yè)快速應用 AI 和 ML。”

    ————《2023年中國 AI 開發(fā)平臺市場報告》

在生成式 AI 領域，亞馬遜云科技支持構建生成式 AI 應用的解決方案包括三層：用于基礎模型訓練和推理的基礎設施、使用基礎模型進行構建的工具、利用基礎模型構建的開箱即用的應用程序。

亞馬遜云科技為用戶提供豐富的算力選擇，豐富的 AI 基礎設施組合涵蓋了基于多種 NVIDIA GPU 類型的高性能計算實例和自研芯片。推理方面基于 NVIDIA A10 GPU 的 Amazon EC2 G5 實例和基于 NVIDIA L4 GPU 的 Amazon EC2 G6 實例可用于各種圖形密集型和機器學習使用案例。訓練方面，Amazon EC2 P4d 實例由 NVIDIA A100 GPU 提供支持，并提供業(yè)界領先的高吞吐量和低延遲網(wǎng)絡，訓練 ML 模型的成本與 P3 實例相比降低多達 60%。Amazon EC2 P5 實例由最新的 NVIDIA H100 GPU 提供支持，進一步將 CPU 性能提高了 2 倍，系統(tǒng)內(nèi)存提高了 2 倍，本地存儲空間增加了 4 倍，可用來訓練和部署日益復雜的大型語言模型（LLM）和擴散模型，并為要求最苛刻的生成式 AI 應用程序提供支持。亞馬遜與英偉達的合作始于13年之前，雙方一起發(fā)布了世界上第一個云上 GPU 實例。

近期，亞馬遜云科技再次宣布將提供基于最新的 NVIDIA Grace Blackwell GPU 的 Amazon EC2 實例和 NVIDIA DGX Cloud。結合亞馬遜云科技強大的 Elastic Fabric Adapter 網(wǎng)絡、Amazon EC2 UltraClusters 的超規(guī)模集群以及 Nitro 系統(tǒng)的先進虛擬化和安全功能，客戶能夠更快、更大規(guī)模、更安全地構建和運行多萬億參數(shù)的大型語言模型。亞馬遜云科技持續(xù)積極投入先進算力研發(fā)以提升構建 AI 應用性價比，目前已發(fā)布支持千億級甚至萬億級參數(shù)規(guī)模模型訓練的自研訓練加速芯片 Trainum2 以及面向推理的自研推理加速芯片 Inferentia2，為模型訓練和推理提供更高算力、更快的加速比和更好的性價比。

Amazon SageMaker 作為訓練與微調(diào)基礎模型的一站式平臺，提供 MLOps 編排和模型試驗管理功能，支持可視化特征處理和大規(guī)模寫作，同時能夠直接獲取算力資源并做到成本可控。Amazon SageMaker Jumpstart 上還提供了數(shù)百個預訓練模型的訪問權限，用戶可以使用專門構建的工具來微調(diào)、實驗、再訓練和部署模型，構建自己的基礎模型。

Amazon SageMaker Hyperpod 是專為大規(guī)模分布式訓練構建的基礎設施，預先配置了 Amazon SageMaker 分布式訓練庫，允許您在亞馬遜云科技集群實例中自動拆分模型和訓練數(shù)據(jù)集，有助于高效地擴展訓練工作負載，最多可將訓練時間縮短 40％，還可自動檢測、診斷故障并從中恢復，從而提供更具韌性的訓練環(huán)境，使您能夠連續(xù)訓練 FM 數(shù)月而不會中斷，它消除了為訓練基礎模型構建和優(yōu)化機器學習基礎設施所涉及的千篇一律的繁重工作。

Amazon Bedrock 是一項完全托管的服務，通過單個 API 提供來自 AI21 Labs、Anthropic、Cohere、meta、Mistral AI、Stability AI 和 Amazon 等領先人工智能公司的高性能基礎模型，以及通過安全性、隱私性和負責任的 AI 構建生成式 AI 應用程序所需的一系列廣泛功能。

例如，由 Anthropic 推出的 Claude 3 在發(fā)布的同時即在 Amazon Bedrock 登陸，這一模型家族包含 Claude 3 Haiku、Claude 3 Sonnet 和 Claude 3 Opus（即將上線）三個模型，支持中文及多種語言，并以其卓越的自然語言處理和計算機視覺能力成為了業(yè)界翹楚。Mistral AI 的領先模型 Mistral Large 也已登陸 Amazon Bedrock，Mistral Large 擁有出色的語言理解和生成能力，非常適合需要推理能力或高度專門化的復雜任務，如合成文本生成、代碼生成、檢索增強生成（RAG）或智能代理。

Amazon Bedrock 支持用戶自動或者人工評估、比較并選擇模型，支持用戶通過 RAG 、微調(diào)、繼續(xù)預訓練以及提示詞工程實現(xiàn)模型定制功能，并且，在 Amazon Bedrock 上使用模型定制功能，用戶數(shù)據(jù)在傳輸過程和靜態(tài)時都經(jīng)過加密，因此，所有數(shù)據(jù)都能保證安全私密。Knowledge bases for Amazon Bedrock 為基礎模型（FM）和 Agent 提供來自私有數(shù)據(jù)源的上下文信息，用于檢索增強生成（RAG），以提供更相關、更準確和更個性化的響應。Agents for Amazon Bedrock 使生成式 AI 應用能夠使用自然語言來執(zhí)行多步驟的業(yè)務任務。

Amazon Q 是全新的基于生成式 AI 的助理，專門為工作場景設計，可以根據(jù)客戶的業(yè)務進行定制。用戶可以快速獲得緊迫問題的答案，生成內(nèi)容并采取行動——所有這些都基于企業(yè)的信息存儲庫、代碼和企業(yè)系統(tǒng)。Amazon Q 具備五個專業(yè)領域，Amazon Q Business、Amazon Q Developer、Amazon Q in QuickSight、Amazon Q in Connect 和 Amazon Q in Supply Chain。

Amazon Q Business 可以連接業(yè)務數(shù)據(jù)、信息和系統(tǒng)，綜合一切信息并提供定制化的幫助，協(xié)助員工解決問題、生成內(nèi)容，以及采取與業(yè)務相關的行動。Amazon Q Business 內(nèi)置 40 多個連接器，可以輕松連接到熱門的企業(yè)應用程序和文檔庫，使員工在統(tǒng)一的體驗中獲取洞見。

Amazon Q Developer 改變了開發(fā)人員和 IT 專業(yè)人員在亞馬遜云科技上構建、部署和運行應用程序和工作負載的方式。Amazon Q  Developer 是亞馬遜云科技的良好架構模式、最佳實踐、文檔和解決方案實施的專家，可以幫助您探索新的亞馬遜云科技服務和功能、更快上手、學習不熟悉的技術、排查故障等。在 IDE 中訪問時，Amazon Q  Developer 提供軟件開發(fā)幫助，包括代碼解釋、代碼生成和代碼改進，如調(diào)試、優(yōu)化和升級。Amazon Q Developer 可以在您工作的任何地方提供幫助：亞馬遜云科技管理控制臺、管理控制臺移動應用程序、文檔、流行的 IDE ，甚至在 Slack 和 Teams 的群聊天室中。

Amazon QuickSight 是一項為云端構建的統(tǒng)一商業(yè)智能（BI）服務，提供交互式控制面板、分頁報告和嵌入式分析，以及自然語言查詢功能。Amazon Q in QuickSignt 使用生成式 AI 功能來快速構建引人入勝的視覺效果、總結見解、回答數(shù)據(jù)問題并使用自然語言構建數(shù)據(jù)案例，從而提高業(yè)務分析師和商業(yè)用戶的工作效率。

在我們的聯(lián)絡中心服務 Amazon Connect 中，Amazon Q 可幫助您的客戶服務座席提供更好的客戶服務，Amazon Q in Connect 使用與客戶的實時對話以及相關的公司內(nèi)容，自動推薦該回答些什么內(nèi)容或座席應該采取哪些行動來更好地幫助客戶。

通過 Amazon Q in Supply Chain（即將推出），庫存經(jīng)理、供應和需求規(guī)劃人員以及其他人員將能夠詢問并獲得有關供應鏈中所發(fā)生事情、發(fā)生原因以及應采取行動的明智答案。他們還將能夠以探索假設場景，以了解不同供應鏈選擇之間的權衡。

除了由基礎設施、工具和應用程序三層構成的生成式 AI 技術棧之外，企業(yè)的數(shù)據(jù)也是幫助其實現(xiàn)生成式 AI 潛力最大化、獲得競爭優(yōu)勢的關鍵，亞馬遜云科技提供全面、集成、可治理的數(shù)據(jù)服務，幫助用戶構建堅實的數(shù)據(jù)底座。

亞馬遜云科技強調(diào)幫助企業(yè)建立公正、可解釋、穩(wěn)健、透明、可治理、確保隱私與安全的“負責任的 AI”。在具體功能方面，亞馬遜云科技確保用戶用于自定義模型的數(shù)據(jù)將保留在客戶自己的 VPC 內(nèi)，任何數(shù)據(jù)均不會用于訓練底層模型；在模型訓練與推理的各個環(huán)節(jié)，所有數(shù)據(jù)在傳輸和靜態(tài)時均經(jīng)過加密，確保數(shù)據(jù)安全；支持 GDPR 以及 HIPAA 等標準。

此外，推出 Guardrails for Amazon Bedrock ，提供結合客戶應用場景與“負責任的 AI”原則定制的功能，讓用戶可以使用自然語言定義其應用程序中需要被拒絕的話題，也可以配置負面內(nèi)容的閾值來過濾有害內(nèi)容，還可以設定模型響應中的個人身份信息的變換方法，以保證安全、設置臟話過濾器，并提供自定義單詞列表阻止用戶和模型之間的交互。通過提供一致的用戶體驗并標準化生成型 AI 應用程序的安全和隱私控制。