概 述

HIX.AI是一家專注于人工智能應(yīng)用程序開發(fā)的科技公司，總部位于新加坡，為全球用戶提供強(qiáng)大的一體化人工智能工具，致力于重新定義用戶寫作、溝通和完成工作的方式。基于亞馬遜云科技生成式AI與計(jì)算服務(wù)，HIX.AI圍繞AI寫作工具、多功能AI助手和AI搜索引擎三大場(chǎng)景，在1個(gè)月的時(shí)間內(nèi)，完成了重點(diǎn)功能的開發(fā)與上線，同時(shí)降低了30%的成本。

30%?綜合成本降低

99.99%?應(yīng)用程序可用性

一個(gè)月?完成重點(diǎn)功能從開發(fā)到上線全過程

數(shù)小時(shí)?將產(chǎn)品迭代升級(jí)時(shí)間從數(shù)天縮短至數(shù)小時(shí)

3天內(nèi)?將機(jī)器人流程自動(dòng)化技術(shù)云上部署時(shí)間從4-5周縮短至3天內(nèi)

目前，HIX.AI使用的亞馬遜云科技產(chǎn)品與解決方案包括：Amazon Bedrock、Amazon OpenSearch Service、Amazon EC2 G4實(shí)例等。

機(jī)會(huì) | 生成式AI技術(shù)突破式發(fā)展

垂直領(lǐng)域應(yīng)用迎來增長(zhǎng)機(jī)遇

近年來，生成式AI技術(shù)發(fā)展迅猛，在自然語言處理、圖像生成等領(lǐng)域展現(xiàn)出了前所未有的潛力，也催生了大量針對(duì)特定行業(yè)和應(yīng)用場(chǎng)景的垂直解決方案，全球各類用戶對(duì)高效、智能化工具的需求進(jìn)一步激增。HIX.AI敏銳捕捉到這一趨勢(shì)，面向美國(guó)、德國(guó)、英國(guó)、法國(guó)、印度，以及東南亞和南美洲等國(guó)家和地區(qū)的用戶群體，開發(fā)了一系列生成式AI工具類應(yīng)用，并受到了廣泛好評(píng)。

生成式AI技術(shù)尚處于早期發(fā)展階段，HIX.AI在模型打磨、技術(shù)應(yīng)用的過程中也面臨著諸多挑戰(zhàn)。例如，在生成式AI技術(shù)的實(shí)際應(yīng)用中，可能會(huì)出現(xiàn)“大模型幻覺”，即生成的內(nèi)容看似合理但是缺少準(zhǔn)確性，影響用戶的使用體驗(yàn)。同時(shí)，隨著模型復(fù)雜度增加，后端系統(tǒng)容易出現(xiàn)錯(cuò)誤，需要專業(yè)的技術(shù)支持人員根據(jù)場(chǎng)景進(jìn)行反復(fù)打磨優(yōu)化，提高功能迭代效率。在成本方面，由于生成式AI技術(shù)需要大量的計(jì)算資源，這也導(dǎo)致HIX.AI面臨較大的成本壓力。

在2022年，HIX.AI便和亞馬遜云科技開啟了合作。亞馬遜云科技覆蓋全球的基礎(chǔ)設(shè)施與廣泛而深入的云服務(wù)，給HIX.AI留下了深刻印象。隨著生成式AI的發(fā)展，亞馬遜云科技還提供了完整的端到端生成式AI技術(shù)堆棧，涵蓋高性價(jià)比的加速芯片，以Amazon Bedrock為代表的模型構(gòu)建與應(yīng)用工具，以及多款行業(yè)領(lǐng)先的基礎(chǔ)模型等，可幫助HIX.AI克服模型應(yīng)用方面的諸多挑戰(zhàn)。也正是基于上述考量，HIX.AI選擇了亞馬遜云科技繼續(xù)作為其深入打造生成式AI應(yīng)用的合作伙伴。

“亞馬遜云科技在生成式AI方面具備領(lǐng)先的基礎(chǔ)模型能力，幫助我們更高效地開發(fā)、優(yōu)化并部署生成式AI應(yīng)用，同時(shí)確保了產(chǎn)品的高性能和穩(wěn)定性?！?/span>

——Peter Zhou

HIX.AI CTO

解決方案 | 基礎(chǔ)模型、向量數(shù)據(jù)庫(kù)、

計(jì)算實(shí)例，為生成式AI工具的開發(fā)

提供全面保障

針對(duì)HIX.AI的需求，亞馬遜云科技通過Amazon Bedrock、Amazon OpenSearch Service、Amazon EC2 G4實(shí)例等服務(wù)，幫助其快速打造并上線了涉及AI寫作工具、多功能AI助手、AI搜索引擎三類場(chǎng)景的多款應(yīng)用工具。

提示工程+向量檢索，助力AI搜索引擎為多語種用戶提供準(zhǔn)確率高達(dá)90%的搜索服務(wù)

在AI搜索引擎開發(fā)中，HIX.AI通過Amazon Bedrock和Amazon OpenSearch Service成功打造了精準(zhǔn)且智能的多語言搜索服務(wù)。該搜索引擎提供的搜索結(jié)果基于多源數(shù)據(jù)整合，用戶每次提出問題時(shí)，系統(tǒng)會(huì)從兩大渠道采集資料：一方面是實(shí)時(shí)抓取互聯(lián)網(wǎng)搜索結(jié)果，提供公開的實(shí)時(shí)信息；另一方面則是通過Amazon OpenSearch的向量數(shù)據(jù)庫(kù)，從存儲(chǔ)的知識(shí)內(nèi)容中匹配相關(guān)信息，包括鏈接、圖片和文本。最終，系統(tǒng)整合并輸出這兩部分的內(nèi)容，從而優(yōu)化了搜索結(jié)果的深度和準(zhǔn)確性。例如，當(dāng)用戶提出特定的學(xué)術(shù)問題時(shí)，搜索引擎不僅能返回網(wǎng)絡(luò)上的實(shí)時(shí)文獻(xiàn)，還能從內(nèi)部知識(shí)庫(kù)中提取高質(zhì)量?jī)?nèi)容，整合輸出高度相關(guān)的綜合答案。

值得指出的是，多語種支持是HIX.AI搜索引擎的亮點(diǎn)之一。Amazon Bedrock在多語種理解方面具有突出優(yōu)勢(shì)，使搜索引擎能夠精準(zhǔn)處理全球各地用戶輸入的不同語言，并以相同語言生成回答。在該功能的開發(fā)過程中，亞馬遜云科技團(tuán)隊(duì)與HIX.AI緊密合作，基于具體語言場(chǎng)景反復(fù)測(cè)試和優(yōu)化，通過提示工程（prompt Engineering）顯著提升了模型的語言識(shí)別和生成能力。比如，當(dāng)一位歐洲用戶用德語提問時(shí)，經(jīng)過優(yōu)化后的大模型能夠始終準(zhǔn)確地以德語回復(fù)，有效降低因“大模型幻覺”造成的其他語種回復(fù)的誤差。優(yōu)化后，搜索引擎的語言識(shí)別與回答準(zhǔn)確率從80%提高到了90%，確保用戶獲得高質(zhì)量的搜索體驗(yàn)。

向量數(shù)據(jù)庫(kù)加持，讓AI寫作工具成為更懂用戶的智能助手

Amazon Bedrock中可靈活調(diào)用多款高性能基礎(chǔ)模型，以卓越的內(nèi)容生成能力，為HIX Writer、HIX Email Generator等AI寫作工具提供了底層支撐。基于Amazon Bedrock生成的文本兼具準(zhǔn)確性和創(chuàng)意性，助力AI寫作工具在生成搜索引擎優(yōu)化（SEO）內(nèi)容、博客文章和營(yíng)銷文案等方面生成高質(zhì)量的內(nèi)容。

同時(shí)，通過Amazon OpenSearch Service的向量檢索技術(shù)，HIX.AI還實(shí)現(xiàn)了寫作工具的個(gè)性化和知識(shí)增強(qiáng)功能。當(dāng)用戶使用某一項(xiàng)AI寫作工具時(shí)，系統(tǒng)會(huì)將其所提供的歷史信息轉(zhuǎn)換為向量并存儲(chǔ)于向量數(shù)據(jù)庫(kù)中，構(gòu)建本次對(duì)話的專屬知識(shí)庫(kù)，進(jìn)而在隨后的對(duì)話與需求響應(yīng)時(shí)進(jìn)行精準(zhǔn)檢索，提升回復(fù)的豐富性。例如，HIX Email Generator在幫助用戶撰寫郵件時(shí)，會(huì)整合用戶提供的相關(guān)信息，生成要點(diǎn)詳盡的郵件正文供用戶選用。

基于GPU的Amazon EC2 G4實(shí)例加速RPA云上部署進(jìn)程，提升多功能AI助手推理效率

HIX.AI的多功能助手提供豐富的AI輔助工具，應(yīng)用機(jī)器人流程自動(dòng)化（RPA）技術(shù)實(shí)現(xiàn)復(fù)雜任務(wù)自動(dòng)化處理，為用戶提供多場(chǎng)景下的智能化解決方案。隨著HIX.AI服務(wù)用戶數(shù)量的增長(zhǎng)，之前自建IDC的部署逐漸暴露出了難以支持高并發(fā)任務(wù)、運(yùn)維管理復(fù)雜等局限性。在將RPA遷移到云端的過程中，由于云上的Windows服務(wù)器環(huán)境與HIX.AI本地使用的環(huán)境存在差異，導(dǎo)致其云上部署進(jìn)程受阻。

為此，亞馬遜云科技團(tuán)隊(duì)迅速介入，通過Amazon EC2 G4實(shí)例支持運(yùn)行Windows操作系統(tǒng)，確保HIX.AI的現(xiàn)有RPA流程無需重新設(shè)計(jì)即可平穩(wěn)遷移。此外，該實(shí)例基于NVIDIA T4 GPU打造，可加速模型推理，為多功能AI助手提供了強(qiáng)大的算力支撐。最終，HIX.AI將該功能的云上部署時(shí)間，從原先預(yù)計(jì)的四到五周，縮短至三天以內(nèi)。通過Amazon EC2 G4實(shí)例，HIX.AI成功克服了云上部署的技術(shù)挑戰(zhàn)，并顯著提升了推理效率，從而能以更快的開發(fā)速度，為全球用戶打造功能豐富、使用體驗(yàn)優(yōu)異的多功能AI助手。

業(yè)務(wù)成果 | 1個(gè)月完成重點(diǎn)功能

開發(fā)與上線，綜合成本降低30%

在生成式AI技術(shù)快速發(fā)展的背景下，HIX.AI通過與亞馬遜云科技的合作，大幅提升了其產(chǎn)品開發(fā)和迭代能力，以AI搜索引擎的多語種支持為代表的重點(diǎn)功能，從開發(fā)到上線全程僅用時(shí)1個(gè)月。亞馬遜云科技提供的托管服務(wù)讓HIX.AI可以專注于功能優(yōu)化，無需在基礎(chǔ)設(shè)施運(yùn)維方面進(jìn)行大量投入，產(chǎn)品迭代升級(jí)時(shí)間也從以往的數(shù)天縮短至數(shù)小時(shí)，顯著加快了新功能的上線速度。與此同時(shí)，亞馬遜云科技的高可靠性基礎(chǔ)設(shè)施確保了HIX.AI應(yīng)用程序可用性達(dá)到99.99%，為全球用戶提供了穩(wěn)定、高效的服務(wù)體驗(yàn)。

生成式AI技術(shù)的商業(yè)化之路充滿挑戰(zhàn)，隨著業(yè)務(wù)量增長(zhǎng)，企業(yè)在大模型輸出、后端模型調(diào)用和部署等方面經(jīng)常遇到難題，若無專業(yè)指導(dǎo)，可能導(dǎo)致系統(tǒng)不穩(wěn)定、后臺(tái)限額、大模型幻覺、高昂計(jì)算成本等一系列問題。亞馬遜云科技的技術(shù)團(tuán)隊(duì)不僅協(xié)助HIX.AI優(yōu)化提示工程和調(diào)用架構(gòu)，還提供了深度的多業(yè)務(wù)場(chǎng)景技術(shù)指導(dǎo)，顯著提升了模型的準(zhǔn)確性和業(yè)務(wù)適配度。Peter Zhou評(píng)價(jià)說：“在面對(duì)生成式AI技術(shù)應(yīng)用的復(fù)雜挑戰(zhàn)時(shí)，亞馬遜云科技的技術(shù)團(tuán)隊(duì)快速響應(yīng)，通過反復(fù)的場(chǎng)景打磨和定制化解決方案幫助我們突破業(yè)務(wù)瓶頸，加速產(chǎn)品落地和價(jià)值實(shí)現(xiàn)?！?/span>

同時(shí)，亞馬遜云科技團(tuán)隊(duì)主動(dòng)為HIX.AI提供了成本優(yōu)化建議。其推薦的Amazon Graviton處理器采用Arm架構(gòu)，相較于傳統(tǒng)X86架構(gòu)，資源消耗更低，性價(jià)比更高。通過亞馬遜云科技靈活的定價(jià)模式Savings Plans，HIX.AI在項(xiàng)目中成功節(jié)省了30%的綜合成本。從實(shí)例選型到流量管理，亞馬遜云科技團(tuán)隊(duì)幫助HIX.AI減少資源浪費(fèi)，進(jìn)一步提高了成本效益。

未來，HIX.AI將在亞馬遜云科技的支持下，進(jìn)一步推進(jìn)Amazon EC2 G4實(shí)例在模型推理場(chǎng)景中的深度應(yīng)用，并基于Amazon Bedrock探索更多的產(chǎn)品功能與應(yīng)用場(chǎng)景。通過不斷豐富生成式AI工具類型，HIX.AI將繼續(xù)拓展全球布局，為用戶帶來更高效、更智能的人工智能服務(wù)體驗(yàn)。

關(guān)于HIX.AI

HIX.AI是一家專注于人工智能應(yīng)用程序開發(fā)的科技公司，總部位于新加坡。HIX.AI業(yè)務(wù)涵蓋AI寫作工具、AI搜索引擎和多功能AI助手三大領(lǐng)域，致力于重新定義用戶寫作、溝通和完成工作的方式。用戶群體分布在美國(guó)、德國(guó)、英國(guó)、法國(guó)、印度，以及東南亞和南美洲等國(guó)家和地區(qū)。在硅谷知名風(fēng)險(xiǎn)投資機(jī)構(gòu)A16z于2024年8月發(fā)布的全球消費(fèi)級(jí)生成式AI產(chǎn)品Top 100榜單中，HIX.AI排名第38位。