- E-mail [email protected]
- 服務電話 02-8227-8588
AWS在年度大會re:Invent中揭示的GAI(Generative AI,生成式AI)戰略,
強調GAI作為AI下一階段的重要性,並指出它將徹底改變與人工智慧的互動方式,
AWS強調不會有一家公司能夠打造出能滿足所有人需求的模型,
並提出三層式的GAI技術架構(基礎設施、模型訓練和推論的工具、應用層),
支援企業的需要且希望透過簡單的API呼叫,能夠選擇、快速切換和組合不同的模型。
在技術層面,
AWS擁有強大的基礎設施,包括AWS自家設計的模型專用訓練和推論晶片,
AWS的推論加速晶片的第二代和模型訓練晶片Trainium2,將於2024年正式推出相關實例,
此外,AWS與Nvidia的合作也在GAI運算方面有所擴大。
在GAI技術架構的工具層中,AWS提到了開發工具Sagemaker和GAI專用開發工具Bedrock平臺,
此平臺的特色包括客製化能力,企業可以使用自己的資料來打造獨特的模型,
還新增了一些客製化功能,如模型微調、RAG模式服務和Titan模型的持續預訓練。
最上層的應用層包括AWS的GAI助手CodeWhisperer,以及商務型AI助手Amazon Q,
Amazon Q被分為AWS專家型和企業內部專家型兩種,
提供不同的功能,包括解答AWS服務問題、程式碼生成、程式碼升級和生成SQL語法等。
企業內部專家型Amazon Q:
能存取超過40種資料來源,回答使用者問題並整合企業的存取權限,
AWS還推出了特定用途的Amazon Q,例如客服中心專用版,用於存取企業CRM相關的系統和資料。
AWS在GAI領域的技術架構、工具和應用,強調了客製化能力和企業內部應用的發展方向。
參考資料:AWS如何布局2024 AI新戰略
如有相關問題歡迎來電交流或請參考我們公司官方網站
(官網網址:www.milestone.com.tw)
天盛資訊股份有限公司
聯絡資訊:02-8227-8588
Email:[email protected]