採用機器學習典範轉移協助業務發展已經存在了幾十年。隨著足夠的可擴充運算力的到位、海量資料的爆炸,以及機器學習技術的快速進步,各行各業的客戶開始對業務進行重塑。最近,像ChatGPT這樣的生成式AI應用引起了廣泛的關注,引發了諸多想像。AWS資料庫、資料分析和機器學習全球副總裁Swami Sivasubramanian表示,我們正處在一個機器學習被大規模採用的令人興奮的轉捩點上,我們也相信生成式AI將會重塑大量客戶體驗和應用程式。
二十多年來,人工智慧和機器學習一直是亞馬遜關注的焦點。亞馬遜提供客戶的許多功能都是由機器學習驅動的,例如我們的電商推薦引擎、營運中心撿貨機器人的路徑選擇,以及我們的供應鏈、預測和產能規劃。Prime Air(亞馬遜無人機)和Amazon Go(亞馬遜實體無人零售實體店,消費者可以自選商品後直接離開,無需現場排隊結帳付款)中的電腦視覺技術都使用了深度學習。Alexa每週回應客戶數十億次關於管理智慧家居、購物、資訊取得和娛樂的請求,這也得益於來自 30 多種不同的機器學習系統的支援。亞馬遜有數千名工程師專注於機器學習研究,這既是我們的寶貴資產,也是我們現在最關注的理念,和面向未來的實力之所在。
在AWS,我們致力於不斷降低機器學習的使用門檻。我們已經幫助超過十萬家來自各行各業的不同規模的客戶使用機器學習進行創新。我們在人工智慧和機器學習堆疊的三個層級都擁有至深至廣的產品組合。我們同樣致力於推動生成式AI技術的普及:我們將這些技術從研究和實驗領域釋放出來,不只是少數新創和資金雄厚的大型科技公司,而是讓更多企業都能從中受益。因此,我今天非常興奮宣布數項創新,幫助我們的客戶更簡單、更容易地在業務中使用生成式AI。
推出Amazon Bedrock和Amazon Titan模型:借助基礎模型建構和擴充生成式AI應用程式的最簡單途徑
Amazon Bedrock這項新服務允許使用者透過API存取來自AI21 Labs、Anthropic、Stability AI和亞馬遜的基礎模型。Bedrock是客戶使用基礎模型建構和擴充生成式AI應用程式的最簡單方法,為所有開發者降低使用門檻。在Bedrock上,用戶可以透過可擴充、可靠且安全的AWS託管服務,存取從文本到圖像的一系列強大的基礎模型,
Amazon Titan基礎模型。Amazon Titan基礎模型目前包括了兩個全新的大語言模型。憑藉Bedrock所帶來的無伺服器體驗,客戶可以輕鬆找到適合自身業務的模型,快速上手,在確保資料安全和隱私保護的前提下,使用自有資料基於基礎模型進行客製化,並使用他們已經熟悉的AWS工具和能力,將客製化模型整合並部署到他們的應用程式中,同時無需管理任何基礎設施。比如,客戶可以將基礎模型與Amazon SageMaker機器學習功能整合,使用Amazon SageMaker Experiments測試不同模型和使用Pipelines大規模管理基礎模型等。
宣布Amazon EC2 Trn1n和Amazon EC2 Inf2執行個體正式可用:最具成本效益的生成式AI雲端基礎設施
過去五年,AWS持續加大投入自研晶片,不斷突破效能和價格的極限,以支持對此有極高要求的機器學習訓練與推論等工作負載。AWS Trainium和Inferentia晶片可以提供在雲上訓練模型和執行推論的最低成本。
由Trainium支援的Trn1執行個體與其他任何EC2執行個體相比,都可以節省高達50%的訓練成本,並經過優化,可以在與高達800Gbps的第二代EFA(彈性結構適配器)網路相連的多個伺服器上分發訓練任務。2018年,我們發布了首款推論專用晶片Inferentia。每年,亞馬遜都運用Inferentia執行數萬億次推論,並節省數億美元成本。
Amazon CodeWhisperer正式可用,並針對個人開發者免費開放
Amazon CodeWhisperer適用 Python、Java、JavaScript、TypeScript 和 C#之外,新增支持Go、Kotlin、Rust、PHP 和 SQL等10 種開發語言。開發者可以透過在VS Code、IntelliJ IDEA、AWS Cloud9等整合式開發環境中的AWS Toolkit IDE外掛程式使用 CodeWhisperer。 CodeWhisperer 也可在AWS Lambda控制台中使用。
如果生成式 AI 工具建議的程式碼包含隱藏的安全性漏洞或未能負責任地處理開原始程式碼,開發人員則無法真正提高工作效率。CodeWhisperer是唯一具有內建安全掃描功能(透過自動推論實現)的 AI 程式設計助手,用於查找難以檢測的漏洞並提出補救建議,例如十大開放式Web應用程式安全專案(OWASP)中的漏洞,以及不符合加密庫最佳實踐的漏洞等。為了幫助開發人員以負責任的方式開發程式碼,CodeWhisperer會過濾掉可能被認為有偏見或不公平的程式碼建議,同時,由於客戶可能需要參考開源程式碼或獲得其使用許可,CodeWhisperer 是唯一可以過濾和標記類似開源始程式碼之生成結果的程式設計助手。
瞭解更多AWS的相關資訊,請至:aws.amazon.com。