Apple 剛剛宣佈在人工智慧領域取得新突破,與 NVIDIA 合作大幅提升大型語言模式 (LLM) 的效能。這項成就是透過應用一種名為 Recurrent Drafter (ReDrafter) 的新文本生成技術實現的,該技術有望徹底改變我們未來與 AI 應用程式互動的方式。
ReDrafter 是一種智慧方法,結合了兩種先進技術:束搜尋和動態樹注意力。集束搜尋有助於同時擴展多種文字表達的可能性,從而找到最佳結果。同時請注意,動態樹負責在文件建立過程中排列和刪除不必要的重複項,有助於提高效率。
透過將 ReDrafter 整合到 NVIDIA 的 TensorRT-LLM 框架(一個優化在 NVIDIA GPU 上運行的 LLM 的平台)中,Apple 取得了出色的效能。測試結果顯示,該技術應用於百億參數的大規模生產模型時,文字創建速度比傳統方法提高了2.7倍。
#Apple #NVIDIA #AI #ReDrafter #NewTechnology #Acceleration #Collaboration #Revolution #AI 應用#Progress #AI Field #今日活動
Apple 和 NVIDIA 共同開發了 ReDrafter,這是一項新的 AI 技術,可將文字建立速度提高 2.7 倍,開啟了未來廣泛應用的潛力。
Apple 剛剛宣佈在人工智慧領域取得新突破,與 NVIDIA 合作大幅提升大型語言模式 (LLM) 的效能。這項成就是透過應用一種名為 Recurrent Drafter (ReDrafter) 的新文本生成技術實現的,該技術有望徹底改變我們未來與 AI 應用程式互動的方式。
ReDrafter 是一種智慧方法,結合了兩種先進技術:束搜尋和動態樹注意力。集束搜尋有助於同時擴展多種文字表達的可能性,從而找到最佳結果。同時請注意,動態樹負責在文件建立過程中排列和刪除不必要的重複項,有助於提高效率。
透過將 ReDrafter 整合到 NVIDIA 的 TensorRT-LLM 框架(一個優化在 NVIDIA GPU 上運行的 LLM 的平台)中,Apple 取得了出色的效能。測試結果顯示,該技術應用於百億參數的大規模生產模型時,文字創建速度比傳統方法提高了2.7倍。
突出優點:
- 顯著加速: 用戶在使用人工智慧應用時將獲得更快的回應和更流暢的體驗。
- 降低成本: 最大限度地減少處理時間可以節省能源和電腦資源。
- 開啟了許多新的應用: 隨著性能的提高,法學碩士可以更廣泛地應用於從客戶服務到內容創作的許多領域。
蘋果與 NVIDIA 的合作標誌著人工智慧發展的一個重要里程碑。 ReDrafter 不僅是一項突破性技術,也是業界領先公司之間協作力量的證明。未來,隨著人工智慧領域的不斷進步,我們有望看到更智慧、便利的人工智慧應用。
Source link
探索更多來自 Gizmo Review 的內容
訂閱後即可透過電子郵件收到最新文章。