6Estates在東南亞建立第一個部署NVIDIA DGX BasePOD與NVIDIA DGX H100系統

為企業提供定制化的LLM和AI應用

新加坡,2023年9月27日— 6Estates Pte Ltd(「6Estates」),一家總部位於新加坡的企業AI解決方案提供商,已在東南亞建立了首個部署了NVIDIA DGXBasePOD和NVIDIA DGX H100系統的集群,以加速AI創新和數字化轉型。

Ribbon Cutting at Launch Ceremony with Marcus Cheng – Acclivis CEO; Prof. Chua Tat-Seng – 6Estates Chairman and Co-Founder, KITHCT Chair Professor at NUS; Susan Marshall – NVIDIA Director, Developer Relations; Dr. Luan Huanbo – 6Estates CEO and Co-Founder; Dennis Ang – NVIDIA Sr. Director, Enterprise Business (ASEAN and ANZ Region); Dr. Wang Chao – 6Estates CTO and Co-Founder
Ribbon Cutting at Launch Ceremony with Marcus Cheng – Acclivis CEO; Prof. Chua Tat-Seng – 6Estates Chairman and Co-Founder, KITHCT Chair Professor at NUS; Susan Marshall – NVIDIA Director, Developer Relations; Dr. Luan Huanbo – 6Estates CEO and Co-Founder; Dennis Ang – NVIDIA Sr. Director, Enterprise Business (ASEAN and ANZ Region); Dr. Wang Chao – 6Estates CTO and Co-Founder

6Estates是從新加坡國立大學和清華大學分拆出來的,專注於為企業提供基於特定領域的大語言模型(LLM)的解決方案。6Estates也是NVIDIA Inception的成員,這是一項為利用技術進步革新行業的頂尖初創公司提供支持的計劃。

DGX BasePOD利用了NVIDIA的全棧數據中心平台,包括業界領先的計算、存儲、網絡、軟件和基礎設施管理,全部優化協同工作,在大規模下提供最大性能。

6Estates計劃將其NVIDIA DGX BasePOD用於其新的Model Solutions服務,為企業提供定制化的特定領域LLM和應用程序。該公司還將獲得NVIDIA AI Enterprise軟件,以實現安全、穩定、受支持的AI生產。NVIDIA AI平台的軟件層NVIDIA AI Enterprise為加速數據科學和簡化生成AI、計算機視覺、語音AI等的生產就緒部署提供了100多個框架、預訓練模型和開發工具。

該集群還將支持6Estates現有的AI解決方案,即其智能文檔處理平台,該平台自動處理和分析非結構化的無模板文檔,並為貸款機構和貿易公司從端到端自動化工作流程。

6Estates創始人兼首席執行官Luan Huanbo博士表示:「生成AI在改變企業運營方式方面具有巨大潛力,從執行內部流程到理解和服務客戶群體。我們看到客戶對實施安全性最高、高度定制的LLM解決方案有巨大需求,我們很高興能夠在該地區的企業中實現這一點。

下一代模型訓練和推理

NVIDIA DGX H100系統構成了世界上最先進、最強大的AI計算平台的基礎。每個系統都包含8個NVIDIA H100 Tensor Core GPU,具有新的Transformer引擎、第二代安全的Multi-Instance GPU功能和第四代NVIDIA NVLink連接。使用DGX H100系統,6Estates可以實現GPT-3 AI訓練速度提高4倍,AI推理速度提高30倍,相比上一代有巨大提升。

使用NVIDIA DGX H100,6Estates將大大縮短模型訓練時間,為企業客戶提供更快的Model Solutions服務。

6Estates的NVIDIA DGX BasePOD集群與NVIDIA DGX H100系統可以幫助驅動特定領域LLM訓練和內部部署到客戶端。

Luan博士表示:「支持需要處理和理解大量客戶數據的大型企業開發真正具有變革意義的LLM需要大量的計算資源,NVIDIA DGX H100可以提供進行所需的行業領先性能。

NVIDIA企業業務東南亞和澳大利亞新西蘭地區高級總監Dennis Ang表示:「生成AI正在幫助跨行業的企業創造新的機會並更好地為客戶服務。6Estates在NVIDIA DGX AI超級計算上的部署可以幫助東南亞地區的組織通過開發先進的AI服務和解決方案來驅動增長。


NVIDIA DGX H100 systems deployment with Dennis Ang – NVIDIA Sr. Director, Enterprise Business (ASEAN and ANZ Region); Susan Marshall – NVIDIA Director, Developer Relations; Dr. Luan Huanbo – 6Estates CEO and Co-Founder

為企業提供定制化的特定領域LLM

6Estates已經為幾個客戶開始開發特定領域的LLM,一個在金融領域,與一家商業公司合作,目標訓練70億到130億規模的模型,另一個在醫療領域,與一家研究機構合作,目標訓練7億、13億和65億規模的模型。

特定領域LLM的好處是多方面的。對於金融服務業這個6Estates的關鍵市場來說,該集群將被利用來支持客戶:

  • 自動化客戶登記和欺詐/風險評估
  • 提取更深入的客戶洞察力進行信貸評估和監控
  • 綜合跨多個內部和外部應用程序的客戶數據
  • 預測和監控客戶的財務影響
  • 生成更適當的產品建議
  • 提供更精準和知情的自動客戶支持
  • 簡化管理報告和分析
Previous post DyeCoo和CleanDye CO2染色技術與傳統染色相比減少58%溫室氣體排放
Next post Altair獲財富雜誌和新聞周刊頒發僱主卓越獎