2024
年份
主題
隨著金融AI科技的快速發展，金融業面臨數據處理複雜性、通用語言模型（LLM）知識局限性、快速變化的市場需求以及基礎設施挑戰等多重困難。在數據處理層面，財務報表、即時數據分析、風險評估和動態市場資訊的多樣性和複雜性對技術解決方案提出了更高要求。通用LLM在處理金融專有術語和高精度任務（如風險管理和市場預測）方面存在不足，而金融市場的快速變化又使得模型需要頻繁更新以保持準確性。此外，從邊緣設備到數據中心的計算需求也對基礎設施提出挑戰，涉及負載均衡和大規模並行計算等問題。
隨著AI應用在企業中的加速普及，越來越多企業面臨GPU算力無法充分利用的問題。針對這一挑戰，數位無限INFINITIX 的 AI-Stack平台透過三大核心技術，幫助企業實現GPU使用率最大化，解決GPU算力無法靈活充分運用的問題。
從自動駕駛汽車到文字、影像自動生成，AI技術正滲透到我們生活。而支撐這些AI技術運作的，就是AI 基礎設施。如果把AI應用比喻成跑車，那麼AI基礎設施就是提供跑車馳騁的高速公路和維修站。本文將帶您了解AI基礎設施，解析其關鍵組成部分。
智慧醫療GAI + AI 解決旨在提供從數據收集、分析到應用的全流程支持，利用強大的 AI 模型（如深度學習和生成式 AI）來處理醫學影像、基因數據及臨床決策。而近年智慧醫療開發案例不斷突破，例如AI快速分析CT和MRI影像，提升診斷準確性、AlphaFold更利用基因數據預測蛋白質結構，為疾病研究和藥物開發提供關鍵支持。因此，通過結合「數位無限 AI-Stack」AI基礎設計管理一站式平台的特性能使AI智慧醫療加速應用落地
人工智能(AI) 和機器學習（ML）的模型訓練，對 GPU 資源需求因模型的複雜度、數據集規模和資料來源而異。從輕量級影像分類模型的單張 GPU，到訓練 GPT-3 級別的大型模型所需的數百甚至上千張 GPU，資源配置的靈活性和效率對 AI 研發至關重要。
Google 在 2024 年 12 月推出 Gemini 2.0，這是一款多模態的大型語言模型，旨在挑戰 OpenAI 的 ChatGPT。Gemini 2.0 強調效率、速度以及與 Google 生態系統的整合，顯著提升 AI 與用戶的互動體驗，改變未來技術的應用方式。
專注於解決GPU算力資源調度與AI開發管理維運的一站式平台數位無限軟體 (INFINITIX Inc.)，攜手大聯大友尚集團 (Yosun)，於12月12日舉行「GenAI生態夥伴論壇-Taipei」，展示技術成果與核心產品服務。本次論壇匯聚了產業鏈的多位領導夥伴，包括群聯電子、美超微電腦、研華科技、滿拓科技、通泰克科技以及東擎科技，共同參與盛會，推動 GenAI 的技術創新與應用發展。
AI算力資源缺乏，不僅催生GPU租賃服務，也促使部分業者投入GPU管理服務。成立於2003年的數位無限，從混合雲管理轉向GPU管理、GPU切分相關服務，也觀察到不少企業開始有建置小型算力中心、改革舊有機房的需求。