Ai相關

機器學習馬拉松:總結與未來藍圖
思維格柵AI相關

機器學習馬拉松:總結與未來藍圖

歷經一系列修煉,我們從最基礎的分類器,一路挺進到深度學習、強化學習、RAG、電腦視覺,再到模型壓縮、Conformal Prediction、GNN 與聯邦學習。這篇總結整理了完整的攻略目錄(持續更新,目前收錄至 Day 52),並為我們的下一段 AI 旅程定下新目標。

Read more →
企業 AI 資料中心建置研究 (十八):告別黑盒子煉丹 —— W&B 與企業級 MLOps 營運體系
AI相關資料中心

企業 AI 資料中心建置研究 (十八):告別黑盒子煉丹 —— W&B 與企業級 MLOps 營運體系

當頂級的 AI 硬體基礎設施全數就位,企業面臨的挑戰是:如何管理成千上萬次的模型訓練過程?本文將介紹 MLOps 的核心概念與業界標竿 Weights & Biases (W&B),探討企業如何將 AI 從「個人煉丹」轉型為「標準化工廠流水線」。

Read more →
企業 AI 資料中心建置研究 (十七) 番外篇:繞過 CPU 的極速狂飆 —— WEKA 與 VAST Data 儲存架構解析
AI相關資料中心

企業 AI 資料中心建置研究 (十七) 番外篇:繞過 CPU 的極速狂飆 —— WEKA 與 VAST Data 儲存架構解析

當 GPU 算力不斷翻倍,傳統的 NAS/SAN 儲存架構卻成了拖累訓練速度的「資料瓶頸」。本文將解析 WEKA 與 VAST Data 兩大專為 AI 設計的全快閃儲存霸主,如何透過 NVIDIA GPUDirect Storage 技術繞過 CPU,實現資料直達 GPU 記憶體的極速傳輸。

Read more →
企業 AI 資料中心建置研究 (十六) 番外篇:算力貧富不均的救星 —— Run:ai 與 GPU 虛擬化池化技術
AI相關資料中心

企業 AI 資料中心建置研究 (十六) 番外篇:算力貧富不均的救星 —— Run:ai 與 GPU 虛擬化池化技術

企業耗資數億建置 GPU 機房,整體稼動率卻往往不到 30%?本文將解析被 NVIDIA 收購的 Run:ai 如何透過「GPU 切片」與「動態池化」技術,解決企業內部的算力浪費,成為 AI 時代的 VMware。

Read more →
企業 AI 資料中心建置研究 (十五) 番外篇:打造專屬大腦與安全護欄 —— NVIDIA NeMo 框架解析
AI相關資料中心

企業 AI 資料中心建置研究 (十五) 番外篇:打造專屬大腦與安全護欄 —— NVIDIA NeMo 框架解析

有了強大的 AI 機房與推論微服務後,企業該如何安全地使用內部機密資料來微調大語言模型?本文將解析 NVIDIA NeMo 框架,探討其如何標準化分散式訓練流程,並透過 NeMo Guardrails 建立符合企業資安規範的防護網。

Read more →
企業 AI 資料中心建置研究 (十四) 番外篇:建置前的沙盤推演 —— NVIDIA Omniverse 數位孿生解析
AI相關資料中心

企業 AI 資料中心建置研究 (十四) 番外篇:建置前的沙盤推演 —— NVIDIA Omniverse 數位孿生解析

隨著 AI 機櫃的功耗密度屢創新高,傳統「先建置、後微調」的機房工程模式已無法應付容錯率極低的液冷環境。本文探討如何透過 NVIDIA Omniverse 平台建立機房的「數位孿生」,在實體動工前進行精準的熱力與空間模擬。

Read more →
企業 AI 資料中心建置研究 (十三) 番外篇:打破 InfiniBand 限制 —— NVIDIA Spectrum-X 網路架構解析
AI相關資料中心

企業 AI 資料中心建置研究 (十三) 番外篇:打破 InfiniBand 限制 —— NVIDIA Spectrum-X 網路架構解析

長期以來,建置高效能 AI 算力叢集幾乎與昂貴的 InfiniBand 網路畫上等號。本文將探討 NVIDIA Spectrum-X 如何透過自適應路由與 DPU 技術,讓傳統乙太網路具備無損傳輸能力,為企業提供更具彈性的網路基礎設施選項。

Read more →
企業 AI 資料中心建置研究 (十二) 番外篇:AI 落地的最後一哩路 —— NVIDIA NIM 微服務解析
AI相關資料中心

企業 AI 資料中心建置研究 (十二) 番外篇:AI 落地的最後一哩路 —— NVIDIA NIM 微服務解析

算力基礎設施建置完成後,企業面臨的最大痛點是如何將開源大模型快速、安全且高效地部署到生產環境。本文將深度解析 NVIDIA NIM 微服務如何透過標準化容器與 TensorRT-LLM,優化企業部署 AI 的流程。

Read more →
語音 AI - 語音辨識 (STT) 與語音合成 (TTS)
AI相關語音

語音 AI - 語音辨識 (STT) 與語音合成 (TTS)

有了 CNN 和 YOLO 當作眼睛,AI 現在需要耳朵和嘴巴!本篇將帶你了解從早期的機器感口音,到如今擁有豐沛情緒的 ElevenLabs,以及能聽懂多國語言的 Whisper,語音 AI 是如何演進的!

Read more →