All Posts

企業 AI 資料中心建置研究 (六):AI 叢集的軟體大腦 —— Kubernetes、Slurm 與 Ray
此篇文章探討硬體建置完成後,該如何調度 AI 算力。解答企業 IT 最常問的問題:「現有的 K8s 團隊能直接管理 AI 叢集嗎?」並解析 Slurm、K8s 與 Ray 的架構分工。

企業 AI 資料中心建置研究 (五):機房發爐的危機 —— 電力密度極限與液冷革命
此篇文章探討企業最常忽略的硬體危機:「買得起 GPU,機房卻放不下」。深入解析從 5kW 到 120kW 的機櫃功率暴增,以及為何冷氣已經失效,必須全面轉向直接液體冷卻 (DLC)。

企業 AI 資料中心建置研究 (四):從 NAS 癱瘓看 AI 儲存架構與 Checkpointing 難題
此篇文章探討為什麼企業既有的高階 NAS 在 AI 訓練中會頻繁當機。解析 AI 叢集最大的噩夢 —— Checkpointing (存檔風暴),並介紹專為極致吞吐量設計的全快閃平行檔案系統。

企業 AI 資料中心建置研究 (三):網路路線抉擇 —— InfiniBand、RoCEv2 與 NCCL 的底層邏輯
此篇文章探討為什麼企業買了 1,000 張 GPU,卻跑不出 1,000 倍的速度。深入解析 AI 網路的黃金標準 InfiniBand、挑戰者 RoCEv2,以及背後的軟體大總管 NCCL。

企業 AI 資料中心建置研究 (二):從 DGX 到 SuperPOD,Scale-up 與 Scale-out 的架構差異
此篇文章探討企業在擴張 AI 算力時面臨的物理限制。解析單一伺服器內的 NVLink (Scale-up) 與伺服器間的 InfiniBand/RoCE (Scale-out) 差異,釐清購買 8 張 GPU 與 64 張 GPU 的底層網路架構挑戰。

企業 AI 資料中心建置研究 (一):AI 工廠與傳統資料中心的本質差異
此篇文章探討既有 VM、資料庫及網頁伺服器架構為何無法承載大型 AI 運算。透過對比傳統機房與 NVIDIA「AI 工廠」的底層架構,釐清企業在網路、電力與儲存面臨的硬體衝突。

電腦視覺 - 物件偵測 - YOLO
影像分類只能告訴你圖片裡有什麼,但如果想知道物件在「哪裡」,就需要物件偵測 (Object Detection)。本篇將帶你深入業界最流行、速度最快的 YOLO 架構,體驗 You Only Look Once 的強大威力!

美股股息成長投資術:CCC List 量化篩選與「第二層思考」的深度洞察
探討如何利用 Dave Fish 的 CCC List 建立股息成長股的量化篩選清單,並結合霍華·馬克斯的「第二層思考」突破大眾共識,尋找真正的超額報酬。

史丹·溫斯坦與美股隊長:30週線的牛熊四階段與 SCTR 雷達
深度解析史丹·溫斯坦的經典「牛熊四階段」理論,並結合現代工具 SCTR(相對強弱評分),打造一套能有效過濾市場雜音、專注捕捉主升段的順勢交易系統。