All Posts

兩位大師的 Agent 心法:Andrew Ng 的四大模式 × Shunyu Yao 的思維引擎
AI 系列-深入解析定義現代 AI Agent 的兩位關鍵學者:Andrew Ng 提出的四大 Agentic Design Patterns,以及 Shunyu Yao 發明的 ReAct 與 Tree of Thoughts,讓你從使用者升級為設計者。

NLP - 高效微調技術 (LoRA)
當大語言模型 (LLM) 參數規模動輒數百億,全參數微調的天價顯示卡門檻讓人望而卻步。LoRA (低秩適應) 技術以「冰封主權重、外掛貼紙矩陣」的低秩分解神技,降低了 99% 的訓練參數!本篇將深入剖析 LoRA 的數學原理,並用 PyTorch 從頭實作一個 LoRA 線性層,親自解密單卡微調大模型的終極祕密!

NLP - BERT vs GPT:雙向理解與單向生成的世紀對決
當 Transformer 的平行運算與 Self-Attention 能力被釋放,科學家們將其 Encoder 與 Decoder 單獨肢解,催生出兩大派系:理解派巔峰 BERT 與生成派霸主 GPT。本篇將深度對決兩大架構、解密雙向與單向的靈魂差異,並看明這場技術大戰如何鋪平了當今 ChatGPT 的封神之路!

【探索智慧 20】機率、基準率與可能結果:建立更好的猜測系統
投資與生活本質上是一連串的機率遊戲。與其憑感覺說「這件事有一半的機率會成功」,不如學會用基準率與歷史數據,建立一套系統化的「優質猜測法」。

【探索智慧 19】數字不會說謊,但人會用數字誤導:還原數字的真實意義
單一數字本身沒有任何意義。我們常常被「利潤 10 億」、「風險降低 25%」等華麗的數字蒙蔽,卻忘了問最基本的問題:「相對於什麼?」

【探索智慧 017】規模與極限:為什麼大象不能長得像螞蟻?
為什麼螞蟻能舉起比自己重五十倍的物體,大象卻不行?為什麼組織超過 150 人就容易開始腐敗?帶你了解規模 (Scale) 如何改變事物的本質。

NLP - Seq2Seq 與 Attention
傳統的 RNN 結構在處理長文本時容易產生記憶喪失,Bahdanau Attention 的誕生成功突破了這個瓶頸。本篇將深入 Seq2Seq 模型架構,探討 Attention 如何賦予 AI 「重點聚焦」的能力,並以 PyTorch 實作英中翻譯與注意力熱力圖視覺化!

【探索智慧 016】不要只看零件:系統與回饋,看見看不見的後果
解決了一個問題,卻引發了更大的災難?這是因為我們習慣只專注於眼前的單一因素,而忽略了整個「系統」的連鎖反應。學習系統性思考,預測行動的二階後果與他人的反應,是跳脫短視近利的關鍵。