DSPy 與 Omar Khattab：停止寫 Prompt，開始寫程式

# 傳統做法：硬編碼 Prompt 字串
prompt = """
你是一位專業的財務分析師。
請根據以下資訊分析這家公司的投資價值。
請使用結構化格式，包含：優勢、風險、結論。
思考過程要清楚，先列出關鍵指標...
（以下省略 500 字的精心設計的 Prompt）

資訊：{company_info}
"""

import dspy

# 傳統：你要告訴 LLM 怎麼說
# DSPy：你只需要告訴 LLM 要做什麼

# 簡單 Signature（字串形式）
class FinancialAnalysis(dspy.Signature):
    """分析公司的投資價值並給出建議"""
    company_info: str = dspy.InputField(desc="公司的財務資訊與業務描述")
    analysis: str = dspy.OutputField(desc="包含優勢、風險、投資建議的分析報告")
    confidence: float = dspy.OutputField(desc="0到1之間的信心分數")

import dspy

lm = dspy.LM('openai/gpt-4o-mini')
dspy.configure(lm=lm)

# 最簡單的 Module：直接預測
predict = dspy.Predict(FinancialAnalysis)

# 進階 Module：強迫 LLM 先思考再回答（Chain of Thought）
cot = dspy.ChainOfThought(FinancialAnalysis)

# 使用
result = cot(company_info="台積電 2024 年營收 2.89 兆新台幣，毛利率 53%...")
print(result.analysis)    # → 詳細的投資分析
print(result.confidence)  # → 0.87
print(result.reasoning)   # → CoT 自動加上的思考過程（ChainOfThought 獨有）

from dspy.teleprompt import BootstrapFewShot, MIPROv2

# 你的訓練資料
trainset = [
    dspy.Example(
        company_info="台積電...",
        analysis="台積電具備強大護城河...",
        confidence=0.9
    ).with_inputs('company_info'),
    # ... 更多範例
]

# 你的評估指標
def quality_metric(example, pred, trace=None):
    # 回答是否有包含必要元素？信心分數是否合理？
    has_risks = "風險" in pred.analysis
    has_recommendation = "建議" in pred.analysis
    confidence_valid = 0 <= pred.confidence <= 1
    return has_risks and has_recommendation and confidence_valid

# 讓 Optimizer 自動找最好的 Prompt 與 Few-shot 範例
optimizer = BootstrapFewShot(metric=quality_metric, max_bootstrapped_demos=4)
compiled_program = optimizer.compile(cot, trainset=trainset)

# compiled_program 現在有自動優化過的 Prompt——你不需要知道它長什麼樣子
result = compiled_program(company_info="Apple 2024 年財報...")

# ❌ 傳統方式：手工調，容易壞，不可測
prompt = "你是財務分析師，請分析以下公司...（300字的精心設計）"
# 問題：換模型就壞；沒有系統性測試；下次需求改了又要重調

# ✅ DSPy 方式：宣告式，可測試，自動優化
class MyAnalyzer(dspy.Module):
    def __init__(self):
        self.analyze = dspy.ChainOfThought("company_info -> analysis, risk_score")
    
    def forward(self, company_info):
        return self.analyze(company_info=company_info)

# 定義好 metric，編譯，done
optimizer = MIPROv2(metric=my_metric, auto="medium")
compiled = optimizer.compile(MyAnalyzer(), trainset=trainset)

pip install dspy-ai

import dspy

lm = dspy.LM('openai/gpt-4o-mini')
dspy.configure(lm=lm)

# 把你最常用的一個 Prompt，用 Signature 重寫
predict = dspy.Predict("question -> answer")
result = predict(question="什麼是 RAG？")
print(result.answer)