01
零基礎上手
先搞懂 AI 能做什麼、需要準備什麼,再學會用 AI 代理處理日常工作。
本地大模型顯存要怎麼估?用「權重+KV cache+額外開銷」三項相加,附量化位元數、KV cache 公式、模型大小對照表與步驟清單,讓你自己判斷手上的顯示卡放不放得下。
Claude Code 安裝教學:用官方一行指令在 Windows、Mac、Linux 裝好 Claude Code,登入帳號、確認版本,再用它完成第一個任務,附常見錯誤排除。
MoE 混合專家模型每個 token 只啟用少數專家,所以運算量與每 token 要讀取的權重量遠小於總參數量,但所有專家的權重仍要放在顯存或系統記憶體。這篇教你判斷模型是不是 MoE、用公式估算權重大小,並整理 Dense 與 MoE 的比較表。
Strata 和 PolyStrata 差在哪?從使用者和實測者的角度比較這兩個開源本地大模型工具:適合的顯卡與記憶體、支援的模型、安裝步驟和注意事項,附 6GB 與 16GB 顯卡實測影片。
Token/s 是本地大模型最常被引用的速度數字,但「處理提示詞」和「逐字生成」是兩個不同的速度。這篇說明怎麼拆開看、怎麼用 llama-bench 量,以及怎麼讀別人貼的數字。
本地大模型顯存要怎麼估?用「權重+KV cache+額外開銷」三項相加,附量化位元數、KV cache 公式、模型大小對照表與步驟清單,讓你自己判斷手上的顯示卡放不放得下。
Strata 和 PolyStrata 差在哪?從使用者和實測者的角度比較這兩個開源本地大模型工具:適合的顯卡與記憶體、支援的模型、安裝步驟和注意事項,附 6GB 與 16GB 顯卡實測影片。
在 YouTube 訂閱,第一時間拿到新影片和檔案。