重點速覽
Strata 和 PolyStrata 都是免費開源(MIT)的本地大模型工具,能在一般電腦上跑原本要伺服器才跑得動的大模型,並提供 OpenAI/Anthropic 相容 API。Strata 專注跑 Qwen3.8-Flash-Next,需要 RAM 加顯存合計 32GB 以上、顯卡 12GB 起;PolyStrata 建立在 Strata 之上,多加了 Qwen3.6、Gemma 4 等十一個較小的模型(實驗性質),8GB 顯卡就能跑,我們實測 6GB 筆電也跑得動 35B 模型。顯卡 12GB 以上選 Strata,顯卡較小選 PolyStrata。
Strata 和 PolyStrata 是最近 GitHub 上最熱門的本地大模型工具,名字很像、介面也很像,很多觀眾在留言問:「到底要裝哪一個?」這篇用使用者和實測者兩個角度整理清楚:兩者差在哪、你的電腦該選哪個、怎麼安裝,以及安裝前後要注意的事。
一張表看懂差別
| Strata | PolyStrata | |
|---|---|---|
| 開發者 | Niko1221 | VecSzn(建立在 Strata 之上) |
| 主要模型 | Qwen3.8-Flash-Next(125B) | Qwen3.8-Flash-Next,加上 Qwen3.6、Gemma 4、GLM 等十一個模型 |
| 顯卡 | NVIDIA/AMD 12GB 起 | 小模型 NVIDIA 8GB 起(實驗性質) |
| 記憶體 | RAM 加顯存合計 32GB 起 | 小模型約 18 到 25GB RAM |
| 系統 | Windows、Linux、Mac | Windows、Linux(Mac 只能跑 Qwen3.8) |
| 安裝 | 桌面版安裝檔或一行指令 | 下載 ZIP,執行 START-HERE.bat |
| 成熟度 | 主專案,GitHub 近 3 萬顆星 | 較新,部分模型標示為實驗性質 |
兩者都是 MIT 開源授權、免費、不用帳號、資料不上傳,也都提供 OpenAI/Anthropic 相容 API,可以接 Claude Code、Codex 等 AI 代理。
Strata 是什麼?
Strata 讓一般電競電腦也能跑 Qwen3.8-Flash-Next 這種 1250 億參數、原本要伺服器才跑得動的大模型。它把模型拆開分工:最常用的部分放在顯卡,其餘放在 RAM,再把一張大表放在 SSD,所以顯卡只有 12 到 24GB 也能跑。
它有圖形化的桌面版(聊天、硬體監控、模型管理),也有給腳本和 AI 代理用的終端機版。新版桌面應用還加入了技能(Skills)、子代理等功能,我們在新版介紹影片裡有完整示範。
PolyStrata 是什麼?
PolyStrata 建立在 Strata 之上。它保留 Strata 原本的引擎來跑 Qwen3.8-Flash-Next,另外寫了第二個引擎,用來跑 Qwen3.6-35B、Gemma 4、Ornith 1.5、MiniCPM-V、GLM 5.3 Flash、DeepSeek V4 Flash 等十一個模型。
這些模型裡,大部分是「總參數大、每次只用一小部分」的設計,所以 8GB 顯卡就有機會跑得動。不過官方說明這十一個模型屬於實驗性質,測試過的硬體還不多。
怎麼選?用你的電腦配置決定
- 顯卡 12GB 以上,RAM 加顯存合計 32GB 以上 → 選 Strata。它更成熟,能跑最強的 Qwen3.8-Flash-Next。
- 顯卡 8GB 以下(例如 6GB 筆電) → 選 PolyStrata,用 Qwen3.6-35B 或 Gemma 4 這類小模型。
- 想試很多不同模型 → 選 PolyStrata,同一個介面就能切換十二個模型。
- 用 Mac → 選 Strata(PolyStrata 在 Mac 上也只能跑 Qwen3.8)。
簡單記:Strata 給中高階顯卡和 32GB 以上記憶體的電腦;PolyStrata 給 6 到 8GB 顯卡的電腦。
我們的實測結果
我們分別用兩台電腦實際測過,完整過程都在影片裡:
- 16GB 顯卡桌機跑 Strata:Qwen3.8-Flash-Next 每秒破百 token,連推理陷阱題都測了。
- 6GB 顯卡筆電(RTX 2060)跑 PolyStrata:35B 模型每秒約 28 到 30 個 token,已經比閱讀速度快。這超出官方寫的 8GB 規格,但實際跑得動。
- 量化版本選錯會很慢:同一個模型有很多壓縮版本,我們實測比較過速度,有一款新手最好避開。
Strata 安裝教學
官方提供三種方式,新手建議用第一種。
方式一:桌面版(最簡單)
- 到 Strata 的 GitHub Releases 頁面下載符合你顯卡的安裝檔。NVIDIA 顯卡驅動是 580 版以上選
cuda13,比較舊的選cuda12;AMD 顯卡選hip或amd開頭的檔案。 - 執行
.exe,不需要系統管理員權限。 - 如果跳出「Windows 已保護您的電腦」,這是因為安裝檔還沒有程式碼簽章。確認是從官方頁面下載的,按「其他資訊」→「仍要執行」。
- 第一次打開,程式會偵測你的電腦並推薦合適的模型,按安裝後開始下載。模型大約 40 到 70GB,中斷了會自動續傳。
方式二:終端機一行指令
Windows 在 PowerShell 執行:
irm https://github.com/Niko1221/Strata/releases/latest/download/install.ps1 | iex
Linux 和 Mac 執行:
curl -fsSL https://github.com/Niko1221/Strata/releases/latest/download/install.sh | sh
裝好後開一個新的終端機,執行 strata launch,它會一步一步問你要用哪個模型。
方式三:讓 AI 代理幫你裝
如果你已經裝好 Claude Code,可以直接貼上這段話,讓它檢查你的電腦並自動安裝:
Set up Strata on this PC for me: https://github.com/Niko1221/Strata - follow docs/AI_SETUP.md in that repository.
PolyStrata 安裝教學
- 到 PolyStrata 的 GitHub 頁面下載 ZIP 並解壓縮(或用
git clone)。 - Windows:按兩下
START-HERE.bat。Linux:在資料夾裡執行./setup.sh。 - 安裝程式會偵測顯卡,問你要用哪個模型、多大的上下文、要不要讀圖片。不確定就一直按 Enter,用推薦的設定。
- 等模型下載完成(小模型約 11 到 42GB),瀏覽器會自動打開
http://127.0.0.1:8080。
同樣也可以讓 AI 代理幫你裝:
Set up PolyStrata on this PC for me: https://github.com/simplexai-labs/PolyStrata - follow docs/AI_SETUP.md in that repository.
下次要用時,再執行一次 START-HERE.bat 就會直接啟動,不會重複下載。
安裝前後要注意的事
- 硬碟空間要夠:Strata 大約需要 80GB,最好放在 SSD,第一次啟動會快很多。
- 第一次啟動會卡:模型會載入幾十 GB 到記憶體,電腦 1 到 3 分鐘沒反應是正常的,不要關掉視窗。
- 很慢、硬碟燈一直閃:代表記憶體不夠。先關掉瀏覽器等吃記憶體的程式,或改用小一點的模型。
- 顯示 8080 埠已被占用:代表它已經在跑了,找一下原本的視窗。
- 想從手機或其他電腦連線:一定要設定 API 金鑰,不要把沒有密碼的服務開放到網路上。
- 模型有各自的授權:工具本身是 MIT 授權,但每個模型的授權不同。例如 PolyStrata 支援的 LFM2.5,只允許年營收低於一千萬美元的公司商用。要用在商業用途,先看清楚模型的授權。
接到 Claude Code 等 AI 代理
兩個工具都在本機提供 API,所以可以把雲端模型換成你自己電腦上的模型,不用付 API 費用:
- OpenAI 相容的應用:網址填
http://127.0.0.1:8080/v1,API 金鑰隨便填。 - Claude Code:把環境變數
ANTHROPIC_BASE_URL設成http://127.0.0.1:8080。
還沒裝 Claude Code 的話,可以先看我們的 Claude Code 安裝教學。
相關影片
- 免費本地跑大模型!Strata 新版發布:內建 Skills 與 Cloudflare 對接
- 16GB 顯存憑什麼能跑 125B 巨型 AI?Strata 本地實測每秒破百 Token
- 8GB 顯卡極限突破!本地跑 120B 模型每秒 80 Token 是真的嗎?
- 本地跑大模型差點崩潰?Qwen3.8 Flash 量化實測
- 不用升級顯卡!PolyStrata 讓 6GB 顯存通吃主流大模型
- PolyStrata 讓 6GB 筆電跑通 35B AI 語音伴侶
兩個專案更新都很快,安裝畫面和支援的模型可能會變。照著做遇到不一樣的地方,歡迎到影片底下留言告訴我們。
常見問題
Strata 和 PolyStrata 是同一個團隊做的嗎?
不是。Strata 是 Niko1221 開發的;PolyStrata 由 VecSzn 建立在 Strata 之上,放在 simplexai-labs 的獨立專案裡。PolyStrata 跑 Qwen3.8-Flash-Next 時用的就是 Strata 原本的引擎。
6GB 顯卡可以用嗎?
官方寫的是 PolyStrata 的小模型需要 8GB 以上的 NVIDIA 顯卡。我們用 RTX 2060 6GB 筆電實測,35B 模型可以跑到每秒約 28 到 30 個 token,但這已經超出官方規格,穩定性要自己評估。
需要多少記憶體?
Strata 需要 RAM 加顯存合計至少 32GB,64GB RAM 可以跑所有尺寸。PolyStrata 的小模型在 8GB 顯卡旁邊大約需要 18 到 25GB RAM,依模型而定。
Windows 跳出「Windows 已保護您的電腦」怎麼辦?
Strata 的 Windows 安裝檔目前還沒有程式碼簽章,所以會出現這個提示。確認是從官方 GitHub Releases 下載的檔案後,按「其他資訊」再按「仍要執行」。
可以接 Claude Code 或其他 AI 代理嗎?
可以。兩者都在本機提供 OpenAI 和 Anthropic 相容的 API,一般網址是 http://127.0.0.1:8080,Claude Code 只要把 ANTHROPIC_BASE_URL 設成這個網址就能用本地模型。
第一次啟動時電腦卡住正常嗎?
正常。模型會載入幾十 GB 到記憶體,第一次啟動電腦可能 1 到 3 分鐘沒反應,等它跑完就好,不要關掉視窗。超過 10 分鐘還卡住,再改選小一點的模型。

