JEV 本地架設調研報告

日期：2026-10-06 ｜撰寫：Howard 的 pi 助理｜主機：本機 Mac（Apple M3, 8GB）＋ Spark（DGX Spark, 128GB）

0. 名稱校正（重要）

JEV 不是 Java Embedded Viewer，而是 TypeSafe AI 的 System One 決策模型：

非 chat 模型；輸入非結構化狀態 + typed question，輸出 typed decision（choice / score / boolean + confidence）。
Maven Central 查無舊 JBoss JEV；GitHub/Maven 上的 "JEV" 全屬此 AI 模型生態。
本報告的「本地架設」評估同時涵蓋 Java 整合端 與 模型推理端。

1. 本地環境檢查結果

主機：本機 Mac（Apple M3, 8GB RAM, 可用磁碟 177GB）

專案	版本	路徑
openjdk@17 (brew)	17.0.19	`/opt/homebrew/opt/openjdk@17/bin/java`
openjdk (brew, latest)	26.0.1	`/opt/homebrew/opt/openjdk/bin/java`
Maven	3.9.16（預設跑 JDK 26）	`/opt/homebrew/bin/mvn`

JEV 官方 Java SDK（spring-ai-community/spring-ai-typesafe，Maven org.springaicommunity:typesafe-java-sdk:0.4.0）需求 Java 17+，本地已滿足 ✅，不需安裝。
小問題：/usr/libexec/java_home 找不到系統 JRE（brew openjdk 未 link）。如需系統層級 Java：brew link --force openjdk@17。
另：社群 SDK 有要求 Java 21 / 26 的版本，本地 brew openjdk 26 也可用。

2. JEV 架設可行性評估

2.1 Java SDK 層面（API client）

Java SDK 只是 雲端 API 的 client，模型本身跑在 TypeSafe 雲端（early access，$0.042/MTok in，output free）。
→ 本機 Java 整合可行，但這不是「本地架設模型」。

2.2 模型端「真正本地架設」選項

選項	位置	需求	本地可行性
`autotrust/JEV-9B`（Apache-2.0，Qwen3.5-9B fine-tune，~18GB BF16，含 LoRA adapter 160MB、dual-head 決策頭）；另有 `JEV-27B`、`JEV-27B-VL`	Spark（DGX Spark, 128GB）	transformers / vLLM + pip	✅ 建議正式本地架設放 Spark；本機 M3 8GB 跑不動
`Meanblock/JEV-CPU`（Qwen3-0.6B 語意決策，讀 logits，~1s，含 web UI，MIT）	本機 M3 Mac	CPU 即可	✅ 可跑適合 demo / 驗證模式
TypeSafe 雲端 API	雲端	early access token	✅Java SDK 直連
Ollama / 本地 Qwen + System One wrapper	本機或 Spark	自建 wrapper	⚠️非官方 JEV 權重，僅模擬模式

結論：本機 Mac 只能跑 JEV-CPU 級 demo；正式本地架設 = Spark 上跑 JEV-9B（Apache-2.0）；Java 整合走 spring-ai-typesafe（Java 17+ 已備）。

3. 安裝步驟建議

3.1 本機 Java demo（已就緒）

# Java 17 已存在，不需安裝；若要系統可見：
brew link --force openjdk@17

Maven 專案引入 org.springaicommunity:typesafe-java-sdk:0.4.0 即可連 TypeSafe 雲端 API（需 early access token）。

3.2 本機 CPU demo（JEV-CPU）

# HuggingFace: Meanblock/JEV-CPU（MIT，含 web UI）
# 下載後依 repo 說明啟動，CPU 推論約 1s/次

3.3 Spark 正式本地架設（JEV-9B）

# 於 Spark（128GB）上：
pip install transformers torch accelerate   # 或改用 vLLM
# 下載 autotrust/JEV-9B（BF16 ~18GB 或 LoRA adapter 160MB）
# 注意 dual-head 決策頭需自訂推理腳本，非標準 chat pipeline

4. 風險與注意事項

Early access 限制：TypeSafe 雲端 API 需 token，價格/條款可能變動，不適合當永久依賴。
JEV-9B 非標準 chat 模型：dual-head 決策頭需要特定推理程式；transformers 標準 generate 流程不一定直接可用，需照 HF repo 範例改寫。
本機 8GB RAM 限制：9B BF16 ~18GB 完全放不下；不要試圖在本機量化硬跑，品質存疑。
Spark 記憶體共用：Spark 目前跑主力模型，要跑 JEV-9B 需評估記憶體排程（vLLM 常駐會擠壓）。
生態很新：spring-ai-typesafe 僅 ★51，API 可能不穩定（0.4.0 版本）；正式案要留退路。
名稱混淆風險：對外文件建議寫明「JEV = TypeSafe 決策模型」，避免 Java Embedded Viewer 誤解。
授權：JEV-9B/27B 為 Apache-2.0（可商用）；JEV-CPU 為 MIT；皆無授權疑慮。

5. 後續行動建議

短期本機以 JEV-CPU（0.6B）驗證 System One 決策模式是否適合自身場景。
中期Spark 排程撥記憶體跑 JEV-9B，搭配自訂 dual-head 推理腳本。
Java 整合既有 Java 專案直接引入 typesafe-java-sdk，先走雲端 API 驗證流程再轉本地。

本頁為調研靜態報告，非互動工具。資料截至 2026-10-06，JEV 生態變化快，使用前請複查 HuggingFace / GitHub 最新版本。