Cloudflare Pages · 企業AI 落地研究所 · 訪綱

完整訪綱/錄製卡|企業AI 落地研究所

暫定標題
Jev 為什麼突然爆紅?企業決策層怎麼用「先判再叫大模型」落地

定位
本集先講清楚:TypeSafe Jev 這波為什麼突然紅、紅的是什麼(不是又一個聊天模型)。用技術筆記裡可上鏡的 mental model(State+Question+Candidates→機率決策)+Max 已測的 k8s-health/郵件初判,示範怎麼嵌進企業流程;不跑模型評測秀。

對象
台灣 B2B IT/營運決策者(要能帶走一週內可試的做法)

時長建議
25–35 分鐘(爆紅脈絡 5–7 分+概念 5–6 分+案例 12–15 分+坑與 CTA 5–8 分)


0. 開場|先講這波為什麼突然爆紅(約 60–90 秒)

鉤子(先講現象,再進產品)

「最近工程圈又在傳一個名字:Jev/TypeSafe。時間軸很短,討論卻很密——有人說它是『智能 if』,有人拿它當告警/郵件的前置閘門;更重要的是,社群已經做出很厲害的 demo,不是只有官網投影片。今天我們不追神模型熱度,先問一件事:它到底突然紅在解哪個痛?

開場必帶的四個錨點(口述即可,有數字再說)

  1. 紅的不是「又一個會聊天的模型」:定位是 Decision/Policy model(Noul/Choice/Score),輸出是結構化判斷與機率,不是長文。
  2. 紅的時機:大家被 token 帳單、告警疲勞、郵件噪音逼到要找「先分流、再決定要不要叫大模型」的層。
  3. 紅的入口:公開 docs、Cloudflare 範例、極低延遲與極低單次成本,讓「嵌進既有管線」聽起來可行——不是再開一個聊天視窗。
  4. 紅的證據:社群已經做出很厲害的 demo(客服分診、RAG 先過濾、發票/護欄、甚至 Tetris 這類玩法)——不是只有官網文案,而是有人真的接起來跑給你看。

一句釐清(避免聽眾走錯)
今天講的是 TypeSafe AI 的 Jev,不是當年 Scala 生態的 Typesafe/Lightbend。

開場收束句(接概念段)
「所以本集結構是:為什麼爆紅 → 它到底是什麼(含可上鏡的技術形狀)→ 我們怎麼嵌進監控與郵件 → 你一週內怎麼試。」


1. 爆紅脈絡|這波熱度從哪來(約 4–6 分)★開場後第一段

目標:聽眾聽完能解釋「為什麼是現在」,而不是只記得品牌名。

訪綱

  1. Casper:你是從哪條路徑注意到 Jev 的?(社群/文件/Cloudflare/同事轉傳)第一眼以為它是什麼、後來發現不是什麼?
  2. Max:跟「神模型發佈會」那種爆紅差在哪?這波比較像基礎設施/決策層的擴散,還是行銷敘事?
  3. 為什麼企業會突然聽得進去?(告警誤報、郵件噪音、大模型成本、要可審計的 yes/no)
  4. 「0 hallucination/只保證 schema」這類說法,哪些有助傳播、哪些容易誤導?
  5. 社群 demo 在這波爆紅裡扮演什麼角色?哪些 demo 讓你覺得「哇,這不是玩具」?(可點名客服分診、RAG 先過濾、發票/護欄、Tetris 等,細節留到後面 demo 段)
  6. (可選)定價印象(極低 input、output 免費)有沒有加速這波討論?還是主要是產品形狀對了?

2. 概念段|Jev 到底是什麼(約 5–6 分)★併入技術筆記重點

目標:聽眾聽完能用一句話轉述,並記住「它不是在寫字,是在對候選答案打機率」。

可上鏡的 mental model(口述白板/一句公式即可)

State + Question + Candidates
            ↓
           Jev
            ↓
P(candidate | state, question)

對照一般 LLM:本質是 P(token[t+1] | previous tokens),就算要求 JSON 也仍是逐 token 生成;Jev 的形狀比較像 對動態候選做判別/決策,不必產出幾百個 output tokens。

訪綱

  1. Casper:用白話講,Jev 跟 ChatGPT 差在哪?(生成長文 vs 對候選打機率)
  2. Max:什麼叫 System One/「智能 if」?Noul、Choice、Score 各解決什麼?
  3. Dynamic candidates:為什麼說它比傳統固定類別 classifier 更像「可程式化的決策模型」?(runtime 才能換候選:approve/reject/人工,或 left/right/rotate)
  4. Calibrated probability:輸出 0.92 跟 LLM 自報信心差在哪?企業為什麼在意「機率能不能當真門檻用」?
  5. 為什麼說它「不寫文章、也不負責解釋」?這對企業是優點還是限制?
  6. (可選)一句定價印象:$0.042/M input、output 免費——這改變了什麼架構選擇?

可用比喻
不是請顧問寫報告,而是給程式一個「校準過的開關/分路器」。

架構收束(一句,接後面案例)
高頻、結構化、要快的決策 → System One/Jev;低信心或要推理 → 再呼叫 System Two/大模型。

錄製警示(必講或加字幕)
TypeSafe 尚未公開完整神經架構/權重/RLCD recipe;現場講的是依公開 API 與官方敘事整理的 mental model,不是宣稱內部實作細節。RLCD(Reinforcement Learning for Calibrated Decisions)點到為止即可。


3. 你們的真實案例(約 8–10 分)★本集重心

訪綱

  1. Max:你們實際接在哪裡?k8s-health 四級燈(none/low/medium/high)怎麼設計?綠燈為什麼可以短路、不打貴模型?
  2. 郵件/發票/AI 補助:Jev「先判需不需要處理」之後,流程變成什麼?省了什麼(時間、誤報、token、人工掃信)?
  3. (可選,很貼近 COMMEET) 費用單場景心智實驗:state=商家/金額/事由,question=費用項目,candidates=交通/住宿/餐費/交際——跟「先判再 OCR/建草稿」怎麼接?
  4. 粗判(規則/Jev)→ DeepSeek/OCR/建草稿:邊界怎麼畫?誤判時 fail-closed 還是 fail-open?多題平行決策(例如是否重複、是否違規、是否需人工)有沒有想像空間?
  5. Casper:若你是聽眾公司的 IT,最小可行實驗會選「告警」還是「收件匣」?為什麼?

現場可帶的數字/體感(有就說、沒有別編)


4. 網路上可對照的 demo(約 4–5 分)★呼應開場「社群很猛」

開場講過社群 demo 很厲害,這裡挑 3 個口述、證明「不是空談」;其餘當後製/show notes。

口述順序 Demo 一句話怎麼接回你們
A 客服分診(急迫/部門/情緒)Cloudflare 範例 對標告警燈號與誰該看
B RAG 段落先 Noul 再生成/Decision RAG 對標綠燈短路、貴模型少打
C Invoice/護欄 cookbook,或 Tetris 這類社群玩法 對標郵件發票初判;Tetris 證明「動態候選+低延遲」不是空話

訪綱

  1. 這幾個跟我們自己的案例,相同的「決策形狀」是什麼?(state/question/candidates/threshold)
  2. 哪個 demo 最容易被企業照抄?哪個最容易只停在展示、進不了正式管線?

Show notes 連結(完整)


5. 架構怎麼嵌(約 5 分)

訪綱

  1. 規則 vs 小 classifier vs Jev vs 大模型:你們建議的預設分層?何時「動態候選」比固定分類頭更值得?
  2. confidence/校準機率閘門:什麼情況自動過、什麼情況打去人工/System Two?
  3. Parallel decision:同一份 state 能不能同時問多題(類型、是否重複、是否需審)?跟你們監控/郵件管線怎麼對?
  4. 「沒有解釋文、只有機率」——合規、稽核、客訴追溯怎麼辦?要不要強制 log state+questions+candidates+答案?
  5. 和既有工單/監控/郵件系統接線時,最常卡在哪(標籤體係、權限、假資料)?

6. 風險與採購(約 4 分)

訪綱

  1. 定價是否可能是補貼?採購要怎麼做壓力測試(漲價 10× 還划算嗎)?
  2. Vendor lock-in:問題格式(Noul/Choice/Score)可攜嗎?換成自訓 classifier 的成本?
  3. 「0 hallucination」只保證 schema/候選集合內的決策形狀——聽眾最容易誤會什麼?(尤其別把 mental model 講成已公開的內部架構)
  4. Early access/配額:現在拿來做正式 SLA 合不合理?

7. 聽眾一週實驗(約 2–3 分)

訪綱

  1. 請 Max 給一個「最小實驗」模板:選一個噪聲來源 → 寫清楚 state 欄位 → 寫 3 個 typed 問題(含候選)→ 定通過門檻 → 決定何時才呼叫大模型/人工。
  2. 成功標準看什麼?(誤報率、處理時數、token 帳單、MTTR;可加「高信心自動過的比例」)
  3. 什麼信號代表該停、改回規則就好?

8. 收束 CTA(約 20–30 秒)

「下週若你也有一條告警頻道或收件匣很吵:先寫 state、三個帶候選的 typed 問題、一個機率門檻,再決定要不要上大模型。」

可預告下一集
下一集可接:告警疲勞治理、或「先分流再呼叫大模型」的成本帳怎麼算。


錄製備註

備案加時(錄太短)
現場用高鐵/客戶拜訪費用例子走一次 State→Candidates→機率;或口頭設計「郵件 needs_attention」三題。


存檔:2026-09-20|企業AI 落地研究所 EP 訪綱(已併入 Jev 技術研究筆記重點)

已併入 Jev 技術研究筆記重點 · 開場=突然爆紅+社群 demo