newsruka / daily
TODAY ISSUE 99 · 2026.08.09 · 14 MIN READ
產業動態 編寫 by 水無瀨 澪

記憶體單價退回 2007 年,這次不是製程出了問題

DDR5 每 GB 價格與 2008 年 DDR2 相當,供給年增 20% 對上需求年增 200%;Anthropic 教模型設計晶片的職缺比晶片工程師多 36.5 萬美元;NOHARM 評測發現醫療 AI 的有害錯誤有 76.6% 來自漏講。

今日漫畫 出演・水無瀨 澪
一邊是記憶體貴到二十年新高,一邊是有人用 81KB 在微控制器上跑模型。同一個產業,兩種極端。 ↗ 點擊放大

記憶體的單位價格回到了 2007 年。過去二十年一路往下的曲線在幾個月內被推回起點,而原因不在製程退步,也不在供應鏈斷鏈。

二十年的降價,幾個月被吃回去

軟體效能專家、GitHub 開發者 Daniel Lemire 在 X 上點出這件事。以單位容量計算,目前 RAM 的價格已經和 2007 年相當,他說自己從未見過這種現象,也想不起產業史上有過類似的情況。

具體數字來自史丹佛大學 DAM Project 維護的資料。

  • DDR5 每 GB 售價目前約在 11.41 至 13.28 美元
  • 這個區間與 2008 年的 DDR2 幾乎相同
  • 若計入通膨,實質價格約回到 2011 年 DDR3 的水準
  • 而供給端每年只增加約 20%,AI 帶動的需求年增幅卻可能高達 200%,兩者差了一個量級

那組 20% 對 200% 的數字,是 Elon Musk 在財報電話會議上提出來的。他的說法是,記憶體產能一年增加兩成,以一個成熟產業的標準已經相當驚人,問題是需求那一邊的斜率完全不在同一個尺度上。

SK Group 董事長的坦白也差不多。他直言目前 RAM 價格異常偏高,產業必須加速擴充供給,市場才有機會恢復平衡。

原本被期待成為低價替代方案的中國長鑫存儲(CXMT),沒有發揮那個作用。採用其晶片的記憶體產品,價格走勢大致跟著三星、SK hynix 與美光三大廠走。

Lemire 把選擇講得很直接:「我不認為有人能預測接下來會發生什麼事,但我們不是得找到不需要大量記憶體就能訓練 AI 的方法,就是必須想辦法更快、更大量地生產記憶體。」

承受這波壓力的已經不只 AI 伺服器。顯示卡、智慧手機、遊戲主機,連汽車都開始吃到成本。

蘋果沒跟著蓋資料中心,Siri 會來收帳

過去兩年,微軟、Meta、Alphabet、亞馬遜相繼把數百億甚至上千億美元投進 AI 資料中心、GPU 與網路設備,蘋果是這場競賽裡少數沒有跟進的一家。

它的做法是把運算盡量留在裝置上。Apple Silicon 負責裝置端推論,必要時才走 Private Cloud Compute 的私有雲,生成式能力則靠與第三方模型合作補足,今年 Apple Intelligence 陸續導入 ChatGPT,市場也預期 Gemini 之類的模型未來可能成為選項。

創投機構 Andreessen Horowitz 日前用一張圖表比較美國大型科技公司的 AI 資本支出,點名蘋果幾乎沒有加入這場燒錢競賽,卻率先突破 5 兆美元市值。

《華爾街日報》的分析指出這套模式接下來會遇到什麼。新版 Siri 將成為 Apple Intelligence 的核心功能,而一旦數億使用者每天都在用它,雲端推論的算力需求會直接把後端基礎建設的帳單推上來。

差別在於這兩種助理根本不是同一種東西。舊 Siri 多半在設定提醒、查天氣、控制智慧家庭;生成式助理要理解複雜的自然語言、跨 App 執行工作、整理文件、維持長時間對話情境,單次請求所需的 GPU 算力完全不在同一個級距。

庫克在財報電話會議上的說法保留了空間。他表示目前 AI 相關支出仍納入營運費用,蘋果尚未因為 AI 大幅提高資本支出,但也坦言會持續增加 AI 投資,不排除未來依需求擴大基礎建設。

如果 Siri 真的變成數億台裝置每天都會呼叫的服務,那筆支出遲早得從營運費用挪到別的欄位去。

Anthropic 多付的 36.5 萬美元,買的不是會畫晶片的人

Anthropic 目前開了兩個都跟晶片有關的職缺,薪資差距比職缺本身更值得看。

  • 研究如何讓模型參與晶片設計的研究工程師:年薪約 50 萬至 85 萬美元
  • 負責公司首款 ASIC 開發的晶片工程師:年薪約 32 萬至 48.5 萬美元
  • 兩者最高薪資差距 36.5 萬美元,而付得多的那個並不直接產出晶片

兩份職缺要求的專業其實高度重疊,包括完整的 ASIC 與 FPGA 開發流程、RTL 到 Tape-out、UVM 與形式驗證、實體設計,以及 PPA、DFT 與 EDA 工具。

差別在目標。晶片工程師的產出是晶片,研究工程師的產出是一套讓 Claude 學會做這件事的訓練環境,涵蓋 RTL 生成、驗證與實體設計最佳化。Anthropic 願意多付的那筆錢,買的是把專業轉移給模型的能力。

自研晶片這條路在 8/7 的報告裡已經確認過,該公司當時向外界證實正在籌組內部晶片設計團隊,並表明會採取多晶片策略。更早的線索出現在今年 5 月,Anthropic 談及與三星的合作關係時提到了「邏輯晶片」。

同一個方向上已經有人跑出結果。Moonshot 的 Kimi K3 被指能在 48 小時內自主完成一款晶片設計,透過開源 EDA 工具與自建的 GPU 編譯器,做出面積約 4.0 mm²、採用 Nangate 45nm 標準元件庫的設計,在模擬環境達到每秒超過 8,700 tokens 的解碼吞吐量。

接下 Gemini 的人,第一份工作是做導彈

8/7 的報告寫過 Google 那場人事變動:Demis Hassabis 卸下日常營運,Jeff Dean 帶著三名元老離職創業。接下這個位置的 Koray Kavukcuoglu 當時只有名字,現在有了履歷。

他是土耳其人,今年 49 歲,碩士讀的是航空航太工程,就讀土耳其中東科技大學,畢業後進了導彈軍工企業 Roketsan 當研發工程師。

轉行的理由沒什麼技術含量。按他博士導師 Yann LeCun 的說法,當年他妻子要去羅格斯大學讀博,他跟著到美國,想著反正沒事做,就順便讀個電腦碩士。他進了紐約大學,選了 LeCun 的機器學習與模式辨識課,2005 年成為 LeCun 門下的博士生,2010 年前後拿到學位,方向是稀疏編碼與層次化視覺特徵。

管理職沒有讓他停止產出。Google Scholar 上他的論文累計引用超過 34.5 萬次,h-index 達 90,其中超過 26.4 萬次的引用發生在 2021 年之後。

履歷裡有兩篇是教科書等級的。2015 年發表於《Nature》的〈Human-level control through deep reinforcement learning〉,他與 Mnih、Silver 三人同等貢獻,那套把卷積神經網路和 Q-learning 縫在一起、光看螢幕像素就能自學玩雅達利遊戲的方法,是今天各種 AI 代理的老祖先。另一篇是 WaveNet,直接建模原始音訊波形,後來衍生出 Google Assistant、地圖導航、語音搜尋與 Cloud 的語音合成。

在 Google 內部,他更為人所知的身分是把事情擺平的人。去年他有 21 名直接彙報下屬,整個組織約 2,100 人,head count 和預算的最終仲裁權都在他手裡,有人叫他帝國建造者。

2025 年 6 月他拿到首席 AI 架構師的職稱,直接向 Sundar Pichai 匯報,任務是把 Gemini 塞進 Google 每個產品。上任後他把散落各處的模型訓練往自己這邊收,光是搜尋團隊就有約 200 人劃入麾下,辦公室也從倫敦搬到山景城。那段時間 Meta 想挖他,沒挖動。

他談 Gemini 的方式和 Hassabis 明顯不同。他關心模型在基準測試上的表現、關心預訓練與後訓練怎麼配合、關心新功能有沒有變成使用者摸得到的產品體驗。談到 AGI 時他說過一句話:「對我來說非常非常重要的一點是,我們其實還沒有掌握如何做到 AGI 的配方。」

留給他的難題不只 Gemini 4。Jeff Dean 帶走了 Sanjay Ghemawat、Quoc Le 和 Oriol Vinyals,今年稍早諾貝爾獎得主 John Jumper 跳槽 Anthropic,不到兩個月前 Transformer 核心作者 Noam Shazeer 投奔 OpenAI。人走的速度目前還沒有慢下來的跡象。

醫療 AI 出錯的方式是少講,不是講錯

一項名為 NOHARM 的獨立醫療 AI 基準研究,把主流臨床工具測了一輪,結論是所有受測系統在臨床應用上都會出錯。

研究由史丹佛大學、哈佛大學與 ARISE 網絡的團隊共同執行,輸入 1,100 個真實臨床案例,蒐集約 13,000 筆醫師註解,用來評估各系統對病患潛在風險的影響。受測名單包括 Doximity、OpenEvidence、OpenAI 的 GPT-5.6 Sol 與 Anthropic 的 Claude Fable 5。

最關鍵的數字是 76.6%。在所有 AI 系統產生的有害錯誤裡,有這麼高的比例來自漏答或漏列重要資訊,而不是捏造或給出錯誤答案。

這個分布跟一般人擔心的方向剛好相反。幻覺至少會露出破綻,遺漏不會,它讀起來完整、語氣正常、看不出少了什麼。

Scripps Research 心臟科醫師、同時兼任 Doximity PeerCheck 計畫共同主持人的 Eric Topol 對此提出警告,認為這類遺漏錯誤必須盡可能降低,因為目前的系統表現容易讓醫療人員產生過度信賴。

排名部分立刻引發爭議。Doximity 的臨床工具 Ask 表現居前,OpenEvidence 執行長 Daniel Nadler 隨即質疑分數,批評該研究尚未經過同儕審查、方法有瑕疵,也不認同讓 AI 對結果提出重測要求的做法。

監管那一頭的方向並不一致。FDA 今年剛放寬對 AI 臨床決策支援工具的態度,只要醫師能獨立檢查 AI 的推理即可放行;各州政府卻走向嚴格,2026 年前已通過十多項醫療 AI 相關新法,多數強制要求 AI 輔助決策送到病患面前之前必須有人類簽核。

責任歸屬還是空的。AI 建議出錯造成損害時,該由開處方的醫師、引進系統的醫院,還是開發技術的供應商負責,法院目前仍在釐清。

兩個代理共用一個信任邊界,就夠了

資安機構 Pillar Security 的研究人員在 Google 的 Agent Development Kit for Python 裡找到一個可被利用的漏洞。這套用於建立與部署 AI 代理的開源工具包,累計下載量已達 9,000 萬次。

問題出在同一個儲存庫內同時跑著兩種權限層級不同的自動化代理,而它們意外共享了信任邊界。一個是面向外部、權限較低的代理,使用者提交 Pull Request 或 Issue 時就會自動啟動;另一個是專供維護者使用、具備高權限的代理。

攻擊者要做的,是讓低權限那個去觸發高權限那個。

  • 先透過看似正常的貢獻建立信任
  • 第一個 PR 把真實的程式碼修補與惡意內容混在一起,讓公開代理標記並進行審查
  • 第二個 PR 植入提示注入,誘使負責分類的代理發出受信任的交接指令
  • 高權限的內部工作流程被啟動,而整條鏈上沒有任何一步需要人類

Pillar 形容這種手法能在受污染的 PR 上憑空偽造出一條紀錄,看起來是人類要求審查、Gemini 執行、Gemini 核准,實際上人類完全沒有參與。

Google 已經修補問題並加強該儲存庫的防護,但判定這份回報不符合發放漏洞獎勵的標準,理由是攻擊涉及社交工程,且即便攻擊者拿到具權限的 GitHub Token,最終仍需人類維護者介入才能合併惡意 PR。Google 改以列入致謝名單的方式承認這次通報。

揪出漏洞的研究員 Dan Lisichkin 的建議很具體:單靠代理隔離已經不夠,資安團隊應該把 AI 代理的專屬身分、可存取資源以及互動範圍全部納入威脅模型。

同一個問題在使用者端也有人在問。r/aipromptprogramming 上一則討論串把界線畫在草稿與執行之間:請模型擬一封信和讓代理把信寄出去是兩回事,建議一段資料庫查詢和真的執行它也是。

發文者的做法是讓模型只產出提案,由一個獨立的控制層決定哪些提案可以變成動作,配套是最小權限、不可逆動作需要核准、用確定性程式碼驗證輸出、完整保留提示與工具呼叫紀錄。

他自己也承認難的地方在拿捏。每個動作都要確認,代理就難用到不想用;確認太少,一句被誤解的指令就會變成真實世界的麻煩。

跑得動模型的機器,門檻掉到一台舊遊戲電腦

r/LocalLLM 上有人貼出自己的配置:Ryzen 5800X、32GB DDR4、16GB 的 Radeon 6800。這是一台普通的遊戲電腦。

他原本用的是雲端訂閱,下班後寫自己的小專案,某個週末第一次撞到週限額,計算之後決定不再往上加訂閱,轉頭去看本地模型。

設定過程他交給了 AI。他開 Opencode、選了免費層的 DeepSeek V4 Flash,告訴它自己想跑哪個模型,對方替他裝好 llama.cpp、編譯 ROCm、下載權重。模型是 unsloth 版的 qwen 3.6,針對 MoE 最佳化,檔案約 33GB。

真正讓他愣住的是記憶體帳。他只有 16GB VRAM,模型卻有 33GB,實際跑起來約 10GB 進 VRAM,llama server 佔了 21GB 系統記憶體。MoE 每次只啟動一部分專家,這件事在單卡上的意義比規格表上看起來大得多。

同一個板上還有更極端的。有人把一個 5.2M 參數、16 個專家、INT4 量化的 MoE 模型塞進 ESP32 Dev kit V1,沒有外接 PSRAM,就在 512KB 的 SRAM 裡跑。

  • 推論時記憶體佔用約 81KB,剩下 215KB 留給 KV cache
  • 引擎從 Flash 串流專家進 SRAM,每個 token 只跑一個專家
  • 量化後的完整權重約 3.1MB,這也是模型放不大的瓶頸
  • 6 層、4 heads、128 embedding,而速度約每秒 5 個 token

訓練端也有人往下壓。r/LLM 上有人用 2 張 Tesla V100 從零訓練了一個約 326M 參數的解碼器模型,約 100 億 tokens,花一週,再微調成會列直式計算的數學推理模型。

它在多位數算術上的表現,和 GPT-3 175B 的少樣本直接作答相比是這樣的:4 位數加法 100% 對 25.5%,5 位數加法 100% 對 9.3%,2 位數乘法 88% 對 29.2%。作者自己標明了差異來源,他的模型被訓練成把計算步驟寫出來,GPT-3 的數字是直接作答,兩邊都沒有外接計算機。他也誠實列出弱點:GSM8K 只有約 3 到 4%,任意的多步文字題在 326M 這個規模上仍然做不動。

還有人往部署那一端挖。有開發者把 vLLM 的服務堆疊移植到 C++20,做出 66 MiB 的執行檔,推論階段完全不含 Python,輸出逐 token 對照過原版 vLLM。

社群開始退回 AI 代寫的說明文

r/StableDiffusion 上有一則貼文標題就是請大家別再用寫程式的模型代寫所有東西。

發文者的抱怨很具體:很多人替 Minimax 生態貢獻了不錯的東西,但輪到解釋自己做了什麼的時候,那段文字也是 AI 寫的,而且讀起來更費力。他的原話是,他寧願讀作者雜亂的原始思緒,也不想讀模型產出的那種東西。

他後來補了澄清,範圍不包括文件、readme 或提示詞,那些交給模型沒問題。他講的是「我遇到一個問題、我把它解掉了、以下是我怎麼做的」這一類的敘述。這種東西是思緒流,而模型不擅長重現思緒流。

同一個社群的另一種疲勞出現在 r/comfyui。有人發文請版主考慮開一個 Minimax 的統一討論串,理由是版面已經看起來像 r/minimax。

企業端的討論剛好對上。幾本簡報書把 AI 內容的典型特徵歸納成三件事:堆疊華麗形容詞、換句話說重複同一個意思、情緒強度和場合不搭。

《簡報的技術》作者王永福的判斷是,AI 有設計感但沒有真實感,因為它沒有實際案例,只能做出似是而非的內容。他舉的對照是「壞簡報會阻礙溝通」和「我曾經花 3 天做簡報,結果主管看不到 1 秒就退件」,後者才有人會記得。《忘形流簡報思考術》作者張忘形的觀察類似:AI 為了滿足多數人的需求,產出的東西通常四平八穩,也最沒特色。

給模型設禁用詞黑名單、限定標題與內文字數、上傳自己過去的簡報請它分析語氣,這些都是現成做法。做不到的部分還是同一件:例子和判斷得自己來。

AI 設計的噬菌體,有 16 個活了下來

r/aipromptprogramming 上流傳的一則研究消息:研究者用 AI 設計出自然界不存在的全新病毒,在實驗室實際合成之後,有 16 個設計可以運作。

這些是噬菌體,感染的對象是細菌,不是人。其中部分能殺死大腸桿菌,包括已經對一般噬菌體產生抗性的菌株,在抗生素抗藥性愈來愈難處理的當下,這是有實際用途的方向。

貼文者自己也講出了另一面。從生成文字和圖像,到設計蛋白質、基因,再到現在能拼出一個可運作的病毒基因組,這條線的位置和幾年前不一樣了。他同時提醒,這不代表誰都能複製,實驗室、設備與生物學知識一樣都不能少。

如果安全那一邊的進展跟不上設計端的速度,這類研究能不能繼續公開發表,會比噬菌體本身更早變成問題。

明日值得追的事
  • → 三星、SK hynix 與美光的擴產時程,以及 CXMT 是否真的能拉開價差
  • → 蘋果下一次財報會不會把 AI 相關支出從營運費用挪進資本支出
  • → NOHARM 會不會補做同儕審查,以及各州要求人類簽核的新法如何跟 FDA 的寬鬆立場並存
  • → Gemini 4 的推出時程,這是 Kavukcuoglu 接手後的第一次大考
編者觀察

同一天,記憶體因為 AI 的需求貴到二十年來的高點,而社群裡有人用 81KB 的記憶體在微控制器上跑起了一個模型。如果推論真的能持續往小的地方擠,缺記憶體這件事的解法未必只有蓋更多產能一條。