這裏記錄每週值得分享的科技內容，週五發佈。
本雜誌 開源 [1] ，歡迎 投稿 [2] 。另有 《誰在招人》 [3] 服務，發佈程序員招聘信息。合作請 郵件聯繫 [4] （ [email protected] [5] ）。
封面圖
上海某商場正在舉辦的“海綿寶寶”展覽。（ via [6] ）
你需要知道的 AI 內存知識
自己在家運行 AI 模型，可以選擇兩種硬件。
一種是獨立顯卡，目前最頂級的消費級顯卡是英偉達的 RTX 5090，帶有 32GB 顯存，售價3萬元人民幣左右。
另一種是採用板載芯片組（CPU + 板載顯卡 + 板載內存）的家用電腦，比如採用 AMD 公司 Strix Halo 芯片組（具體型號 Ryzen AI Max+ 395）的迷你電腦，自帶 128GB 內存，售價2萬元人民幣左右。
我問大家，哪種硬件更好？
大部分人可能不假思索，就會選擇獨立顯卡，畢竟獨立顯卡的算力遠大於板載芯片組。
根據我查到的資料，下面是兩者的單精度32位浮點數算力（FP32）。
• 獨立顯卡（RTX 5090）： 104.8 TFLOPS • 板載芯片組（AMD Ryzen AI Max+ 395）： 14.8 TFLOPS
可以看到，獨立顯卡的算力，足足是板載芯片組的7倍。如果是更小位數的浮點數計算（比如 FP16 和 FP4），算力差距就更大了。
但是，我告訴你，正確的答案其實是“不確定”。很多時候，板載芯片組的迷你 PC，纔是更好的本地 AI 模型解決方案。
原因很簡單，大多數的 AI 模型（只要參數規模稍大），RTX 5090 根本運行不了。
問題出在它的 32GB 顯存實在太少了。一個 70B 參數的模型，如果每個參數使用4位精度，那麼將所有參數的權重讀入內存，大約需要 32.6GB 的內存，這超出了 RTX 5090 的顯存大小，它根本跑不起來。
相比之下，AMD 迷你電腦的板載內存有 128GB，載入模型毫無困難。 板載芯片組的內存是顯卡和 CPU 共用的，所以稱爲“統一內存” 。它的好處是可以分出儘可能多的內存給單個處理器，所以能處理內存消耗量很大的 AI 模型。
蘋果的 M 系列芯片一直是這種“統一內存”架構，其他廠商現在也跟進了，AMD 的 Strix Halo、NVIDIA 的 DGX Spark、Intel 的 Core Ultra 和高通的 Snapdragon X 都採用這種架構。除了內存容量大，它的價格也比獨立顯卡低。
讀到這裏，你可能會問，既然板載芯片組有這些優點，還有必要購買獨立顯卡嗎？
回答是，內存有兩個指標，除了容量大小，還有一個指標“內存帶寬”。 板載芯片組的弱點，恰恰就是內存帶寬。
所謂“內存帶寬”，指的是內存向處理器傳送數據的速度。雖然 RTX 5090 顯存不多，但是內存帶寬極大，達到了 1792GB/s，而 AMD 的內存帶寬只有 256GB/s。
AI 模型每生成一個 Token，需要處理器從內存中讀取整個模型，進行計算。如果內存帶寬是 256GB/s，那麼 40GB 大小的模型，處理器一秒只能讀取6次（256除以40），也就是說每秒只能生成6個 Token（這是理論值，實際可能還達不到）。這樣的龜速，誰能忍受？
即使是內存帶寬最大的蘋果 M3 Ultra 芯片，帶寬爲 819GB/s，每秒可以生成20個 Token，遠不如 RTX 5090 的 1792GB/s。
所以，內存大小和內存帶寬，兩者都是 AI 模型的瓶頸。這也是高帶寬內存（HBM）價格漲瘋了的原因。
如果你選擇板載芯片組的迷你電腦，就要做好心理準備，忍受非常慢的 Token 生成速度。
好在爲了節省計算量，出現了“混合專家模型（MoE）”這種架構， 它計算 Token 時，不需要讀取全部參數，只需要激活一部分參數即可 。
以 Qwen3-30B-A3B 模型爲例，它包含 30B 個參數，但每次只激活 3B 個參數，因此每個 Token 需要讀取的數據量不是 20GB，而是 2GB。那麼在 AMD 迷你電腦上，每秒理論上可以生成100多個 Token，這樣的速度就相當不錯了。
因此，如果你用“統一內存”模式的迷你電腦，就選用 MoE 模型吧。
另外，迷你電腦還有一個很大的缺點，跟內存無關，而跟它的算力慢有關。
我們知道，模型必須先處理用戶的提示詞，然後才能生成 Token。因爲迷你電腦的算力慢，所以它處理提示詞也很慢。
根據 實際測算 [7] ，AMD 迷你電腦使用 70B 的模型，提示詞處理速度是每秒95個 Token。那麼，用戶提交4000個 token 的一個文檔，大約需要40秒才能處理完，然後才能輸出第一個 Token。
可以想象，一旦用戶往上下文窗口塞入更多的內容，單單是處理提示詞，就會變成幾分鐘到幾十分鐘。
總之，現階段想在本地電腦運行大模型，無論是獨立顯卡還是板載芯片組，都有缺陷。你最多隻能運行一些中等規模的 MoE 模型，而且提示詞不能很長。
布爾變量如何起名
傳說中，編程有兩大難題，一個是緩存失效，另一個是變量起名。
其中，布爾變量尤其難起名。怎樣才能貼切地表達，這個變量是表示“真”（true）和“僞”（false）的布爾值呢？
我最近讀到一篇文章 《布爾變量起名的藝術》 [8] ，提出使用四個前綴就能給布爾變量正確起名，我覺得很有啓發。
（1） is- ：描述事物的狀態，後面跟形容詞，比如 isActive，isDeleted，isEmpty。
（2） has- ：描述事物的所有權或包含關係，後面跟名詞，比如 hasAccess，hasChildren，hasValidationErrors。
（3） can- ：描述事物的能力或權限，比如 canEdit，canDelete，canRetry。
（4） should- ：描述事物的意圖或邏輯，比如 shouldRetry，shouldCacheResponse。
除了這四個前綴，起名還有另一條規則：永遠不在布爾變量名中使用否定詞。
比如，不使用 isDisabled，而要用
isEnabled = false
。
科技動態
1、 OpenAI 鍵盤 [9]
OpenAI 公司剛剛推出了一款便捷鍵盤，方便操作 AI 代理。
鍵盤下方是一排快捷鍵，用於批准、否決、語音輸入等操作。上方是一排 RGB 燈，表示 AI 代理目前的狀態（思考、運行、等待、完成）。
這東西售價230美元，看上去毫無新意，也未必比普通鍵盤方便。
著名設計師喬納森·艾維（Jony Ive）離開蘋果公司後，現在負責 OpenAI 硬件設計。大家都盼望，他能拿出讓人眼前一亮的智能硬件，但最先亮相的這個小鍵盤真是讓人失望。
2、 小行星 2016HO3 [10]
天問二號探測器於2025年5月發射，經過約400天的飛行，終於到達了目標——小行星 2016HO3，並傳回了照片。
這個小行星長度在20米左右，只比半個標準籃球場大一點，形狀不規則，並有尖角，這表明它應該是碰撞後的碎片，而不是熔岩冷卻形成的。
天問二號拍攝照片時，距離這個小行星20公里，下一步將按照計劃，採集這個小行星的岩石樣本，送回地球。
這件事的難點在於，天問二號翼展達到15米，只比這個小行星小一點，採樣時可能會改變小行星的軌道。
3、 風力編織機 [11]
一個荷蘭設計師發明了家用的風力編織機，可以安裝在陽臺或樓頂。
風力帶動葉片，在一個圓形的編制轉盤上，將毛線編織成圍巾。
風大的時候，編織速度非常快。它看上去是一個純粹的機械裝置，沒有用到風力發電。
設計師的原意是向人們展示，在城市的樓宇裏，也可以利用風力。
文章
1、 機器學習博士求職指南 [12] （英文）
作者是一個美國的機器學習博士畢業生，已經進入了 DeepMind 工作，本文是求職過程回顧和總結。
另有一篇 類似的文章 [13] 。
2、 使用 DNS 通過 ACME 認證 [14] （英文）
免費 HTTPS 證書需要通過 ACME 協議頒發。該協議要求認證域名所有權，一種認證方法就是使用 DNS，本文介紹這是怎麼回事。
3、 Go 語言的困境 [15] （英文）
本文認爲，Go 語言的處境尷尬，前途不看好。“隨着慢語言變得更快，難語言變得更容易，Go 所佔據的中間地帶將不復存在。”
4、 JavaScript 哈希算法速度比較 [16] （英文）
MD5 和 SHA256 都是常用的哈希算法，本文探討在 JavaScript 語言中，這兩種哈希算法，誰的生成速度更快？答案可能跟你想的不一樣。
5、 終端控制字符一覽表 [17] （英文）
作者做了一張圖（上圖），列出命令行可以使用的控制符快捷鍵（比如快捷鍵 Ctrl-C 是終止當前命令），一共33個。
6、 理查德·費曼加入我的創業公司 [18] （英文）
作者回憶著名物理學家理查德·費曼，曾經加入他的創業公司，一起開發超級計算機，有很多有趣的內容。
工具
1、 WhatCable [19]
macOS 的頂部菜單欄應用，可以顯示當前插入電腦的 usb-c 電纜特徵。
2、 amber [20]
一種簡化 Bash 語法的新語言，它的腳本可以編譯成 Bash。
3、 Ant [21]
一種輕量級的 JS/TS 語言運行時，好像是自己從頭開始寫的，二進制文件只有 8MB。
4、 屏譯 [22] （Screen Translator）
開源安卓應用，實時屏幕翻譯工具。（ @ciddwd [23] 投稿）
5、 TurboOCR [24]
使用 GPU 進行高速文字識別（OCR）的工具。（ @nataell95 [25] 投稿）
另有一個純本地的文字識別庫 light-ocr [26] ，提供 JS/C++ API。（ @eric8810 [27] 投稿）
6、 Visprex [28]
該網站可以上傳 CSV 數據文件，自動生成可視化圖形。
7、 Loro [29]
一個開源的 CRDT 的同步算法庫，用來多人實時同步狀態。
8、 File Wizard [30]
一個自託管的、基於 Web 的常見文件格式轉換服務，還支持圖像 OCR、音頻轉文字。
AI 相關
1、 Oh My HuggingFace [31]
非官方的 Hugging Face 開源跨平臺客戶端，用來瀏覽和下載模型、數據集等。（ @fzlzjerry [32] 投稿）
2、 pi-auto-approval [33]
編程代理 Pi agent 的插件，自動批准低風險的權限確認，高風險依然會交給用戶確認。（ @Europa2061 [34] 投稿）
3、 GPT Crawler [35]
這個工具將指定網站的內容，抓取成一個 JSON 文件，然後上傳到 ChatGPT，從而生成該網站的聊天機器人，允許你跟該網站聊天。
4、 Tokenwiz [36]
一個模仿 OpenAI 將輸入文本進行詞元分解（tokenization）的開源實現。
資源
1、 Goto Onion [37]
暗網 Tor 網站的網關，使得普通瀏覽器可以訪問 Onion 網址。
2、 Fading Maize [38]
一個很有意思的網站，一支美國大學樂隊在2001年錄製了專輯，隨後就解散了。
現在，他們讓 AI 將當年的錄音改成2026年的風格。該網站就將兩種錄音同時放出來，讓大家比較。
音樂真是很神奇，20多年前的音樂，毫無時光的痕跡，吉他聲彷彿還是昨天。
3、 迷宮算法 [39] （Maze Algorithms）
這個網站收集各種迷宮生成算法。
圖片
1、 海底環島 [40]
環島一般都在交通繁忙的路口，但是在大西洋的法羅羣島，有全世界獨一無二的海底環島。
上圖是法羅羣島的海底隧道示意圖，在黃圈處，隧道一分爲二，通向兩個不同的島嶼。這裏就建了一個海底環島。
爲了引起司機的注意，政府請了藝術家，將其畫成水母的形狀。
文摘
1、 AI 本應節省時間，減少工作量 [41]
人們本以爲 AI 會節省時間，減少工作量，加州大學的一項調查發現，事實恰恰相反。AI 增加了工作量，讓工作強度變大，使得人們產生職業倦怠。
爲什麼 AI 不僅沒有減少工作，反而增加了工作呢？ 原因可能有下面幾點。
（1）工作職責範圍擴大 。產品經理現在開始編寫代碼，研究人員開始維護服務器，人們的工作職責不再那麼分明，而變得模糊不清。員工們開始處理職責範圍之外的工作，AI 讓這種轉變變得切實可行。
這產生了連鎖反應。工程師們突然發現，自己需要審查、糾正和指導非程序員同事的代碼，因爲那些同事正在“氛圍編碼”（vibe coding）。
在自己專業以外進行工作自動化的人，實際上是給其他人帶來了更多的工作。
（2）工作/生活界限模糊化 。AI 的對話式界面讓工作變得輕鬆便捷，不再有面對空白頁面的無助感，也沒有令人望而生畏的學習曲線。
因此，員工們開始在離開辦公桌前（比如上廁所前）發送“快速提示”，讓 AI 在他們離開期間處理一些瑣事。許多人甚至在休息時間也輸入提示詞，讓 AI 去跑。這些在非工作時間使用 AI 處理的工作累積起來，導致休息時間減少，工作時長大幅增加。
（3）多任務處理激增 。由於 AI 給人一種錯覺，任務可以在後臺處理，因此員工被要求同時管理多個工作流程。
這樣做表面上可以提升生產力，但實際上往往轉化爲不斷切換注意力以及更長的任務清單。
（4）以上因素的自我強化循環。 AI 讓事情變得更簡單，於是員工們做了更多事情，導致更加依賴 AI 來簡化這些事情。如此循環往復，最終導致倦怠。
研究人員指出：“一些參與者表示，雖然他們感覺工作效率更高了，但並沒有感覺輕鬆，反而感覺比以前更忙了。”
（5）解決方法 。研究人員提出，爲了解決 AI 帶來的職業倦怠，公司應該制定有意識的對策，規範員工如何使用 AI。
1. 做出重要決定前，停一會手頭的工作。 2. 安排工作順序，以減少上下文切換。 3. 預留時間進行真正的人際交往。
言論
1、
如果你是太陽，我就是黑洞。
—— 史蒂芬·霍金 [42]
2、
AI 模型的世界就像一個城市，裏面有五個企業總部區域，以及一箇中國城。
-- 《奇點越來越近了》 [43]
3、
AI 是一個完全的黑箱，這意味着所謂的“AI 工程”或“提示工程”完全是騙局，任何聲稱能夠以某種巧妙的方式操控黑箱的說法都是虛假的。
你無法探究 AI 的運行邏輯，它只是一種機器實現的“相信我，兄弟”。
-- 《AI 是一個糟糕的工具》 [44]
4、
我有一臺麪包機，它幾乎包辦一切：揉麪、發酵、烘焙。我把原料倒進去，按下一個按鈕，三個小時後麪包就出爐了。
嗯，三年裏我大概只用過這臺機器兩次。相反，我每週都會去超市買一條包裝好的預切片面包。
這解釋了爲什麼即使 AI 可以輕鬆生成代碼，SaaS 公司仍遠未走向衰落。
-- 《爲什麼便利總是勝出，以及爲什麼 SaaS 不會消亡》 [45]
往年回顧
不要看重 Product Hunt [47] （ #307 ）
黃仁勳的 Nvidia 故事 [48] （ #257 ）
汽車行業的頂峯可能過去了 [49] （ #207 ）
（完）
References
[1]
開源:
https://github.com/ruanyf/weekly
[2]
投稿:
https://github.com/ruanyf/weekly/issues
[3]
《誰在招人》:
https://github.com/ruanyf/weekly/issues/10517
[4]
郵件聯繫:
mailto:[email protected]
[5]
[email protected]:
mailto:[email protected]
[6]
via:
https://m.thepaper.cn/newsDetail_forward_33450995
[7]
實際測算:
https://vettedconsumer.com/unified-memory-explained-why-mini-pcs-can-run-70b-models-a-big-gpu-cant-and-where-they-slow-down/
[8]
《布爾變量起名的藝術》:
https://thatamazingprogrammer.com/posts/stop-naming-your-variables-flag-the-art-of-boolean-prefixes/
[9]
OpenAI 鍵盤:
https://openai.com/zh-Hans-CN/supply/co-lab/work-louder/
[10]
小行星 2016HO3:
https://www.cnsa.gov.cn/n6758823/n6758838/c10760422/content.html
[11]
風力編織機:
https://www.merelkarhof.nl/work/wind-knitting-factory
[12]
機器學習博士求職指南:
https://silviasapora.github.io/blog/ml-interviews.html
[13]
類似的文章:
https://alisawuffles.github.io/blog/job-search/
[14]
使用 DNS 通過 ACME 認證:
https://hsm.tunnel53.net/article/dns-for-acme-challenges/
[15]
Go 語言的困境:
https://www.andrewvittiglio.com/thoughts/go-killed-arenas
[16]
JavaScript 哈希算法速度比較:
https://lemire.me/blog/2025/01/11/javascript-hashing-speed-comparison-md5-versus-sha-256/
[17]
終端控制字符一覽表:
https://jvns.ca/blog/2024/10/31/ascii-control-characters/
[18]
理查德·費曼加入我的創業公司:
https://longnow.org/ideas/richard-feynman-and-the-connection-machine/
[19]
WhatCable:
https://github.com/darrylmorley/whatcable
[20]
amber:
https://amber-lang.com/
[21]
Ant:
https://antjs.org
[22]
屏譯:
https://github.com/ciddwd/overlay-translator
[23]
@ciddwd:
https://github.com/ruanyf/weekly/issues/10701
[24]
TurboOCR:
https://turboocr.com/
[25]
@nataell95:
https://github.com/ruanyf/weekly/issues/10706
[26]
light-ocr:
https://github.com/arcships/light-ocr
[27]
@eric8810:
https://github.com/ruanyf/weekly/issues/10714
[28]
Visprex:
https://visprex.com/
[29]
Loro:
https://www.loro.dev/
[30]
File Wizard:
https://github.com/LoredCast
[31]
Oh My HuggingFace:
https://github.com/oh-my-hf/ohmyhf
[32]
@fzlzjerry:
https://github.com/ruanyf/weekly/issues/10705
[33]
pi-auto-approval:
https://github.com/Europa2061/pi-auto-approval
[34]
@Europa2061:
https://github.com/ruanyf/weekly/issues/10669
[35]
GPT Crawler:
https://github.com/BuilderIO/gpt-crawler
[36]
Tokenwiz:
https://github.com/1rgs/tokenwiz
[37]
Goto Onion:
https://gotoonion.site/
[38]
Fading Maize:
https://www.fadingmaize.com/
[39]
迷宮算法:
https://www.jamisbuck.org/mazes/
[40]
海底環島:
https://visitfaroeislands.com/en/plan-your-stay/getting-around/world-first-under-sea-roundabout
[41]
AI 本應節省時間，減少工作量:
https://decrypt.co/357527/ai-save-time-instead-created-new-kind-burnout
[42]
史蒂芬·霍金:
https://geohot.github.io//blog/jekyll/update/2026/05/03/punk-or-why-i-dont-stream.html
[43]
《奇點越來越近了》:
https://geohot.github.io//blog/jekyll/update/2026/05/03/punk-or-why-i-dont-stream.html
[44]
《AI 是一個糟糕的工具》:
https://bytecode.news/posts/2026/07/user-submission-ai-is-a-bad-tool
[45]
《爲什麼便利總是勝出，以及爲什麼 SaaS 不會消亡》:
https://www.joanwestenberg.com/p/the-bread-paradox-why-convenience
[46]
穩定幣的博弈:
https://www.ruanyifeng.com/blog/2025/07/weekly-issue-357.html
[47]
不要看重 Product Hunt:
https://www.ruanyifeng.com/blog/2024/07/weekly-issue-307.html
[48]
黃仁勳的 Nvidia 故事:
https://www.ruanyifeng.com/blog/2023/06/weekly-issue-257.html
[49]
汽車行業的頂峯可能過去了:
https://www.ruanyifeng.com/blog/2022/05/weekly-issue-207.html