對於汽車智駕，從廠商到某些車主和喫瓜羣衆，都表現出一種莫名其妙的興奮和樂觀，對其中的致命風險卻避而不談或視而不見。老話說“生死事大”，然而，某些人在智駕這事兒上偏偏“生死看淡”。
▲智駕成汽車廠商競爭的新熱點
智駕頻頻出事。然而，你也知道現在廠商的手段很厲害，“壞消息”很快會被處理掉，只剩下那些網紅們的驚歎讚美：“哇，真是絲滑”、“堪比老司機”、“全程零接管”。
關於所謂智駕，工信部前不久特意要求廠商“
杜絕拿用戶做測試
”。意思很明白，智駕並不成熟，有些廠商把車主當小白鼠用，而有些車主輕信了廠商的鼓吹，也欣然甘當實驗品。
前兩篇說了智駕的“眼睛”（感知硬件）：攝像頭、毫米波雷達和激光雷達，各有各的優勢，又都有缺陷。這次接着說智駕的“大腦”，智駕看上去越來越聰明，在很多情況下表現也算正常，但實際上，智駕的“大腦”是缺幾根弦的。
智駕的算法架構現在有三個大缺陷無法克服
，
而這三大缺陷的病根是
AI
（人工智能）技術的先天不足
，換句話說，胎裏帶的病，除不了根兒。
智駕“大腦”的這些缺陷會讓汽車偶爾撒癔症，如同精神失常一樣出現怪異表現，
對於高速奔跑的鋼鐵機械來說，後果可能是致命的。
▍
幻覺、黑盒與長尾
據《法制日報》5月份的一個報道：上海車主張先生駕駛某新能源汽車途經積水路段時，車載系統突然警示“行人橫穿馬路”並緊急剎停，但實際路面空無一人。車企事後承認，這是視覺算法受雨水乾擾引發的誤判。
另據《中國汽車報》報道，今年
3
月
3
日，美國亞利桑那州，一輛特斯拉
Model Y
在十字路口將一名橫穿馬路的行人誤判爲“靜止障礙物”，導致行人當場喪生。
這就是
智駕的第一大缺陷：“幻覺”
。
智駕的“幻覺”五花八門，比較多見的是 “幽靈剎車”，很多品牌車型都曝出毫無徵兆亂剎車的問題。此外，還有 把廣告牌當紅燈的、有把交通錐桶當行人的、有好端端地就突然撲向路中間綠化帶的、有突然和車主爭搶方向盤的、有突然急加速一往無前的……
▲“幽靈剎車”是智駕系統的多發病（據《江南都市報》）
人類搞不清楚智駕系統爲什麼會出現“幻覺”，不明白它到底“看到了什麼”，當時是“咋想的”，爲什麼會有令人費解的怪異動作。
這就涉及
智駕
第二個
特別棘手的問題：黑盒
。
智駕的“大腦”是AI，AI
的核心是人工神經網絡，而目前流行的神經網絡架構，都是“黑盒”。黑盒這個叫法很直白，意思是這些模型都是“暗箱操作”，不管輸出的結果是對是錯，人類只能被動接受。
近期影響最大的一起智駕車禍，是小米
SU7
夜間撞上高速公路施工路段的隔離樁，三個年輕人失去生命。這起車禍的起因，除傳感器問題外，很可能和智駕模型對某些場景的訓練數據不足有關。
通俗點說，就是智駕系統碰到不熟悉的場景時，有可能不知所措，或者亂做主張。
在小米
SU7
這起車禍中，夜間
+
施工
+
路障封閉自車道
+
改道至逆向車道……這些因素組合起來，就是讓智駕發懵的罕見場景。現實世界如此複雜，智駕系統註定要面對沒完沒了的不熟悉場景，
這就是
智駕面臨的第三個大障礙：“長尾問題”
。
▍
Transformer
讓“端到端”爆紅
2023 年 8 月，馬斯克在一場直播中演示了特斯拉的“端到端”自動駕駛能力（ FSD Beta V12 ），驚豔一時。
▲2023年8月，特斯拉首次公開展示“端到端”自動駕駛能力（圖據《每日經濟新聞》）
隨後，行業羣起仿效，“端到端”陡然風靡，成自動駕駛主流技術路線。
特斯拉的“端到端”，一端是攝像頭，另一端是方向盤和油門剎車。 攝像頭感知到的數據，通過一個深度神經網絡的處理，直接轉化成控制汽車行動的指令 。
▲“端到端”控制簡潔高效
在此之前，自動駕駛的算法是 模塊化架構 ，感知、 預測、 決策、 執行幾個模塊各司其職。
模塊化架構
主要是“規則驅動”
，工程師要編寫幾十萬行代碼，告訴汽車在什麼情況下應該什麼辦。
而
端到端架構是“數據驅動”
，能從人類的駕駛行爲數據中找到規律，自己“學習”怎麼開車。
端到端自動駕駛的根基，是
2017
年問世的一種新型神經網絡架構
Transformer
。
Transformer 的首次爆紅，是用在一款叫 ChatGPT 的聊天機器人上，它貌似能解答萬物，而且反應極快、巧舌如簧。隨後，一批語言、視頻生成的模型雨後春筍一般冒出， Transformer 模型還能寫代碼、分析數據、炒股、看 CT 片、分析蛋白質結構……看上去多才多藝，前途無量。
▲2021年底公開亮相的ChatGPT 展示了 Transformer在語言方面的驚人能力
神經網絡，一聽就是在模擬人腦，它是
AI
最重要、最主流的方向
。神經網絡是受人類大腦構造和運行方式的啓發，設計出的一種數學模型，比如
CNN
（卷積神經網絡）是從大腦處理視覺的機制中獲得靈感，
RNN
（循環神經網絡）則模仿了大腦語言和記憶處理機制。
在
Transformer
之前，
CNN
和
RNN
是最重要的兩種神經網絡，也是汽車自動駕駛最依賴的兩種模型，
Transformer
一出，它們就黯然失色了。
Transformer
自然不是幾句話能說清，簡單來說，它最大的本事就是能統攬全局，不像
CNN
主要擅長處理圖像、
RNN
專注於處理序列，而
Transformer
則是多面手，同時能幹很多活兒還有條不紊。
自動駕駛能做到“端到端”，就是因爲有了 Transformer ，你把攝像頭、毫米波雷達、激光雷達感知到的數據一古腦餵給它，它就能指揮車子行動自如。
▲端到端模型比模塊化模型更直接高效（圖據小米官網）
▍
神經網絡的先天缺陷
人腦何其複雜，何其神祕，人類對自己大腦的運作機制不過是略知皮毛。通過神經科學的研究，人們知道了大腦的基本單位是神經元，近1000億個神經元通過突觸連接成龐大的網絡，彼此之間用電脈衝和化學信號來傳遞信息。
▲神經元之間靠突觸連接成龐大的網絡
神經元構成不同的網絡，可以應對視覺、聽覺、運動和抽象思考等各種任務。人工神經網絡，是模仿大腦神經元工作機制的數學模型，但囿於對大腦的粗淺瞭解和數學模型本身的侷限，這些模型的能力仍有諸多缺憾。
人工神經網絡已經可以像人一樣“學習”，基於
Transformer
的端到端自動駕駛模型，能從人類的駕駛方式中找到“經驗”。比如，人類開車遇到前邊有個人就減速停車，模型學習了若干個這樣的例子，就知道“遇見人要停”。
這就是所謂“數據驅動”，餵給它的數據越多、數據質量越高，它學到的本事越大。這也就是大佬們掛在嘴邊的“越開越好開”。
▲智駕模型需要訓練以適應各種場景
但問題也跟着來了，對於沒學習過的場景，它會不知所措。
自動駕駛面臨一個特別棘手的麻煩，那就是
如何應對“長尾問題”
。如上所說，所謂長尾問題，就是現實世界中沒完沒了的罕見場景。
人開車，也會遇到“長尾問題”。比如你開車跟着一輛貨車跑，貨車上突然掉下來個一個箱子，這種事兒很少見，就是個“長尾問題”。碰上這種狀況，人想都不用想就知道剎車避讓，但“智駕”如果在數據訓練時沒見過這場面，可能就
沒頭沒腦地撞上去了。
人類對世界是有常識和理解的，也懂得事物之間的因果。
神經網絡只是一種數學模型，聽上去很是高深，實際上在很多方面跟白癡無異。
究其本質，
神經網絡的“學習”是在數據中找到統計意義上的相關性，從而總結出模式。
它學習到車見了人不能撞，卻不懂爲什麼不能撞；它見了紅燈也知道停車，但不理解爲什麼這個地方要有個紅燈。
說穿了，
這些數學模型對物理世界的常識一無知，也理解不了什麼是因果關係。
車上掉下個箱子，人雖然貌似不假思索，但根據常識就知道這東西最好別撞，也明白撞上去會有什麼後果，但面對此情此景，模型的“大腦”可能一片空白。
長尾問題對於智駕是個特別大的麻煩，
神經網絡無法基於常識去推演，面對陌生場景的隨機應變能力極差。
靠“數據驅動”的神經網絡還有個毛病，就是不懂裝懂，後果就是出現“幻覺”。
爲什麼會不懂裝懂？因爲
它只能模仿而不能真正思考
，而且它真的對這個世界毫無常識，用古話說，就是知其然而不知其所以然。
特斯拉的智駕曾經把天上的月亮識別成黃燈，很自覺地減速慢行。這讓人覺得啼笑皆非，但在神經網絡眼裏，“圓的 + 發亮的 + 黃色的 + 懸空的”，這麼一個東西，它就應該是個黃燈。
▲特斯拉智駕系統曾把月亮誤作黃燈
現在的神經網絡模型，還有一個很不好的毛病，就是辦事不透明，是不可解釋的“黑盒”。
神 經網絡的內部計算過程極其複雜，且難以用人類可理解的方式解釋，因此我們往往 只能看到輸入和輸出，而無法清晰地理解中間“發生了什麼”。
▲現有的神經網絡模型是難以解釋的黑盒
“規則驅動”的模型，出了問題能順藤摸瓜找到病根；
“端到端模型”出了問題，人類只能乾瞪眼，根本搞不懂錯在哪裏。
智駕有時候會突然發神經。比如，有報道說，某品牌電動汽車開啓智駕在高速公路上跑，以
120
公里的時速超過右側一輛大貨車後，突然急剎，差點導致後方車追尾。
碰上這種情況，人們無法知道智駕系統爲什麼會緊急制動，就算因此出了車禍，也無法搞清楚原因，更無法區分是誰的責任。
▍
下一代神經網絡靠譜嗎？
幻覺、長尾和黑盒，神經網絡目前有這三大難題懸而未決
。
你和
ChatGPT
或豆包聊天，它們偶爾會一本正經地胡謅。聽到幾句荒唐的話可以付之一笑，但智駕讓高速行駛的汽車突然發狂，人還笑得出來嗎？
神經網絡引發的智駕神經病，還要靠改進神經網絡來治。
長尾問題實際上是無窮無盡的，雨雪霧等天氣情況
+
路面上的車禍現場、掉落物、塌陷、施工、動物出現等等
+
強行變道、強超強會、不規範使用燈光、行人和電動車鬼探頭等等……在現實世界中，這些意外狀況的隨機組合有無數種，不論給智駕大模型喂多少數據，總會有學不到的
corner case
（又稱難例或邊緣狀況）。
光靠車子在路上收集現實中數據， corner case 猴年馬月也學不完。於是就有廠商乾脆開發所謂“世界模型”，用仿真的手段模擬出各種狀況，讓大模型在虛擬世界中訓練。
▲仿真模型可以“讓AI教AI”（圖爲華爲“世界引擎”）
好處是可以生成現實中很少出現的
corner case
，加快訓練速度，但虛擬的究竟是虛擬的，訓練好的模型放到真實環境中不一定好使。再說，就算虛擬能力再強，總會有虛擬不到的場景。
至於幻覺和黑盒問題，現有的這些神經網絡肯定是沒指望解決了，
業界都把希望寄託在下一代神經網絡技術上。
目前有廠商在嘗試
VLA
，也就是“視覺語言行動模型”，大概意思就是讓語言模型去解釋視覺和行動模型。比如現在的智駕中，汽車減速剎車不會給出說法，用上
VLA
後，模型會解釋一下：前方有行人，所以制動減速。
這貌似能改善黑盒問題，但實際上作用可能很有限。因爲語言只能給出表面化的解釋，模型的黑盒本質無法改變。
理想汽車正在
VLA
上使勁，李想說，
VLA
走的是一個技術上的無人區，結果無法預測。
目前
業內認爲比較靠譜的下一代神經網絡，是“神經
+
符號”
，用神經網絡把感知到的東西轉化成可以解釋的符號，再由符號人工智能（基於規則和邏輯）去進行推理和規劃。
神經符號系統的內部運作是有跡可循的，有望解決大模型的黑盒問題。但實現“神經
+
符號”的有機結合不是說說那麼簡單，這種思路目前還處於原型驗證的實驗階段，至於什麼時候能用到自動駕駛上，不好說。
實話實說，
現在的智駕離真正的自動駕駛貌似只有一步之遙，但這一步能不能邁過去、什麼時候能邁過去，誰也不好說；而且，就算做爲駕駛輔助，智駕的問題也有很多
，遠遠做不到某大佬說的“想撞車都難”。
廣汽埃安的一位高管最近說過良心話，他說熱愛智駕的都是熱血青年，不能讓他們去當小白鼠，“不然的話，不管是做人還是做企業，我認爲都是不講良心的”。