當(dāng)年我離開上一家主機廠之前，曾經(jīng)有一段時間去內(nèi)部應(yīng)聘過一個關(guān)于AI的崗位，其實title給的是輔助駕駛研究專員好像是，后來因為去字節(jié)誘惑太大就沒到崗，這份工作是位于望京RD的大樓里面工作，環(huán)境還不錯，JD我還記憶猶新呢，接洽的是百度的阿波羅計劃，當(dāng)時奔馳的策略是高端車型是不用阿波羅的，GLC及以下打算使用，當(dāng)時他們自動駕駛部門的人是用一輛改裝后的V級，就是福建奔馳的那一輛在昌平測試場不斷測試。

這個項目當(dāng)時嘗試性我跟過幾回，當(dāng)時在場好幾個項目組，其中一個項目組的人我更熟悉，德國那邊斯圖加特過來的，主要研究的是圖像處理技術(shù)，因為正好我在傳感器方面是我的本專業(yè)，本碩都是MI精儀的，所以對接起來不算困難，那個項目溝通的時候，我曾經(jīng)獲知一個事情，至今難忘。

當(dāng)時一德國專家跟我們講了一個AI攻擊的例子，在測試場現(xiàn)場給我們展示過，他可能需要的只是一些大力膠和一雙皮鞋。通過在路邊提示牌比如說那種禁停的?牌子上，貼上幾小塊膠帶，他就能神奇地將停車標(biāo)志在自動駕駛汽車的眼中變成紅綠燈，而且還是綠燈。還有就是如果有人對道路標(biāo)志的感知從限速改為“停車”標(biāo)志，這可能導(dǎo)致車輛在高速公路上危險地猛踩剎車；諸如此類。

當(dāng)時那位專家告訴我們，這個問題10年、20年都會層出不窮，根本無法得到解決，如果在主要大都市的大型路口這樣做，可能會造成人員死亡，并使整個城市交通系統(tǒng)陷入癱瘓。

我覺得現(xiàn)在有句話不知當(dāng)講不當(dāng)講，就是這個【學(xué)習(xí)】二字，它是人工智能系統(tǒng)的優(yōu)勢——它們會隨著數(shù)據(jù)的增加而不斷訓(xùn)練、進(jìn)化和成熟。但與此同時也是一把雙刃劍，因為不同AI架構(gòu)的學(xué)習(xí)方式也使它們面臨新的風(fēng)險。它們可能會受到惡意攻擊者的攻擊和控制。人類眼中略微損壞的停車標(biāo)志，在受到攻擊的人工智能系統(tǒng)眼中卻是綠燈。這就是我們所說的“人工智能攻擊”（AI 攻擊）。

這種脆弱性是由于最先進(jìn)的人工智能方法本身的局限性，這些局限性使它們?nèi)菀资艿揭幌盗杏泻η椅ｋU的破壞性攻擊。

無論是導(dǎo)致汽車不受控制地闖紅燈，還是欺騙影像分析系統(tǒng)進(jìn)行不必要的程序或操縱，都是嚴(yán)重的、廣泛的，且已經(jīng)存在。必須引起警惕，老王看到評論區(qū)很多毫無知識的人發(fā)表對未來的憧憬，什么自動駕駛就是未來，其實這種言論非常的低級。

目前自動駕駛技術(shù)的機器學(xué)習(xí)已達(dá)到一個【進(jìn)化臨界點】現(xiàn)在比以往任何時候都更容易使用，并且不需要堅實的數(shù)據(jù)科學(xué)/統(tǒng)計基礎(chǔ)。隨著機器學(xué)習(xí)模型的部署、使用和集成到我們的編程工具箱中變得越來越簡單，安全漏洞和漏洞出現(xiàn)的空間也越來越大。