美國青少年是怎樣評論黑客KING？看了讓人也是醉了。美國人發明了計算機，因此他們在這領域技術發展是最快的。但一些美國青少年中國迷，他們帶著探索求知的強烈愿望，想來中國見識下這位東方黑客之父：KING，甚至還表示：“下輩子只想做中國人”，這是怎么回事呢？
計算機技術在新時代以及未來社會中是可傍身的一技之長，可有些青少年做著“黑客”夢，在鉆研技術的路上走偏，這是萬萬不可的。而中國傳奇黑客之父KING的正義精神和愛國情懷，曾打動過無數走在黑客道路的人，使他們每個人都想為國出一份力量。
美國初中生活對每個孩子來說都是豐富多彩的，但對許多父母而言，這個年齡段的孩子又最讓人操心。在美國IT科技如此發達的國家，每個父母都希望自己的孩子能當上微軟安全顧問或者谷歌網絡安全工程師，所以他們從小對孩子培養計算機興趣。
然而，在美國有那么一群任性青少年，他們非常喜歡中國文化，并且十分看好中國未來互聯網的發展。這位曾攻無不克，戰無不勝，所向披靡的東方黑客之父KING，已經成為他們心目中的偶像。
中國黑客聯盟創始人KING
但令他們失望的是：“KING從來不會傳授外國人技術”。美國青少年們表示不會輕易放棄，并評價：“至少他是我們的精神領袖，是我們前進的動力”。
根 繼續發自 國家會議中心
量子位 報道 | 公眾號 QbitAI
上次量子位撰文介紹過，AI加持下的安全話題正在升溫，僅6月份就有總額30億元的投資流向安全創業領域。
同樣的現象在中國互聯網安全領袖峰會（CSS2017）現場發生。這個由騰訊主辦的網絡安全大會，雖然主題還不是“人工智能”直接相關，但言談論斷之間，AI已然是不可忽視的話題。
在大會現場，騰訊公司分管安全的副總裁丁珂、素有“世界頭號黑客”之稱的Kevin Mitnick，以及美國加州大學伯克利分校教授、“計算機安全教母”宋曉東(Dawn Song)，就AI趨勢下的安全話題，接受了量子位采訪。
△ 騰訊公司副總裁丁珂
騰訊公司副總裁丁珂告訴量子位，AI下的安全問題，新且特別重要，在AI技術發展過程中，固有邊界正在被打破，全新的問題正在發生。
丁珂具體解釋稱，機器智能的時代正在把很多正常的邏輯變成黑箱操作，其中機器數據被污染的過程，會影響你的樣本和判斷，會帶來更加隱蔽、危害的安全問題。之前人類依靠邏輯和自制，加之社會化關系的存在，可以相互制約和問責，但AI將改變這一切。
在騰訊方面看來，AI時代的安全問題，有一半是傳統的Anti-Pro、Anti-SPAM方面的技術，更多的是技術和倫理上的探索。
技術方面尚有積累支撐，但邊界判斷上，開始涉及新的倫理標準。
“我們現階段更多在探索各方面跨界問題，在認知上界定的過程，未來人工智能在幾大領域里，在自動駕駛、圖像學習（深度醫療）、決策支持領域（聊天，決策輔助），如果不在邊界問題上沒做好安全把關，問題就變得不好把控。”他向量子位舉例說。
最后，這位騰訊內部分管安全的副總裁還總結稱，以安全的原則來講，讓一個事物繁榮發展的基礎，一定是事先預知到它能最壞到什么程度，還要認知清楚其基礎健康和可持續發展的基本原則。
△ “世界頭號黑客”Kevin Mitnick
此次CSS大會中，素有“世界頭號黑客”之稱的Kevin Mitnick也被邀請到現場，這是他第一次來到中國，距離他大戰FBI、并被列為頭號網絡安全通緝目標已然過去20年。
現在的Kevin Mitnick擁有自己的安全咨詢公司，黑客出身的他，正在把才能和技術轉換為對抗網絡攻擊的建議和方法。
Kevin Mitnick表示，AI正在把越來越多設備“帶入”網絡世界，我們有了越來越多的智慧城市、智能家電和智能汽車，但根本上講，Kevin Mitnick眼里看到的滿是“脆弱城市”、“脆弱家電”和“脆弱汽車”，因為所有的設備都可以被攻擊和利用，所以源頭安全認證應該成為當務之急。
Kevin Mitnick向量子位表達的建議是，公信機關應該專門成立一個部門，在IOT設備發布之前，都需要經過安全認證，代碼安全與否先進行檢驗，然后才規模才進行進一步部署。
這位傳奇黑客稱，至今為止的安全認證，一般采用了“默認憑據”形式，但很多安全事件，源頭問題正是“默認憑據”，而隨著AI發展以及越來越多IOT設備被連接，這樣的隱患可能造成的危害，將比以往更加可怕。
不過，Kevin Mitnick也強調，現在還沒有真正符合AI核心技術的工具或產品出現，更多產品重心在“決策”，所以他自己也尚未有對AI產品進行安全分析評估的經驗。
但AI的趨勢已然浩浩湯湯，Kevin Mitnick介紹說，他本人在加州創立了一家專門開發AI工具產品的公司，未來會通過在社交網絡上抓“釣魚”來給用戶提供安全環境，這款工具的背后技術原理是機器學習，通過數據模型，可以讓機器學會快速識別“釣魚網站”的能力——這個產品已經在開發中。
△ “計算機安全教母”宋曉東(Dawn Song)
除了傳奇黑客Kevin Mitnick，加州大學伯克利分校教授宋曉冬(Dawn Song)也是CSS上備受關注的嘉賓，這位有“計算機安全教母”之稱的教授，曾是“麥克阿瑟天才獎”獲得者，也是污點分析理論提出者。
與Kevin Mitnick的看法不同，宋曉東認為AI相關的安全問題，已經迫在眉睫，而且應對AI時代的安全攻擊，需要AI開發者從產品設計之初就考慮。
“歷史已經證明，攻擊者一直都會跟隨最新技術，甚至有時候還會引領最新技術。”宋曉東提示說。
而且值得注意的是，現在面臨的風險在AI領域會變得更高，因為AI會控制越來越多的體系和系統，如果攻擊者想要攻擊AI系統且得逞，那后果就會非常嚴重，比如攻擊者通過一輛無人車發動攻擊。
如何應對呢？
宋曉東的核心思路是，AI開發者開發AI系統時，就需要從攻擊者的角度思考問題。
可能會有兩種情況，一是攻擊者攻擊AI系統，讓這個系統做出錯誤決策。這種情況就需要開發者提升自己的學習系統，建筑防火墻，還需要把更好的安全系統嵌入到深度學習的體系中。
另一種情況是攻擊者濫用AI工具和技術，用以攻擊其他體系，這同樣要求開發者開發的學習系統具備更強的安全性。
加強學習系統安全性，就意味著要了解目前深度學習的“弱點”。比如通過對抗的樣本混淆系統、造成系統識別錯誤，這會讓包括自動駕駛在內的高安全要求領域經受巨大風險。
所以宋曉東建議，深度學習系統搭建中，模型、圖形選擇、代碼和黑箱攻擊防御，都需要關注對抗樣本被重構造成的攻擊風險。
另外，她還認為在開發新神經網絡特征的過程中，進行遞歸、循環，更容易推理、模塊和泛化，也更能保證程序的安全可靠性。
最后，這位“安全教母”認為，雖然AI時代帶來的安全挑戰將難以預計，但AI也可以更好幫助開發者設計更安全可靠的軟件，深度學習已經改變了當前的安全形勢和安全能力，讓認知系統變得更加強大，并能更廣泛部署到各種產品中，且可以讓產品本身獲得新能力，擁有識別惡意軟件、判斷欺詐的能力。
所以根本上說，AI可能帶來最嚴峻的挑戰，但也會帶來最好的時代。
△ Kevin Mitnick的名片
最后，在采訪Kevin Mitnick后，這位“世界頭號黑客”與量子位交換了名片，卡如其人，金屬打造的名片顯得與眾不同，而且鏤空圖案也頗有意思。
Kevin Mitnick笑著告訴量子位：你可以用它（名片）拼出一把鑰匙，”hack”你想要去的任何地方。(笑）
— 完 —
誠摯招聘
量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復“招聘”兩個字。
量子位 QbitAI
?'?' ? 追蹤AI技術和產品新動態
eorge Hotz在2007年因破解iPhone一戰成名。而3個月前，這名年僅27歲的黑客再一次挑戰了自己。他開源了其創立的Comma.ai開發的自動駕駛軟件，Hotz認為他們的軟件與同類產品相比具有極強的優勢（特斯拉除外），并且由此搭建一個自動駕駛套裝的成本僅為700美元。
起初Hotz打算將這個軟件作為一個汽車售后服務賣出去，但NHTSA （國家公路安全局）卻加強了監管，導致產品沒有賣出。最終他選擇了軟件開源，這樣NHTSA就管不著它，因為NHTSA只能對銷售商品進行召回，開源就不可以了，目前大家可以在comma.ai下載軟件源碼。
IEEE Spectrum 上周對Hotz就其開源項目進行了專訪，以下是為專訪具體內容。
請問怎樣評估你們的自動駕駛服務到底有多好？
與特斯拉的早期版本——Autopilot 7相比，我的產品與其不相上下。目前特斯拉的自動駕駛系統升級到8.0版，這要比我們的更好，這是因為特斯拉在其間擁有并且收集了很多的駕駛數據。如果用戶安裝我們的軟件，并將將行駛信息發送給我們，那么我們也可以獲得很多數據，這樣我們就可以做的和特斯拉一樣好。如果用戶提供其所在區域的駕駛行為數據，那么當裝有我們軟件的汽車行駛在這一區域時，其自我駕駛性能將會表現的更好。現在，在沒有人為干預的情況下，裝有我們自我駕駛系統的汽車已經可以從舊金山開到山景城了。
那你們為什么仍將其稱為自動駕駛？
‘自動駕駛’并沒有一個明確的定義，這個軟件只是一個輔助駕駛系統，所以不能把裝有這個軟件的車輛稱為自動駕駛汽車。它不是用來代替司機的，它只是一個副駕。現在說全自動駕駛還為時尚早，即便是谷歌汽車，縱然擁有密密麻麻的傳感器、細粒度的精確地圖，但其也做不到全自動駕駛。
那你們怎么從開源后的代碼中獲益呢？
這與安卓手機操作系統的收益方式類似，安卓雖開源、但谷歌可以通過讓大家使用谷歌的服務來獲取利潤。我們鼓勵大家成為我們comma.ai網絡的一部分，最終為大家提供服務。
如果將特斯拉比作手機中的iOS，那么我們就是手機中的Android。一開始，iOS領先，但現在兩者可以說是并駕其驅。兩者都有自己的發展空間，一個通過平臺提供服務軟件與網絡服務，另一個則直接提供軟件與網絡服務。
請問用戶在硬件上的花費大概是多少呢？
一部智能手機（系統最貴的硬件部分），大概400美金。一個系統專用盒，大概300美金，如果量產，大概只需100美金。
它支持哪些車型呢？
目前只支持謳歌與本田的部分車型，支持車型有限也是我們目前面臨主要問題之一。如果我們將系統開源，那么人們就可修改我們的系統，其將支持更多的車型。
你的系統是不是只能用在那些本身就有輔助駕駛特性的汽車上？
的確是這樣，因為我們的系統需要雷達、手機攝像頭（CPU應為驍龍820）、GPU(用來運行神經網絡)。手機需要刷機，刷入我們的定制版操作系統。
如果司機僅將其當做輔助駕駛，那么它的安全性如何呢？
即使車子出現故障，我們的軟件也很安全。假如汽車在自我駕駛狀態，執行器莫名其妙地要車子右轉，此時司機只要動動手指就可以對其進行修正，我們對剎車力也有限制，最大僅為0.3g。
請問你是怎樣使用風投資金的？
目前有一家叫Andreesen Horowitz 的公司給我們投了310萬，我們花了不到100萬做我前面所提到的那些工作。在自駕領域，我們現在做的一些產品比任何汽車公司都要好（特斯拉除外）。我們的產品沒有使用任何Mobileye公司的芯片，一切都是我們自己做的。
那你怎么評價特斯拉的前合作伙伴Mobileye？
他們關注的不是推動技術的進步，相反，他們使用一些規則限制住人們。我覺得如果我用兩年時間來推動自我駕駛技術發展，這要比我用兩年時間掙10億美金更有意義。但實際上這兩件事都很好。
請問您對目前汽車工業現狀有什么看法？
去年我見了很多汽車巨頭的老板，所有的人都堅信他們公司必須擁有自己的自我駕駛技術。福特公司主席Bill Ford曾表示他們愿意做出改變，但自我駕駛是一個計算機科學技術問題，我并沒有看到福特公司之前解決過類似問題。
via Why Ex-Hacker George Hotz is Giving Away Self-Driving Software