果您正在尋找攝像頭ISP的書籍推薦,以下是一些可能對您有用的書籍:
1.《數字圖像處理》(Digital Image Processing):作者為Gonzalez和Woods,是經典的數字圖像處理教材,其中有關于ISP的章節。
2.《數字圖像處理與計算機視覺》(Digital Image Processing and Computer Vision):作者為Milan Sonka、Vaclav Hlavac和Roger Boyle,本書涵蓋了數字圖像處理和計算機視覺的基礎知識,其中也有ISP的內容。
3.《數字圖像處理:算法與應用》(Digital Image Processing: Algorithms and Applications):作者為Jensen、Niemann和Olsen,本書介紹了數字圖像處理的基礎知識和算法,包括ISP的一些內容。
4.《數字圖像處理與分析》(Digital Image Processing and Analysis):作者為Bhattacharya,本書介紹了數字圖像處理和分析的基礎知識和應用,其中也有涉及ISP的內容。
這些書籍都是比較經典的數字圖像處理教材,其中都有關于ISP的一些章節,可以幫助您更深入地了解攝像頭ISP的原理和應用。
ISP是指“Image Signal Processor”,中文翻譯為“圖像信號處理器”,是一種用于數字圖像處理的芯片或模塊。攝像頭ISP是指嵌入在數字攝像頭中的ISP芯片或模塊,用于對攝像頭傳感器采集到的原始圖像信號進行處理和優化,以產生高質量的數字圖像或視頻。
具體來說,攝像頭ISP主要包括以下幾個功能模塊:色彩處理、白平衡、曝光控制、降噪、銳化、自動對焦等。這些模塊能夠對圖像信號進行各種處理和優化,如調整圖像的亮度、對比度、飽和度、色彩平衡等,提高圖像的清晰度和細節等級,從而提高數字攝像頭的圖像質量和性能。
在現代數字攝像頭中,ISP已經成為了一個非常重要的組成部分,對于提高攝像頭的圖像質量和性能具有至關重要的作用。
丨壹觀察 宿藝
OPPO是一家什么樣的公司?
12月14日舉行的2021 OPPO未來科技大會上,OPPO面向未來十年宣布品牌“煥新”,并亮出了技術與產品的“創新肌肉”。
在OPPO之前,已有多家手機廠商推出了自研ISP影像芯片,高通在最新發布的新驍龍8處理器也重點提升了ISP性能,甚至改變了命名方式。
馬里亞納 MariSilicon X立項于2019年。OPPO芯片產品高級總監姜波本人是芯片行業“老兵”,之前也是OPPO的核心芯片供應商(高通)的從業人員。在回憶來OPPO從事芯片之初時,姜波有兩個很深的印象:一是當時春筍(OPPO深圳辦公大廈)中有一個辦公室貼了一張A4打印室,上面寫著“馬里亞納”四個字,團隊還剛剛搭建。另一個就是這幫人都堅信“OPPO既然打算做芯片,就一定會將影像這條賽道做到極致”。
也就是說,OPPO從做芯片之初,就堅定將“影像”能力進階作為自己未來十年的重點投入的長技術賽道。
馬里亞納 MariSilicon是OPPO首顆自研芯片,也是全球第一顆6nm影像專用NPU芯片。其具備四大技術突破:
第一,強勁的AI計算性能與領先能效。
馬里亞納 MariSilicon X集成了自研的MariNeuro AI計算單元,提供高達18TOPS的最大有效算力(iPhone 13 Pro Max搭載的蘋果A15 Bionic芯片 AI算力為15.8TOPS)。AI算力強勁同時,業界領先的11.6TOPS/W的能效表現也同樣重要,這依賴于OPPO自研芯片與AI算法的高效融合與軟件一體優化。
例如在運行OPPO自研的AI降噪算法時,馬里亞納MariSilicon X能夠以4K的規格,實現40fps的處理速度,相比于此前Find X3 Pro通用NPU支持的2fps速度,實現了20倍的性能躍升,同時功耗降低超過50%,體現了越專用越高效的優勢。
馬里亞納MariSilicon X還采用了雙層存儲架構,其集成的片上內存子系統,可提供高達每秒萬億比特的超大吞吐量,保障海量的AI數據在計算時無需離開AI計算單元,避免內外部數據交換帶來的讀寫功耗。此外,馬里亞納 MariSilicon X還配備了獨立DDR帶寬,傳輸速度高達8.5GB/秒,為芯片內各個計算單元提供獨立帶寬,讓超強算力不會被讀寫速度所限制。獨立DDR帶寬的加入,也為手機系統總帶寬帶來了17%的增量。
第二,行業領先的影像性能。
馬里亞納 MariSilicon X集成了自研的MariLumi 影像處理單元,支持最高20bit的處理位寬,并支持驚人的20bit Ultra HDR,是目前旗艦平臺HDR能力的4倍。在即時呈現出的畫面中,最亮與最暗之處的亮度對比極值達到100萬比1,幾乎與人眼真實的感受無異,實現了手機影像的、HDR性能新突破。
第三,20bit 實時RAW計算,計算影像無損處理的新范式。
馬里亞納 MariSilicon X的強大性能幫助OPPO重塑無損影像鏈路,將傳統鏈路只能在后端完成的AI計算推向了擁有最多原始信息的最前端——RAW域,為計算攝影的未來發展帶來革新。
傳統計算攝影的視頻處理基本是在影像鏈路的最末端,即YUV域執行,但鏈路中的多次轉換會導致圖像數據丟失了大量的信息和細節,這也導致傳統計算攝影只能對有損的信息進行處理,無法實現最佳的效果。
馬里亞納MariSilicon X引領性地將復雜的AI算法以及20bit HDR融合全部前置到RAW域進行,讓AI計算不再受限于信息量的損耗,為整個影像鏈路輸出高質量的圖像數據。與傳統后端計算相比,馬里亞納 MariSilicon X的實時RAW計算能夠帶來8dB的圖像信噪比提升。
第四,專屬的RGBW Pro模式,實現傳感器能力的最大化。
擁有馬里亞納 MariSilicon X之后,OPPO第一次完成了影像垂直鏈路整合,RGBW Pro模式就是最好的例證。通過雙通路設計,馬里亞納MariSilicon X首次實現了對RGB和W像素的分隔處理,最大化利用每一種像素特性,釋放出RGBW陣列的全部潛力。馬里亞納 MariSilicon X的RGBW Pro模式帶來了8.6dB的信噪比提升,以及1.7倍的解析力提升,在傳感器尺寸規格都沒有變化的前提下實現大幅的影像效果增強。
在四項前沿技術突破的加持下,馬里亞納 MariSilicon X以同時支持4K+20bit RAW計算+AI+Ultra HDR的全新規格,為計算影像樹立了全新標準,讓安卓AI視頻,首次擁有了4K表現;也讓4K視頻,第一次擁有了AI能力。
以上四點,實際上也是OPPO將馬里亞納 MariSilicon X定義為“自研NPU影像芯片”,而不是其他廠商所推出的“自研ISP芯片”的重要原因。
姜波對《壹觀察》表示:馬里亞納 MariSilicon X的主要設計目標,是聚焦通過NPU去解決釋放計算影像潛力這一主要問題。OPPO認為未來手機影像最重要的創新方向就是計算影像,而計算影像的上限又是AI算力。如今手機照片的計算影像各家企業實際上做的都不錯,但針對影像的專用AI算力各家差異很大,導致在夜景拍攝等極限場景的“所見即所得”與視頻拍攝過程中的體驗扔不夠好,這就是OPPO決定投入巨大資源打造像專用NPU芯片的重要原因。
對于與ISP的區別,整個影像單元其實功能非常多,ISP往往只能解決一部分問題,并且ISP封裝之后很難再通過算法進行性能提升。而“自研NPU影像芯片”可以很好地完整解決這兩大問題。
手機廠商要不要自研芯片?一個觀點是,芯片產業已有非常成熟的解決方案,自研模式投入周期長、風險高。
高通產品管理副總裁Judd Heape12月初在驍龍技術峰會上談到,手機廠商在如今打造的ISP芯片特性,后續將會被集成在驍龍旗艦主芯片中,取代目前額外增加硬件的方式。高通全球CEO安蒙在接受《財經》記者專訪時評論稱,手機廠商的專長在于打造完整的手機終端交付體驗,如果芯片與終端兩頭兼顧,要耗費不小的精力。
但從另一個角度來看,全球高端手機廠商,蘋果、華為、三星無一不具有自主研發的芯片實力。蘋果手機的創新力近年來屢遭詬病,但其在A系列芯片的發布依然備受矚目,并被認為是蘋果手機能保持強有力競爭優勢的關鍵。華為更是依靠對麒麟芯片的長期投入,打造了與其他手機品牌不同的差異化能力與影像護城河。
更重要的是,如果沒有自研能力,在外部形式充滿不確定的情況下,誰也無法絕對保證不會發生類似華為芯片“卡脖子”之痛。即使退一萬步來講不談供應鏈風險,公開市場的通用SoC芯片產品,無法做到對特定品牌、特定人群與特定機型進行精準優化。手機企業一是很難打造差異化產品,二是很難將自身用戶需求進行底層精準定義與功能創新。導致的結果,就是產品高度同質化,再加上某些手機品牌熱衷于“搶首發”從而導致行業不斷催生“內卷”。
OPPO創始人兼首席執行官陳明永在今年OPPO未來科技大會上的表態也正面回答了這一問題:科技公司必通過關鍵技術解決關鍵問題,如果沒有底層核心技術,就不可能擁有未來。而沒有底層核心技術的旗艦產品,更是空中樓閣。
陳明永強調稱:“OPPO會持續投入資源,用幾千人的團隊,腳踏實地地做自研芯片”。
《壹觀察》了解到,為了開發馬里亞納 MariSilicon X,OPPO組建的芯片研發團隊高達2000人(不排除同時有研發其他芯片),其中很多核心人員都是來自于一線的半導體大廠。
從馬里亞納 MariSilicon X這顆NPU芯片本身定位來看,很有意思。
首先,其定位從設計之初到如今量產都非常堅定:打破手機影像如今的天花板。
姜波對此表示:OPPO智能手機業務此前10來年的發展歷程中,已經在影像領域有大量的積累,且在長期采用第三方通用平臺的過程中,也有很多AI與CV(計算機視覺)算法的經驗,當業界都公認計算影像是未來10年影像領域的發展方向時,如何更好地凝聚這些積累并繼續演進就成為關鍵,這也是OPPO打算自研影像處理芯片的初衷。
手握“馬里亞納”的OPPO也在本屆未來科技大會上公開宣布:MariSilicon X這顆NPU芯片不僅是過去十年的總結,也是OPPO未來十年影像的新開篇之作。
第二,首款自研芯片即挑戰6nm制程,并且一次流片成功。
6nm制程已經與如今主流的智能手機5G SoC,如高通驍龍778G/778G+,聯發科天璣1200/1100處于同一梯隊,并且還“擠進”了臺積電產能排期。
國外媒體曾報道過一個數據:28nm節點的芯片開發成本約為5130萬美元;16nm節點則需要1億美元;7nm節點需要2.97億美元;5nm節點,開發芯片的費用將達到5.42億美元;3nm的開發費用有可能超過10億美元。
考慮到這是數年前的數據,再加上MariSilicon X并不是一款SoC芯片,其開發費用可能并沒有那么高,但業界估計也需要到1億美元以上級別。而從2018年INNO DAY上OPPO創始人陳明永宣布2019年“研發投入100億人民幣”,再到短短一年后的INNO DAY上“3年500億人民幣”的迅速攀升,還有很大一部分比例都為芯片研發業務所占據。
同時越先進的制程工藝,往往意味著設計的難度越高,可以用到的第三方的成熟IP也就越少,面臨的“流片”風險也就越大。
姜波在與《壹觀察》對話中也透露稱:采用6nm制程工藝的MariSilicon X不僅一次流片成功,而且測試表現也完全達到了開發團隊的預期,從前期研發到后期流片的所有投入都算是扎扎實實落了地。這一方面可以說是“極其幸運”,但更說明了OPPO如今這個芯片團隊的技術能力與成熟度。與之對比的是,某國產手機品牌在2019年的第二代芯片打造中“流片失敗五次,資金就燒了幾十億”,可謂教訓慘痛。
姜波認為手機企業做芯片必須掌握三個關鍵要素:時間、投入、人才,而后者更為重要。OPPO在芯片領域是一個“后來者”,同時切入角度比較陡峭,對標的芯片技術含量比較高,從客觀上來講難度是非常大的。但OPPO不同團隊之間協同性非常好,比如芯片與影像打通,算法與硬件的協同都極其高效與流暢,對MariSilicon X芯片在短短不到三年就取得技術突破、流片成功與產品量產可以說同樣至關重要。
第三,MariSilicon X芯片已經量產,將于2022年一季度的新一代Find X系列上首發搭載上市。
也就是說,新一代Find X系列將會是OPPO近年來在手機影像上的一次重要突破。這點還要考慮另外一個變量,也就是一加在回歸OPPO之后,哈蘇戰略合作帶來的光學、算法與調教的明顯提升。開啟“雙芯時代”的OPPO,由此也將真正踏上未來十年影像的新開篇。
在此次大會上,OPPO正式升級了全新品牌主張—— 微笑前行。
陳明永在大會上表示,“微笑前行”,源自OPPO本分價值觀,也來自OPPO打造首款笑臉手機以來一直堅持的“為用戶創造驚喜感”的產品思維。
陳明永表示,社會上有很多奮發向上的平凡個體,他們是這個時代的爬坡者?!拔⑿η靶小?,代表著OPPO與所有爬坡者的共同行動。OPPO作為微笑前行的爬坡者,未來希望通過科技創新,推動行業與社會發展。讓每一位爬坡者在前行路上,有伙伴、有力量。即使置身風雨,也能心向光明,微笑前行。
2020-2021年對于OPPO來說是充滿挑戰的一個周期,包括重新梳理產品線、調整組織架構、優化渠道體系,提出“科技為人,以善天下”品牌信仰,并明確“3+N+X”的科技躍遷戰略。
2021年底舉行的OPPO未來科技大會,更像是對OPPO技術、產品與新品牌理念的一次“檢閱”。除了發布馬里亞納 MariSilicon X芯片之外,OPPO還推出了其第三代AR眼鏡:OPPO Air Glass,已經具備量產能力,并具備高攜帶性與較強的實用性。其首款折疊屏手機——OPPO Find N系列也于12月15日正式發布,成為OPPO展示產品創新實力與沖擊期間的新利器。
面向未來十年,OPPO的定位是“微笑前行的爬坡者”,這說明OPPO選擇的是一條充滿挑戰,但樂于拼搏之路。就像陳明永所說:“堅持做正確的事情,對的路,就不怕遠,不怕難”,“未來的OPPO一定會有更多原創技術如繁星般涌現”。
譯局是36氪旗下編譯團隊,關注科技、商業、職場、生活等領域,重點介紹國外的新技術、新觀點、新風向。
編者按:飛機上聯網早已不是夢想。但你有沒有想過,在萬米高空中高速飛行的情況下,飛機是如何實現網絡覆蓋的呢?飛機上的Wi-Fi目前還比較差,未來能不能實現快速上網?誰為Wi-Fi買單?文章帶你探索飛機上Wi-Fi的奧秘。本文譯自Medium,作者Sarvesh Mathi,原標題為" The Magical Science of Wi-Fi on Airplanes",希望對您有所啟發。
在飛機飛行時能上網,誰會不喜歡?!根據2018年全球旅行者研究(Global Traveler study)顯示, 94%的全球旅行者認為在飛機上提供網絡將增強他們的旅行體驗,30%的人在預訂機票時會明確關注這一功能。
來源:2018年全球旅行者研究(2018 Global Traveler study)
目前,航空公司為每位乘客提供機上食品和零售等服務的費用為17美元。機上Wi-Fi將增加4美元的額外收入,到2035年,預計將為航空公司帶來300億美元的額外收入。
看到這些數據后,你就不會驚訝于世界各地的航空公司爭相將機上Wi-Fi加入他們的便利設施列表了。但是,一家航空公司是如何做到把便捷的網絡服務提供給在海平面以上6英里處以560英里每小時飛行的乘客呢?
有兩種方式可以使飛機上覆蓋互聯網:
1. 空對地(ATG)系統
這是第一個被開發出來的系統,它的工作原理類似于通過手機使用的地面移動數據網絡。但不同的是,移動信號塔向下聚焦,而為飛機提供互聯網的信號塔向上投射信號。安裝在飛機腹部的天線接收信號,并將其發送到機載服務器。該服務器有一個調制解調器,可以將射頻信號轉換成計算機信號,反之亦然,通過飛機內部安裝的Wi-Fi接入點可以為乘客提供接入服務。飛機天線和飛行航線上的發射塔之間進行信息的交換。這些塔依次連接到由服務提供商運行的操作中心,這些服務提供商類似于你家寬帶ISP的控制中心。
地面信號塔向上發射信號 來源:ThePointsGuy
Gogo的ATG-4系統由腹部下的兩個主天線、兩側天線、機載服務器和飛機內部的多個Wi-Fi路由器天線組成
上圖顯示的是Gogo公司的ATG-4系統,它是目前美國航空公司中使用最多的ATG系統。Gogo的覆蓋范圍橫跨北美,包括200多座塔樓。
但ATG系統有兩個明顯的缺點:
1. 工作頻率較低(800 MHz),每次飛行的峰值數據速度限制在10mbps。相比之下,美國的固網平均網速接近100mbps。當一架飛機上有多個用戶同時登錄時,每個用戶的登錄速度很慢,連看郵件都得等很長時間。
2. 在網絡塔較少的地區,比如大面積的沙漠或者在水上,這些地區的覆蓋率參差不齊。這使得ATG系統對于國際旅行來說,是一個不受歡迎的選擇。
2. 衛星系統
使用衛星的空中Wi-Fi更復雜,但也更快、更可靠。
天線安裝在飛機頂部,而不是在飛機腹下。頂部天線接收來自環繞地球運行的衛星的信號。但由于衛星和飛機都在以非常快的速度移動,而且相距約2.2萬英里,所以天線需要不斷調整位置來接收信號。除了機載服務器和Wi-Fi接入點外,還會有一個單獨的設備根據飛行位置和速度控制天線的移動。這些衛星與地面站相連,而地面站與服務提供商建立的操作中心進一步相連。
Gogo公司的衛星系統,包括一個衛星天線,一個機載服務器,Kandu(用來控制天線移動),Modman(用來轉換信號),以及飛機內的多個Wi-Fi接入點
基于衛星的空中Wi-Fi的兩個主要優勢是:
1. 除了北極和南極,其他地方都可以買用。在長途飛行中,天線可能需要重新定位來連接到不同的衛星,但通常不會超過一次。這使得基于衛星的系統成為國際旅行的首選。
2. 頻率更高,速度更快。分配給衛星互聯網的兩個主要頻率是Ku-band (12-18 GHz)和Ka-band (26-40 GHz)。這兩個頻段允許每架飛機的峰值帶寬在30-100 Mbps之間,顯著高于ATG系統提供的10 Mbps。
然而,這個系統有三個主要的缺點:
1. 與簡單的ATG系統相比,它在設備、維護和帶寬成本方面都更加昂貴。這使得衛星服務在小型航空公司和區域航線航空公司中不那么受歡迎。
2. 數據傳輸的距離非常遠,因此增加了延遲。雖然速度更快,但當你點擊一個鏈接時,在頁面開始加載之前會有明顯的延遲,但一旦開始加載,就幾乎會立即加載完。而ATG系統延遲較低,點擊一個鏈接后會立即開始加載,但需要很長時間才能加載完。
3.除了設備、安裝和維護成本外,機上Wi-Fi系統的另一個隱性成本是燃料成本。雖然多根天線看起來沒什么,但安裝在飛機外部的天線所引起的形狀變化卻使飛機在空氣動力學上表現變差,因為這增加了阻力,增加了燃料消耗。目前,服務提供商正想辦法減小天線的尺寸以降低成本。Gogo最新的2Ku天線不到4英寸厚,這樣飛機的凸起要小得多。
基于衛星的Wi-Fi系統主要供應商有:
1. Gogo利用國際海事衛星組織(Inmarsat)的衛星提供基于Ka波段的衛星連接,利用國際通信衛星組織(Intelsat)和SES的衛星,提供基于Ku波段的連接。該公司最新和最好的產品是2Ku系統,該系統使用兩個天線,而不是一個,一個用于上行,一個用于下行,有望使每架飛機的網速達到100兆/秒,每個用戶的網速達到15兆/秒。世界各地的航空公司正在迅速采用一種系統,該系統可以實現乘客最渴望的功能之一——視頻流。目前使用Gogo系統的航空公司包括阿拉斯加航空、美國航空、達美航空、聯合航空、維珍美國航空、國泰航空、英國航空和日本航空。
2. 自2013年以來,ViaSat一直為捷藍航空(JetBlue)在美國的航班提供更快的Ka波段互聯網服務。目前,捷藍航空的FlyFi在速度和價格上都處于行業領先地位。這家航空公司免費提供高達20mbps的Wi-Fi。
3.歐洲航空網絡(EAN)與國際海事衛星組織(Inmarsat)與德國電信(Deutsche Telekom)的合作伙伴關系,后者還運營著全球唯一的Ka波段衛星服務GX Aviation。歐洲航空網絡(EAN)已開始為歐洲航空公司提供機上互聯網服務。這項服務同時使用兩種技術,一種基于衛星的下行系統和一種基于ATG系統的上行系統,以提供更快和更可靠的網絡服務。這個系統也被稱為地面到軌道(GTO)。國際海事衛星組織(Inmarsat)擁有這些衛星,而德國電信(Deutsche Telekom)在歐盟各地安裝了300多座LTE基站。歐洲航空網絡宣稱其空中Wi-Fi速度比目前所有的空中Wi-Fi系統都要快。
提供Wi-Fi的航空公司并不僅限于上述幾家,旅游網站eDreams列出了一份提供機上Wi-Fi服務的航空公司名單。
機上Wi-Fi誰來買單
1. 一些服務提供商(如Gogo)設定價格,處理客戶體驗問題,以此來獲得收入,與航空公司進行分成。
2. 一些航空公司獲得收入,并向服務提供商支付所使用帶寬費用(批發價)。
除了少數幾家提供免費Wi-Fi接入服務的航空公司外,大多數人認為這是一個創收機會,而不僅僅是一項福利。盡管在空中提供互聯網服務的成本無疑很高,但航空公司知道他們的商務客戶(由雇主買單的客戶)是會訂購這項服務的,因此也為這種便利增加了自己的利潤。盡管只有少數乘客選擇這項服務,但航空公司和互聯網服務提供商仍可以設定高昂的機票費用(每張機票的價格在15美元至20美元之間,或者每年600美元)。
捷藍航空(JetBlue)等一些航空公司自己掏錢,向乘客免費提供Wi-Fi服務,以此在競爭激烈的市場中脫穎而出。許多航空公司還為他們的高級別客戶提供免費網絡服務,以保持他們的忠誠度,而其他一些航空公司則會找到一家企業贊助商來承擔Wi-Fi費用,作為其在網絡上投放廣告的回報。
航空公司還會通過圖像和音頻壓縮過濾器來實現減少數據消耗,從而節省帶寬成本。航空公司能夠在一夜之間安裝ATG系統,而衛星系統只需幾天時間。
放眼未來
未來,機上Wi-Fi會變得更快、更可靠。高通量衛星將更有效地利用給定的衛星頻率,并采用一種新的天線技術,這種技術依賴于點波束而不是寬波束。傳統的衛星使用寬波束,僅用一束光就能覆蓋一個國家那么大的區域。這樣做的明顯缺點是,在這個波束內的所有飛行必須共享帶寬。有了點波束,HTS衛星可以聚焦在一架飛機上,而衛星可以發出多個這樣的波束,使每架飛機的帶寬大大提高。Gogo目前也正在努力爭取在2021年之前為美國和加拿大的ATG飛機提供5G服務。
隨著更多服務商的加入和技術的進步,你很快就能在飛行時享受到在家中一般的網速了。不過,這也意味著你再也不能以坐飛機為借口來不回老板郵件了。
譯者:Jane
推薦閱讀:向上銷售:為什么蘋果總能讓你買更貴的iPhone?