ToF 3D圖像傳感器正在改變我們參與攝影和混合現實(shí)的方式

視頻技術(shù)的問(wèn)世掀起了一場(chǎng)席卷全球的視聽(tīng)通信革命。今天，整個(gè)世界都非常依賴(lài)照片和視頻媒體來(lái)實(shí)現各種目的，包括商業(yè)、通信、教育和娛樂(lè )。采集和顯示視頻的機制也突飛猛進(jìn)。而3D攝像頭的采用，使用戶(hù)可以以前所未有的信息量觀(guān)察事物。

這個(gè)過(guò)程所不可或缺的一環(huán)，就是給數字視頻添加深度信息，使其更接近真實(shí)。本文探討了如何使用飛行時(shí)間（ToF）傳感器實(shí)現此目的，以及ToF傳感器正在如何改變我們與VR和其他視頻技術(shù)的交互方式。

ToF 3D圖像傳感器簡(jiǎn)介

總的來(lái)說(shuō)，飛行時(shí)間（或 ToF）是一種基于光的飛行時(shí)間測量物體距離的方法。ToF傳感器或攝像頭會(huì )發(fā)射調制紅外光束，并測量從不同距離的不同表面接收到的光的相位差。該數據被轉換為距離，并為照明場(chǎng)景提供深度。ToF傳感器使用逐像素處理，這需要復雜的算法，但由于其廣泛的適用性，愈發(fā)受到物流、汽車(chē)和消費電子領(lǐng)域的親睞。通過(guò)在三個(gè)維度上進(jìn)行掃描，ToF傳感器可以創(chuàng )建目標對象的 3D 圖像。

ToF傳感器工作原理

3D ToF圖像傳感器的操作非常簡(jiǎn)單。它根據光子混合器設備（PMD）的原理進(jìn)行檢測。ToF傳感器主要分為兩類(lèi)：直接傳感器和間接傳感器。直接ToF傳感器的工作原理是通過(guò)發(fā)射光、收集反射信號，然后測量信號延遲[圖1]；接著(zhù)，用光飛行時(shí)間來(lái)測量距離，從而實(shí)現場(chǎng)景的3D重建。

圖1  直接ToF傳感器的工作原理（簡(jiǎn)版）（圖源：作者）

間接ToF傳感器的工作原理是，不斷發(fā)射調制信號并分析反射信號，以確定相位差。兩個(gè)接收器以調制光的頻率不斷地打開(kāi)和關(guān)閉，其中一個(gè)接收器與另一個(gè)接收器的操作相位不同。因此，每個(gè)接收器都會(huì )收到部分反射信號，并根據接收到的光的數量，來(lái)確定相位差，如圖 2 所示。

圖2 兩個(gè)檢測器交替收集感興趣物體的光（圖源：作者）

優(yōu)勢及應用

ToF傳感器可以在不影響圖像分辨率的情況下，擴大測量范圍，并在低成本、可靠和緊湊的封裝中提供全部數字細節，這為3D增強型攝影提供了優(yōu)化解決方案。最新的ToF傳感器功耗較低，對移動(dòng)設備來(lái)說(shuō)，是一個(gè)具有吸引力的選擇。此外，與結構光發(fā)射等技術(shù)相比，ToF傳感器對精確的機械對準的依賴(lài)程度較低。新型ToF傳感器允許使用更高的調制頻率，因此，顯著(zhù)提高了精度。

Stratview Research的數據顯示，從2021到2026年，ToF的年增長(cháng)率有望達到16.8%（1）。ToF攝像頭的應用主要集中在消費電子行業(yè)和物流行業(yè)的3D成像和掃描。它有望通過(guò)以低成本提供豐富的3D視覺(jué)效果來(lái)徹底革新3D檢測和成像。

ToF傳感器可以用于輔助面部識別、安全跟蹤、庫存管理，以及環(huán)境和建筑物映射等應用。在現代車(chē)輛中，ToF傳感器可實(shí)現近距離環(huán)境映射、輔助泊車(chē)以及車(chē)內的許多其他功能，例如：駕駛員監控或手勢控制。不過(guò)，最有趣的應用要數消費電子和混合現實(shí)。憑借小巧的外形和較高的能效，ToF傳感器可能是唯一一項準備進(jìn)軍消費電子領(lǐng)域的3D成像技術(shù)。

案例研究：增強AR/ MR體驗

將3D ToF傳感器整合到消費電子領(lǐng)域，仍是一個(gè)尚未開(kāi)發(fā)的市場(chǎng)，具有顛覆性的意義。Counterpoint Research稱(chēng)，在智能手機中整合ToF攝像頭，有望成為未來(lái)的主要趨勢之一（2）。在最近的一場(chǎng)網(wǎng)絡(luò )研討會(huì )上，來(lái)自TECNO、三星和DXOMARK Image Labs的專(zhuān)家聲稱(chēng)，ToF和動(dòng)態(tài)視覺(jué)傳感器（DVS）等功能可以使手機攝像頭的性能勝過(guò)數碼單反相機（DSLR）（3）。在過(guò)去，智能手機和游戲設備將3D ToF攝像頭用于高度逼真的增強顯示/混合現實(shí)（AR/MR）應用。AR/MR應用將現實(shí)世界與虛擬元素相融合，為用戶(hù)帶來(lái)了更好的商業(yè)互動(dòng)、3D設計和游戲娛樂(lè )體驗。

盡管AR/MR尚未成為主流，但隨著(zhù)這些技術(shù)背后的工具的迅猛發(fā)展，AR/MR成為智能手機日常用途的代名詞指日可待。

實(shí)現MR體驗所需的兩大要素分別是：智能手機攝像頭以及可以檢測用戶(hù)周?chē)h(huán)境并將其顯示在屏幕上的應用程序。通過(guò)這種方式，就可以映射現實(shí)世界，然后將虛擬圖像放入其中。為實(shí)現這一點(diǎn)，智能手機攝像頭必須能夠對掃描區域提供深度和細節圖像。

ToF傳感器通過(guò)準確映射物體及其周?chē)h(huán)境，成為該場(chǎng)景中的主角。MR是大有前途的3D設計輔助技術(shù)，例如：室內設計師可以使用自己的手機繪制房間，并進(jìn)行數字化家具布置。同樣，真實(shí)世界的物體也可以使用ToF傳感器攝像頭進(jìn)行3D映射和數字化處理。市面上已經(jīng)有了很多這類(lèi)商用移動(dòng)應用程序，但卻因攝像頭而無(wú)法實(shí)現逼真的映射效果(4)。

ToF將顯著(zhù)增強深度信息，而映射圖像又為創(chuàng )新和快速的 3D設計帶來(lái)了無(wú)限可能?；旌犀F實(shí)的另一個(gè)應用是商業(yè)交互，專(zhuān)業(yè)人士可以借此展示逼真的場(chǎng)地/項目圖像，來(lái)加深理解。

MR還被用于創(chuàng )建真實(shí)的商業(yè)背景，也就是將人們插入一個(gè)人的視野中，并將虛擬會(huì )議變成真實(shí)會(huì )議。ToF傳感器是這個(gè)操作的核心，因為只有3D成像提供的深度信息才能使這種體驗更加逼真。最近，由社交網(wǎng)絡(luò )巨頭推出的元宇宙概念就將利用這一精確技術(shù)，這將促進(jìn)對ToF傳感器的需求和創(chuàng )新。

游戲是另一個(gè)利用AR/MR ToF優(yōu)勢的領(lǐng)域。游戲設備和現在的智能手機正在使用ToF傳感器的手勢識別功能來(lái)實(shí)現完全沉浸式的體驗。當ToF傳感器被集成到移動(dòng)設備的前置攝像頭時(shí)，就可以大幅增強面部識別等安全措施。通過(guò)在后置攝像頭中使用3D技術(shù)，ToF傳感器有望實(shí)現出色的計算攝影和沉浸式VR體驗。無(wú)需大量后期處理，ToF傳感器就可以在圖像和視頻中有效地渲染背景虛化效果。

在理想的情況下，混合現實(shí)要比虛擬現實(shí)和增強現實(shí)技術(shù)先進(jìn)得多。它對處理能力提出了較為苛刻的要求，需要實(shí)時(shí)獲取高精度3D深度數據。此外，光照條件是實(shí)現MR所需的逼真感的一大挑戰。不論是房屋和車(chē)輛等室內環(huán)境，還是光照受天氣影響的室外環(huán)境，強大的ToF攝像頭都必須能夠在所有光線(xiàn)條件下捕獲準確的深度數據。

在商業(yè)交互和日常生活中使用MR技術(shù)，對許多人來(lái)說(shuō)似乎為時(shí)過(guò)早。然而，在新冠疫情期間，整個(gè)世界對模糊虛擬世界和現實(shí)世界邊界的服務(wù)需求呈指數級增長(cháng)，這促使非面對面服務(wù)加速發(fā)展。因此，我們可以合理地預期，在不遠的將來(lái)，增強AR/MR技術(shù)將成為工作和娛樂(lè )所不可或缺的技術(shù)。更不用說(shuō)ToF這類(lèi)技術(shù)，它作為愈發(fā)強大的MR性能的支柱性技術(shù)，將變得更加重要。

英飛凌ToF傳感器

英飛凌與pmdtechnologies合作推出了REAL3?圖像傳感器系列，pmdtechnologies是一家專(zhuān)注于 ToF 技術(shù)的德國公司，在該領(lǐng)域處于領(lǐng)先地位。這系列傳感器使用紅外光進(jìn)行飛行時(shí)間（ToF）傳感，并為每個(gè)像素配備一個(gè)微透鏡，因此，幾乎沒(méi)有光能損失，而且準確性更高。英飛凌第六代REAL3? 3D ToF傳感器特別專(zhuān)注于消費類(lèi)應用，例如：智能手機應用，特別是基于A(yíng)R/MR的拍照和攝像。該傳感器的功耗比前幾代產(chǎn)品低40%，這對于需要長(cháng)時(shí)間開(kāi)啟ToF攝像頭的游戲等應用來(lái)說(shuō)非常重要，可以保護電池壽命?？紤]到現代智能設備對尺寸的嚴格限制，ToF傳感器的設計占用面積僅為4.4 × 4.8 mm2，與前幾代產(chǎn)品相比縮小了35%。

REAL3?圖像傳感系統的另一個(gè)突出特點(diǎn)是，增大了傳感范圍，可達10 m。調制頻率越高，ToF傳感器的深度精度就越好，但這會(huì )影響傳感器的測量范圍。因此，REAL3?圖像傳感器使用兩個(gè)調制頻率，并對收集到的數據進(jìn)行細致的后期處理，以便在不影響深度質(zhì)量的情況下，實(shí)現相當大的測量范圍。這些傳感器還配備了pmdtechnologies的背景照明抑制（SBI）技術(shù)，可降低像素飽和度，使攝像頭能夠在各種光照條件下運行。傳感器還可以通過(guò) I2C 接口動(dòng)態(tài)地重新配置，以適應新的操作環(huán)境。通過(guò)將所有這些功能整合到一個(gè)成像系統中，看似不可能的應用現在似乎已經(jīng)成為一個(gè)確定的現實(shí)。因此，設計師需要留意英飛凌在高精度3D圖像傳感器方面的最新創(chuàng )新。

參考文獻

1.Stratview Research. Time-of-Flight (ToF) Sensor Market | Market Size, Share & Forecast Analysis | 2021-26 [Internet]. 2022 Jul [cited 2022 Jul 31]. 

Available from: https://www.stratviewresearch.com/1731/time-of-flight-(ToF)-sensor-market.html

2.Counterpoint Research. Brighter, steadier, smarter: How smartphone cameras will improve in 2022 [Internet]. BBC Future. [cited 2022 Aug 20]. 

Available from: https://www.bbc.com/storyworks/future/looking-ahead-with-tecno/brighter-steadier-smarter-how-smartphone-cameras-will-improve-in-2022

3.Counterpoint Research. Global Mobile Camera Trends 2022: Innovation Talk [Internet]. Counterpoint Research. 2021 [cited 2022 Aug 20]. 

Available from: https://www.counterpointresearch.com/global-mobile-camera-trends-2022-innovation-talk/

4.Velichko Y. How AR Fills Your Room with Virtual Decor [Internet]. PostIndustria. 2021 [cited 2022 Jul 31]. 

Available from: https://postindustria.com/how-ar-fills-your-room-with-virtual-decor-top-home-virtual-furniture-placement-apps-ar-furniture/