重磅干貨，第一時間送達
一、引言自動駕駛汽車可能仍然難以理解人類和垃圾桶之間的區別，但這并沒有使最先進的物體檢測模型在過去十年中取得的驚人進步相去甚遠。
將其與 等庫的圖像處理能力相結合，如今在數小時內構建實時對象檢測系統原型要容易得多。在本指南中，我們將嘗試向您展示如何開發用于簡單對象檢測應用程序的子系統，以及如何將所有這些組合在一起。
二、與C++
我知道你們中的一些人可能會想，為什么我們要使用，在某種程度上,它對于實時應用程序來說不是太慢了嗎。
大多數計算重操作，如預測或圖像處理，都是通過和來執行的，它們都使用C++在場景后面實現這些操作，因此，如果我們在這里使用C++或，則不會有太大的差別。
輸入的視頻源可以是任何內容，從網絡攝像頭讀取youtube加載時出錯怎么辦，或解析現有視頻，或從連接到網絡的外部攝像頭。在此示例中，我們將展示如何從 或網絡攝像頭讀取視頻流。
四、從讀取
你們可能不想出去創建新視頻，而是使用許多在線可用的視頻。在這種情況下，你們可以從 讀取視頻流。
import cv2 # opencv2 package for python.import pafy # pafy allows us to read videos from youtube.URL = 'https://www.youtube.com/watch?v=dQw4w9WgXcQ' #URL to parseplay = pafy.new(self._URL).streams[-1] #'-1' means read the lowest quality of video.assert play is not None # we want to make sure their is a input to read.stream = cv2.VideoCapture(play.url) #create a opencv video stream.
五、從網絡攝像頭讀取
= cv2.(0) # 0 means read from local .
六、讀取IP攝像頭
如果你們正在構建將部署在服務器上的應用程序，攝像機擁有一個自己的 IP 地址，你可以從中訪問視頻流。
import cv2camera_ip = 'rtsp://username:password@IP/port'stream = cv2.VideoCapture(camera_ip)
七、加載模型
有許多不錯的對象檢測模型，每個模型都有其優點和缺點。為了簡單起見，我們將使用，因為它為我們提供了對我們的實時應用程序至關重要的快速應用。你們還可以查看其他模型，例如 。
我們可以直接從 hub 加載模型，第一次運行代碼可能需要幾分鐘，因為它會從互聯網上下載模型，但下次它將直接從磁盤加載。
from torch hub # Hub other like = torch.hub.load( \'/', \'', \=True)
八、單幀評分
我們可以說“解析一個視頻流，從一幀開始”。那么讓我們看看如何對單個幀進行評分和解析。我們用來執行應用的設備對我們的應用速度產生了巨大的影響，現代深度學習模型在使用 GPU 時效果最好youtube加載時出錯怎么辦，因此如果你們有一個帶有 CUDA 內核的 GPU，它將大大提高您的性能。根據經驗，即使是單個 GPU 的系統也可以達到每秒 45-60 幀，而 CPU 最多只能提供 25-30 幀。
'''The function below identifies the device which is availabe to make the prediction and uses it to load and infer the frame. Once it has results it will extract the labels and cordinates(Along with scores) for each object detected in the frame.'''def score_frame(frame, model):device = 'cuda' if torch.cuda.is_available() else 'cpu'model.to(device)frame = [torch.tensor(frame)]results = self.model(frame)labels = results.xyxyn[0][:, -1].numpy()cord = results.xyxyn[0][:, :-1].numpy()return labels, cord
九、繪制試別對象及框架
一旦我們對幀進行了評分，在將幀寫入輸出流之前，我們需要在幀上繪制識別的對象及其框。為此，我們可以使用 的圖像處理工具包。
'''The below takes the and the frame as input and plots boxes over all the which have a score higer than our .'''def (self, , frame): , cord = n = len() , = frame.shape[1], frame.shape[0] for i in range(n):row = cord[i]# If score is less than 0.2 we avoid a .if row[4] < 0.2: = int(row[0]*)y1 = int(row[1]*)x2 = int(row[2]*)y2 = int(row[3]*)bgr = (0, 255, 0) # color of the = self.model.names # Get the name of label = cv2. #Font for the label.cv2.(frame, \(x1, y1), (x2, y2), \bgr, 2) #Plot the .(frame,\[[i]], \(x1, y1), \, 0.9, bgr, 2) #Put a label over box. frame
十、輸出
十一、整合現在我們將它們整合到一個調用函數中，在循環中執行整個操作，讓我們回顧一下我們的主要功能必須執行以成功運行應用程序的步驟。創建視頻流輸入。加載模型。當輸入可用時，閱讀下一幀。對框架進行評分以獲取標簽和坐標。在檢測到的對象上繪制框。將處理后的幀寫入輸出視頻流。
'''The Function below oracestrates the entire operation and performs the real-time parsing for video stream.'''def __call__(self):player = self.get_video_stream() #Get your video stream.assert player.isOpened() # Make sure that their is a stream.#Below code creates a new video writer object to write our#output stream.x_shape = int(player.get(cv2.CAP_PROP_FRAME_WIDTH))y_shape = int(player.get(cv2.CAP_PROP_FRAME_HEIGHT))four_cc = cv2.VideoWriter_fourcc(*'MJPG') #Using MJPEG codexout = cv2.VideoWriter(out_file, four_cc, 20, \(x_shape, y_shape))ret, frame = player.read() # Read the first frame.while rect: # Run until stream is out of framesstart_time = time() # We would like to measure the FPS.results = self.score_frame(frame) # Score the Frameframe = self.plot_boxes(results, frame) # Plot the boxes.end_time = time()fps = 1/np.round(end_time - start_time, 3) #Measure the FPS.print(f'Frames Per Second : {fps}')out.write(frame) # Write the frame onto the output.ret, frame = player.read() # Read next frame.
你們應該將所有這些組件打包到一個類中，該類可以與你們希望將輸出流寫入其中的 URL 和輸出文件一起調用。最終效果如下：
十二、結論
當然，生產級實時應用程序比這復雜得多，但本文并不打算教授這一點。它是為了展示 的驚人力量，它使我們能夠在數小時內構建如此復雜的應用程序原型。
代碼鏈接：
下載1：-擴展模塊中文版教程