主頁 > 移動端開發 > iOS 集成WebRTC相關知識點總結

iOS 集成WebRTC相關知識點總結

2022-05-08 08:38:03 移動端開發

前言

本文主要是整理了使用WebRTC做音視頻通訊時的各知識點及問題點,有理解不足和不到位的地方也歡迎指正, 對于你感興趣的部分可以選擇性觀看,

WebRTC的初始化

在使用WebRTC的庫之前,需要對WebRTC進行初始化, 用到的代碼如下:

RTCInitializeSSL();

轉定義后可以看到方法的宣告:

/**
 * Initialize and clean up the SSL library. Failure is fatal. These call the
 * corresponding functions in webrtc/rtc_base/ssladapter.h.
 */
RTC_EXTERN BOOL RTCInitializeSSL(void);
RTC_EXTERN BOOL RTCCleanupSSL(void);

Initialize and clean up the SSL library. Failure is fatal. 初始化SSL庫,失敗是致命的,
函式回傳的是一個布爾型別, 表示初始化的結果, 如果失敗,則不能繼續使用其他特性,這是使用WebRTC的前提

PeerConnection工廠的創建

在 WebRTC Native 層,factory 可以說是 “萬物的根源”,像 RTCVideoSourceRTCVideoTrackRTCPeerConnection這些型別的物件,都需要通過 factory 來創建

[RTCPeerConnectionFactory initialize];
    
//如果點對點工廠為空
if (!factory)
{
    RTCDefaultVideoDecoderFactory* decoderFactory = [[RTCDefaultVideoDecoderFactory alloc] init];
    RTCDefaultVideoEncoderFactory* encoderFactory = [[RTCDefaultVideoEncoderFactory alloc] init];
    NSArray* codecs = [encoderFactory supportedCodecs];
    [encoderFactory setPreferredCodec:codecs[2]];
    
    factory = [[RTCPeerConnectionFactory alloc] initWithEncoderFactory: encoderFactory
                                                        decoderFactory: decoderFactory];


}
  • 首先要呼叫 RTCPeerConnectionFactory 類的 initialize 方法進行初始化;
  • 然后創建 factory 物件,需要注意的是,在創建 factory 物件時,傳入了兩個引數:一個是默認的編碼器;一個是默認的解碼器,我們可以通過修改這兩個引數來達到使用不同編解碼器的目的,

獲取本地視頻流

在獲取視頻之前,我們首先要選擇使用哪個視頻設備采集資料,在WebRTC中,我們可以通過RTCCameraVideoCapture類獲取所有的視頻設備,如下所示:

NSArray<AVCaptureDevice*>* devices = [RTCCameraVideoCapture captureDevices];
AVCaptureDevice* device = devices[0];

通過上面兩行代碼,我們就拿到了視頻設備中的第一個設備,當然,光有設備還不行,我們還要清楚從設備中采集的資料放到哪里了,這樣我們才能將其展示出來,WebRTC 為我們提供了一個專門的類,即 RTCVideoSource , 它有兩層含義:

  • 一是表明它是一個視頻源,當我們要展示視頻的時候,就從這里獲取資料;
  • 另一方面,它也是一個終點,即,當我們從視頻設備采集到視頻資料時,要交給它暫存起來,
RTCVideoSource* videoSource = [factory videoSource];

除此之外,為了能更方便的控制視頻設備,WebRTC 提供了一個專門用于操作設備的類,即 RTCCameraVideoCapture,通過它,我們就可以自如的控制視頻設備了,

RTCVideoSource* videoSource = [factory videoSource];
capture = [[RTCCameraVideoCapturer alloc] initWithDelegate:videoSource];


[capture startCaptureWithDevice:device
                             format:format
                                fps:fps];

現在已經可以通過RTCCameraVideoCapture類控制視頻設備來采集視頻了, 那如何獲取采集的視頻流呢 ? 上面的代碼我們已經將視頻采集到視頻源RTCVideoSource了, 那RTCVideoSource就是我們的視頻流嗎 ?顯然不是, 這里要提到的是WebRTC三大物件中的其中一個物件RTCMediaStream ,它才是我們說的視頻流,那它和RTCVideoSource之間是什么關系呢,之間是如何建立關聯的呢?

//創建本地流
_localStream = [_factory mediaStreamWithStreamId:@"ARDAMS"];
//獲取資料源
_localVideoSource = [_factory videoSource];
                
//音頻
RTCAudioTrack * audioTrack = [_factory audioTrackWithTrackId:@"ARDAMSa0"];
//視頻
RTCVideoTrack *videoTrack = [_factory videoTrackWithSource:_localVideoSource trackId:@"ARDAMSv0"];

//將audioTrack、videoTrack添加到流
[_localStream addAudioTrack:audioTrack];
[_localStream addVideoTrack:videoTrack];

//拿到capture物件
RTCCameraVideoCapturer * capture = [[RTCCameraVideoCapturer alloc] initWithDelegate:_localVideoSource];

原來是通過一個中間物件RTCVideoTrack 建立的關聯,

  • RTCCameraVideoCapturer 將采集的視頻資料交給RTCVideoSource
  • 通過RTCVideoSource創建 RTCVideoTrack
  • RTCMediaStream 添加視頻軌 videoTrack,

獲取本地流完整的代碼如下:

if (!_localStream) {
        
        NSArray<AVCaptureDevice *> *captureDevices = [RTCCameraVideoCapturer captureDevices];
        AVCaptureDevice * device = captureDevices[0];

        //檢測攝像頭權限
        AVAuthorizationStatus authStatus = [AVCaptureDevice authorizationStatusForMediaType:AVMediaTypeVideo];
        if(authStatus == AVAuthorizationStatusRestricted || authStatus == AVAuthorizationStatusDenied)
        {
            NSLog(@"相機訪問受限");
            
            //TODO:
            if ([self.delegate respondsToSelector:@selector(webRTCClient:setLocalStream:)]) {
                [self.delegate webRTCClient:self setLocalStream:nil];
            }
        } else {
            if (device) {
                //創建本地流
                _localStream = [_factory mediaStreamWithStreamId:@"ARDAMS"];
                //獲取資料源
                _localVideoSource = [_factory videoSource];
                
                //音頻
                RTCAudioTrack * audioTrack = [_factory audioTrackWithTrackId:@"ARDAMSa0"];
                //視頻
                RTCVideoTrack *videoTrack = [_factory videoTrackWithSource:_localVideoSource trackId:@"ARDAMSv0"];
                
                //將audioTrack、videoTrack添加到流
                [_localStream addAudioTrack:audioTrack];
                [_localStream addVideoTrack:videoTrack];
                
                //拿到capture物件
                RTCCameraVideoCapturer * capture = [[RTCCameraVideoCapturer alloc] initWithDelegate:_localVideoSource];
                
                //format , fps
                AVCaptureDeviceFormat * format = [[RTCCameraVideoCapturer supportedFormatsForDevice:device] lastObject];
                CGFloat fps = [[format videoSupportedFrameRateRanges] firstObject].maxFrameRate;
                
                //開始采集
                _videoCapture = capture;
                [capture startCaptureWithDevice:device format:format fps:fps completionHandler:^(NSError * error) {
                    NSLog(@"startCaptureWithDevice---:%@",error);
                    
                    dispatch_async(dispatch_get_main_queue(), ^{
                        //展示預覽
                        if ([self.delegate respondsToSelector:@selector(webRTCClient:setLocalStream:)]) {
                            [self.delegate webRTCClient:self setLocalStream:self.localStream];
                        }
                    });
                    
                }];
            }
            else
            {
                NSLog(@"該設備不能打開攝像頭");
                if ([self.delegate respondsToSelector:@selector(webRTCClient:setLocalStream:)]) {
                    [self.delegate webRTCClient:self setLocalStream:nil];
                }
                
                
            } //end device
        }//end auth
        
    }

PeerConnection物件的創建

RTCPeerConnection是WebRTC用于構建點對點之間穩定、高效的流傳輸的組件,是WebRTC三大核心組件之一, 使用它我們可以建立一條與遠端通話的音視頻資料傳輸通道

上面提到了PeerConnection工廠 RTCPeerConnectionFactoryRTCPeerConnection 的實體就是通過此工廠來創建.

if (!ICEServers) {
    ICEServers = [NSMutableArray array];
    [ICEServers addObject:[self defaultSTUNServer]];
}


RTCConfiguration* configuration = [[RTCConfiguration alloc] init];
[configuration setIceServers:ICEServers];
RTCPeerConnection* conn = [factory
                                 peerConnectionWithConfiguration:configuration
                                                     constraints:[self defaultPeerConnContraints]
                                                        delegate:self];


- (RTCMediaConstraints *)defaultPeerConnContraints
{
    RTCMediaConstraints *constraints = [[RTCMediaConstraints alloc] initWithMandatoryConstraints:@{kRTCMediaConstraintsOfferToReceiveAudio:kRTCMediaConstraintsValueTrue,kRTCMediaConstraintsOfferToReceiveVideo:kRTCMediaConstraintsValueTrue} optionalConstraints:nil];
    return constraints;
}

對于 iOS 的 RTCPeerConnection 物件有三個引數:

  • 第一個,是 RTCConfiguration 型別的物件,該物件中最重要的一個欄位是 iceservers,它里邊存放了 stun/turn服務器地址,其主要作用是用于NAT穿越
  • 第二個引數,是 RTCMediaConstraints 型別物件,也就是對 RTCPeerConnection限制,如,是否接收視頻資料?是否接收音頻資料?如果要與瀏覽器互通還要開啟 DtlsSrtpKeyAgreement 選項,
  • 第三個引數,是委托型別,相當于給 RTCPeerConnection 設定一個觀察者,這樣RTCPeerConnection 可以將一個狀態/資訊通過它通知給觀察者,但它并不屬于觀察者模式,這一點大家一定要清楚,

更多內容

  • PeerConnection物件添加媒體流
  • PeerConnection物件的信令狀態
  • PeerConnection物件獲取sdp并設定
  • 獲取Candidate并添加到PeerConnection物件
  • PeerConnection物件的幾種狀態
  • 多點連接建立的流程

詳見: https://zhanglei.blog.csdn.net/article/details/122539459

本文來自博客園,作者:reyzhang,轉載請注明原文鏈接:https://www.cnblogs.com/reyzhang/p/16198230.html

轉載請註明出處,本文鏈接:https://www.uj5u.com/yidong/469950.html

標籤:iOS

上一篇:HMS Core地理圍欄能力助你實作指定范圍人群的精準訊息推送

下一篇:iOS 集成WebRTC相關知識點總結

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【從零開始擼一個App】Dagger2

    Dagger2是一個IOC框架,一般用于Android平臺,第一次接觸的朋友,一定會被搞得暈頭轉向。它延續了Java平臺Spring框架代碼碎片化,注解滿天飛的傳統。嘗試將各處代碼片段串聯起來,理清思緒,真不是件容易的事。更不用說還有各版本細微的差別。 與Spring不同的是,Spring是通過反射 ......

    uj5u.com 2020-09-10 06:57:59 more
  • Flutter Weekly Issue 66

    新聞 Flutter 季度調研結果分享 教程 Flutter+FaaS一體化任務編排的思考與設計 詳解Dart中如何通過注解生成代碼 GitHub 用對了嗎?Flutter 團隊分享如何管理大型開源專案 插件 flutter-bubble-tab-indicator A Flutter librar ......

    uj5u.com 2020-09-10 06:58:52 more
  • Proguard 常用規則

    介紹 Proguard 入口,如何查看輸出,如何使用 keep 設定入口以及使用實體,如何配置壓縮,混淆,校驗等規則。

    ......

    uj5u.com 2020-09-10 06:59:00 more
  • Android 開發技術周報 Issue#292

    新聞 Android即將獲得類AirDrop功能:可向附近設備快速分享檔案 谷歌為安卓檔案管理應用引入可安全隱藏資料的Safe Folder功能 Android TV新主界面將顯示電影、電視節目和應用推薦內容 泄露的Android檔案暗示了傳說中的谷歌Pixel 5a與折疊屏新機 谷歌發布Andro ......

    uj5u.com 2020-09-10 07:00:37 more
  • AutoFitTextureView Error inflating class

    報錯: Binary XML file line #0: Binary XML file line #0: Error inflating class xxx.AutoFitTextureView 解決: <com.example.testy2.AutoFitTextureView android: ......

    uj5u.com 2020-09-10 07:00:41 more
  • 根據Uri,Cursor沒有獲取到對應的屬性

    Android: 背景:呼叫攝像頭,拍攝視頻,指定保存的地址,但是回傳的Cursor檔案,只有名稱和大小的屬性,沒有其他諸如時長,連ID屬性都沒有 使用 cursor.getInt(cursor.getColumnIndexOrThrow(MediaStore.Video.Media.DURATIO ......

    uj5u.com 2020-09-10 07:00:44 more
  • Android連載29-持久化技術

    一、持久化技術 我們平時所使用的APP產生的資料,在記憶體中都是瞬時的,會隨著斷電、關機等丟失資料,因此android系統采用了持久化技術,用于存盤這些“瞬時”資料 持久化技術包括:檔案存盤、SharedPreference存盤以及資料庫存盤,還有更復雜的SD卡記憶體儲。 二、檔案存盤 最基本存盤方式, ......

    uj5u.com 2020-09-10 07:00:47 more
  • Android Camera2Video整合到自己專案里

    背景: Android專案里呼叫攝像頭拍攝視頻,原本使用的 MediaStore.ACTION_VIDEO_CAPTURE, 后來因專案需要,改成了camera2 1.Camera2Video 官方demo有點問題,下載后,不能直接整合到專案 問題1.多次拍攝視頻崩潰 問題2.雙擊record按鈕, ......

    uj5u.com 2020-09-10 07:00:50 more
  • Android 開發技術周報 Issue#293

    新聞 谷歌為Android TV開發者提供多種新功能 Android 11將自動填表功能整合到鍵盤輸入建議中 谷歌宣布Android Auto即將支持更多的導航和數字停車應用 谷歌Pixel 5只有XL版本 搭載驍龍765G且將比Pixel 4更便宜 [圖]Wear OS將迎來重磅更新:應用啟動時間 ......

    uj5u.com 2020-09-10 07:01:38 more
  • 海豚星空掃碼投屏 Android 接收端 SDK 集成 六步驟

    掃碼投屏,開放網路,獨占設備,不需要額外下載軟體,微信掃碼,發現設備。支持標準DLNA協議,支持倍速播放。視頻,音頻,圖片投屏。好點意思。還支持自定義基于 DLNA 擴展的操作動作。好像要收費,沒體驗。 這里簡單記錄一下集成程序。 一 跟目錄的build.gradle添加私有mevan倉庫 mave ......

    uj5u.com 2020-09-10 07:01:43 more
最新发布
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:40:31 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:40:11 more
  • 歡迎頁輪播影片

    如圖,引導開始,球從上落下,同時淡入文字,然后文字開始輪播,最后一頁時停止,點擊進入首頁。 在來看看效果圖。 重力球先不講,主要歡迎輪播簡單實作 首先新建一個類 TextTranslationXGuideView,用于影片展示 文本是類似的,最后會有個圖片箭頭影片,布局很簡單,就是一個 TextVi ......

    uj5u.com 2023-04-20 08:39:36 more
  • 【FAQ】關于華為推送服務因營銷訊息頻次管控導致服務通訊類訊息

    一. 問題描述 使用華為推送服務下發IM訊息時,下發訊息請求成功且code碼為80000000,但是手機總是收不到訊息; 在華為推送自助分析(Beta)平臺查看發現,訊息發送觸發了頻控。 二. 問題原因及背景 2023年1月05日起,華為推送服務對咨詢營銷類訊息做了單個設備每日推送數量上限管理,具體 ......

    uj5u.com 2023-04-20 08:39:13 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:16:23 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:16:15 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:15:46 more
  • iOS從UI記憶體地址到讀取成員變數(oc/swift)

    開發除錯時,我們發現bug時常首先是從UI顯示發現例外,下一步才會去定位UI相關連的資料的。XCode有給我們提供一系列debug工具,但是很多人可能還沒有形成一套穩定的除錯流程,因此本文嘗試解決這個問題,順便提出一個暴論:UI顯示例外問題只需要兩個步驟就能完成定位作業的80%: 定位例外 UI 組 ......

    uj5u.com 2023-04-19 09:14:53 more
  • FIDE重磅更新!性能飛躍!體驗有禮!

    FIDE 開發者工具重構升級啦!實作500%性能提升,誠邀體驗! 一直以來不少開發者朋友在社區反饋,在使用 FIDE 工具的程序中,時常會遇到諸如加載不及時、代碼預覽/渲染性能不如意的情況,十分影響開發體驗。 作為技術團隊,我們深知一件趁手的開發工具對開發者的重要性,因此,在2023年開年,FinC ......

    uj5u.com 2023-04-19 09:14:08 more
  • 游戲內嵌社區服務開放,助力開發者提升玩家互動與留存

    華為 HMS Core 游戲內嵌社區服務提供快速訪問華為游戲中心論壇能力,支持玩家直接在游戲內瀏覽帖子和交流互動,助力開發者擴展內容生產和觸達的場景。 一、為什么要游戲內嵌社區? 二、游戲內嵌社區的典型使用場景 1、游戲內打開論壇 您可以在游戲內繪制論壇入口,為玩家提供沉浸式發帖、瀏覽、點贊、回帖、 ......

    uj5u.com 2023-04-19 09:08:34 more