iOS 集成WebRTC相关知识点总结

前言

本文主要是整理了使用WebRTC做音视频通讯时的各知识点及问题点。有理解不足和不到位的地方也欢迎指正。对于你感兴趣的部分可以选择性观看。

WebRTC的初始化

在使用WebRTC的库之前，需要对WebRTC进行初始化，用到的代码如下：

RTCInitializeSSL();

转定义后可以看到方法的声明：

/**

 * Initialize and clean up the SSL library. Failure is fatal. These call the

 * corresponding functions in webrtc/rtc_base/ssladapter.h.

 */

RTC_EXTERN BOOL RTCInitializeSSL(void);

RTC_EXTERN BOOL RTCCleanupSSL(void);

Initialize and clean up the SSL library. Failure is fatal. 初始化SSL库，失败是致命的。

函数返回的是一个布尔类型，表示初始化的结果。如果失败，则不能继续使用其他特性。这是使用WebRTC的前提

PeerConnection工厂的创建

在 WebRTC Native 层，factory 可以说是 “万物的根源”，像 RTCVideoSource、RTCVideoTrack、RTCPeerConnection这些类型的对象，都需要通过 factory 来创建

[RTCPeerConnectionFactory initialize];

//如果点对点工厂为空

if (!factory)

{

    RTCDefaultVideoDecoderFactory* decoderFactory = [[RTCDefaultVideoDecoderFactory alloc] init];

    RTCDefaultVideoEncoderFactory* encoderFactory = [[RTCDefaultVideoEncoderFactory alloc] init];

    NSArray* codecs = [encoderFactory supportedCodecs];

    [encoderFactory setPreferredCodec:codecs[2]];

    factory = [[RTCPeerConnectionFactory alloc] initWithEncoderFactory: encoderFactory

                                                        decoderFactory: decoderFactory];

}

首先要调用 RTCPeerConnectionFactory 类的 initialize 方法进行初始化；

然后创建 factory 对象。需要注意的是，在创建 factory 对象时，传入了两个参数：一个是默认的编码器；一个是默认的解码器。我们可以通过修改这两个参数来达到使用不同编解码器的目的。

获取本地视频流

在获取视频之前，我们首先要选择使用哪个视频设备采集数据。在WebRTC中，我们可以通过RTCCameraVideoCapture类获取所有的视频设备。如下所示：

NSArray<AVCaptureDevice*>* devices = [RTCCameraVideoCapture captureDevices];

AVCaptureDevice* device = devices[0];

通过上面两行代码，我们就拿到了视频设备中的第一个设备。当然，光有设备还不行。我们还要清楚从设备中采集的数据放到哪里了，这样我们才能将其展示出来。WebRTC 为我们提供了一个专门的类，即 RTCVideoSource , 它有两层含义：

一是表明它是一个视频源。当我们要展示视频的时候，就从这里获取数据；
另一方面，它也是一个终点。即，当我们从视频设备采集到视频数据时，要交给它暂存起来。

RTCVideoSource* videoSource = [factory videoSource];

除此之外，为了能更方便的控制视频设备，WebRTC 提供了一个专门用于操作设备的类，即 RTCCameraVideoCapture。通过它，我们就可以自如的控制视频设备了。

RTCVideoSource* videoSource = [factory videoSource];

capture = [[RTCCameraVideoCapturer alloc] initWithDelegate:videoSource];

[capture startCaptureWithDevice:device

                             format:format

                                fps:fps];

现在已经可以通过RTCCameraVideoCapture类控制视频设备来采集视频了，那如何获取采集的视频流呢？上面的代码我们已经将视频采集到视频源RTCVideoSource了, 那RTCVideoSource就是我们的视频流吗？显然不是。这里要提到的是WebRTC三大对象中的其中一个对象RTCMediaStream ，它才是我们说的视频流。那它和RTCVideoSource之间是什么关系呢，之间是如何建立关联的呢？

//创建本地流

_localStream = [_factory mediaStreamWithStreamId:@"ARDAMS"];

//获取数据源

_localVideoSource = [_factory videoSource];

//音频

RTCAudioTrack * audioTrack = [_factory audioTrackWithTrackId:@"ARDAMSa0"];

//视频

RTCVideoTrack *videoTrack = [_factory videoTrackWithSource:_localVideoSource trackId:@"ARDAMSv0"];

//将audioTrack、videoTrack添加到流

[_localStream addAudioTrack:audioTrack];

[_localStream addVideoTrack:videoTrack];

//拿到capture对象

RTCCameraVideoCapturer * capture = [[RTCCameraVideoCapturer alloc] initWithDelegate:_localVideoSource];

原来是通过一个中间对象RTCVideoTrack 建立的关联。

RTCCameraVideoCapturer 将采集的视频数据交给RTCVideoSource

通过RTCVideoSource创建 RTCVideoTrack

RTCMediaStream 添加视频轨 videoTrack。

获取本地流完整的代码如下：

if (!_localStream) {

        NSArray<AVCaptureDevice *> *captureDevices = [RTCCameraVideoCapturer captureDevices];

        AVCaptureDevice * device = captureDevices[0];

        //检测摄像头权限

        AVAuthorizationStatus authStatus = [AVCaptureDevice authorizationStatusForMediaType:AVMediaTypeVideo];

        if(authStatus == AVAuthorizationStatusRestricted || authStatus == AVAuthorizationStatusDenied)

        {

            NSLog(@"相机访问受限");

            //TODO:

            if ([self.delegate respondsToSelector:@selector(webRTCClient:setLocalStream:)]) {

                [self.delegate webRTCClient:self setLocalStream:nil];

            }

        } else {

            if (device) {

                //创建本地流

                _localStream = [_factory mediaStreamWithStreamId:@"ARDAMS"];

                //获取数据源

                _localVideoSource = [_factory videoSource];

                //音频

                RTCAudioTrack * audioTrack = [_factory audioTrackWithTrackId:@"ARDAMSa0"];

                //视频

                RTCVideoTrack *videoTrack = [_factory videoTrackWithSource:_localVideoSource trackId:@"ARDAMSv0"];

                //将audioTrack、videoTrack添加到流

                [_localStream addAudioTrack:audioTrack];

                [_localStream addVideoTrack:videoTrack];

                //拿到capture对象

                RTCCameraVideoCapturer * capture = [[RTCCameraVideoCapturer alloc] initWithDelegate:_localVideoSource];

                //format , fps

                AVCaptureDeviceFormat * format = [[RTCCameraVideoCapturer supportedFormatsForDevice:device] lastObject];

                CGFloat fps = [[format videoSupportedFrameRateRanges] firstObject].maxFrameRate;

                //开始采集

                _videoCapture = capture;

                [capture startCaptureWithDevice:device format:format fps:fps completionHandler:^(NSError * error) {

                    NSLog(@"startCaptureWithDevice---：%@",error);

                    dispatch_async(dispatch_get_main_queue(), ^{

                        //展示预览

                        if ([self.delegate respondsToSelector:@selector(webRTCClient:setLocalStream:)]) {

                            [self.delegate webRTCClient:self setLocalStream:self.localStream];

                        }

                    });

                }];

            }

            else

            {

                NSLog(@"该设备不能打开摄像头");

                if ([self.delegate respondsToSelector:@selector(webRTCClient:setLocalStream:)]) {

                    [self.delegate webRTCClient:self setLocalStream:nil];

                }

            } //end device

        }//end auth

    }

PeerConnection对象的创建

RTCPeerConnection是WebRTC用于构建点对点之间稳定、高效的流传输的组件，是WebRTC三大核心组件之一。使用它我们可以建立一条与远端通话的音视频数据传输通道。

上面提到了PeerConnection工厂 RTCPeerConnectionFactory， RTCPeerConnection 的实例就是通过此工厂来创建.

if (!ICEServers) {

    ICEServers = [NSMutableArray array];

    [ICEServers addObject:[self defaultSTUNServer]];

}

RTCConfiguration* configuration = [[RTCConfiguration alloc] init];

[configuration setIceServers:ICEServers];

RTCPeerConnection* conn = [factory

                                 peerConnectionWithConfiguration:configuration

                                                     constraints:[self defaultPeerConnContraints]

                                                        delegate:self];

- (RTCMediaConstraints *)defaultPeerConnContraints

{

    RTCMediaConstraints *constraints = [[RTCMediaConstraints alloc] initWithMandatoryConstraints:@{kRTCMediaConstraintsOfferToReceiveAudio:kRTCMediaConstraintsValueTrue,kRTCMediaConstraintsOfferToReceiveVideo:kRTCMediaConstraintsValueTrue} optionalConstraints:nil];

    return constraints;

}

对于 iOS 的 RTCPeerConnection 对象有三个参数：

第一个，是 RTCConfiguration 类型的对象，该对象中最重要的一个字段是 iceservers。它里边存放了 stun/turn服务器地址。其主要作用是用于NAT穿越。
第二个参数，是 RTCMediaConstraints 类型对象，也就是对 RTCPeerConnection 的限制。如，是否接收视频数据？是否接收音频数据？如果要与浏览器互通还要开启 DtlsSrtpKeyAgreement 选项。
第三个参数，是委托类型。相当于给 RTCPeerConnection 设置一个观察者。这样RTCPeerConnection 可以将一个状态/信息通过它通知给观察者。但它并不属于观察者模式，这一点大家一定要清楚。