[人工智能]显示与字符叠加详解

1、说明
文章详细叙述了海康摄像头的两种实时显示方法——基于SDK 解码显示和基于数据流回调显示，并且讲述了这在两种显示方法下如何往画面添加字符和图像，最后比较了这两种方法的优劣。文章全程给以详细的程序说明，供各位开发者参考。

2 实时预览
2.1 实时预览模块流程
?
图中虚线框部分的模块不是必须部分，是与预览模块相关，必须在启动预览后才能调用，这些模块之间是并列的关系，各自完成相应的功能。

2.2 SDK 解码显示
在预览接口 NET_DVR_RealPlay_V40 中预览参数的播放窗口句柄赋成有效句柄，则由 SDK 实现解码功能。在初始化 SDK 和注册设备两步骤后，直接调用启动预览和停止预览接口。?
SDK 直接解码显示代码：

#include <stdio.h>
#include <iostream>
#include “Windows.h”
#include “HCNetSDK.h”
#include <time.h>
using namespace std;
typedef HWND (WINAPI *PROCGETCONSOLEWINDOW)();
PROCGETCONSOLEWINDOW GetConsoleWindow;
void CALLBACK g_ExceptionCallBack(DWORD dwType, LONG lUserID, LONG lHandle, void *pUser)
{
    char tempbuf[256] = {0};
    switch(dwType)
    {
        case EXCEPTION_RECONNECT: //预览时重连
        printf(“----------reconnect--------%d\n”, time(NULL));
        break;
        default:
        break;
    }
}
void main() {
//---------------------------------------
    //初始化
    NET_DVR_Init();
    //设置连接时间与重连时间
    NET_DVR_SetConnectTime(2000, 1);
    NET_DVR_SetReconnect(10000, true);
    //---------------------------------------

    //---------------------------------------
    // 注册设备
    LONG lUserID;
    NET_DVR_DEVICEINFO_V30 struDeviceInfo;
    lUserID = NET_DVR_Login_V30(“192.0.0.64”, 8000, “admin”, “12345”, &struDeviceInfo);
    if (lUserID < 0)
    {
        printf(“Login error, %d\n”, NET_DVR_GetLastError());
        NET_DVR_Cleanup();
        return;
    }
    //---------------------------------------
    //设置异常消息回调函数
    NET_DVR_SetExceptionCallBack_V30(0, NULL,g_ExceptionCallBack, NULL);
    //---------------------------------------
    //启动预览并设置回调数据流
    LONG lRealPlayHandle;
    HWND hWnd = GetDlgItem(hWnd, IDC_PIC); //获取MFC的pic控件句柄
    NET_DVR_PREVIEWINFO struPlayInfo = {0};
    struPlayInfo.hPlayWnd = hWnd; //需要 SDK 解码时句柄设为有效值，仅取流不解码时可设为空
    struPlayInfo.lChannel = 1; //预览通道号
    struPlayInfo.dwStreamType = 0; //0-主码流， 1-子码流， 2-码流 3， 3-码流 4，以此类推
    struPlayInfo.dwLinkMode = 0; //0- TCP 方式， 1- UDP 方式， 2- 多播方式， 3- RTP 方式， 4-RTP/RTSP， 5-RSTP/HTTP
    struPlayInfo.bBlocked = 1; //0- 非阻塞取流， 1- 阻塞取流
    lRealPlayHandle = NET_DVR_RealPlay_V40(lUserID, &struPlayInfo, NULL, NULL);
    if (lRealPlayHandle < 0)
    {
        printf(“NET_DVR_RealPlay_V40 error\n”);
        NET_DVR_Logout(lUserID);
        NET_DVR_Cleanup();
        return;
    }
    Sleep(10000);
    //---------------------------------------
    //关闭预览
    NET_DVR_StopRealPlay(lRealPlayHandle);
    //注销用户
    NET_DVR_Logout(lUserID);
    //释放 SDK 资源
    NET_DVR_Cleanup();
    return;
}

2.3 实时流数据回调显示
实时流数据回调，用户需要在回调函数中自行处理码流数据。用户可以通过设置预览接口 NET_DVR_RealPlay_V40 中预览参数的播放窗口句柄为空值，并通过调用捕获数据的接口（即设置NET_DVR_RealPlay_V40 接口中的回调函数或调用NET_DVR_SetRealDataCallBack、NET_DVR_SetStandardDataCallBack 接口），获取码流数据进行后续解码播放处理。?
实时流数据回调代码：

#include <stdio.h>
#include <iostream>
#include “Windows.h”
#include “HCNetSDK.h”
#include “plaympeg4.h”
#include <time.h>
using namespace std;
typedef HWND (WINAPI *PROCGETCONSOLEWINDOW)();
PROCGETCONSOLEWINDOW GetConsoleWindow;
LONG lPort; //全局的播放库 port 号

HANDLE MainVectorhMutex; // 主互斥量
vector<IplImage*> MainImageVector; // 主视频图片容器

void yv12toYUV(char *outYuv, char *inYv12, int width, int height, int widthStep)
{
    int col, row;
    unsigned int Y, U, V;
    int tmp;
    int idx;

    for (row = 0; row < height; row++)
    {
        idx = row * widthStep;
        int rowptr = row*width;

        for (col = 0; col < width; col++)
        {
            tmp = (row / 2)*(width / 2) + (col / 2);
            Y = (unsigned int)inYv12[row*width + col];
            U = (unsigned int)inYv12[width*height + width*height / 4 + tmp];
            V = (unsigned int)inYv12[width*height + tmp];
            outYuv[idx + col * 3] = Y;
            outYuv[idx + col * 3 + 1] = U;
            outYuv[idx + col * 3 + 2] = V;
        }
    }
}
// 主解码回调 视频为YUV数据(YV12)，音频为PCM数据  
void CALLBACK DecCBFunMain(long nPort, char * pBuf, long nSize, FRAME_INFO * pFrameInfo, long nReserved1, long nReserved2)
{
    long lFrameType = pFrameInfo->nType;

    if (lFrameType == T_YV12)
    {
#if USECOLOR  
        IplImage* pImgYCrCb = cvCreateImage(cvSize(pFrameInfo->nWidth, pFrameInfo->nHeight), 8, 3);//得到图像的Y分量    
        yv12toYUV(pImgYCrCb->imageData, pBuf, pFrameInfo->nWidth, pFrameInfo->nHeight, pImgYCrCb->widthStep);//得到全部RGB图像  
        IplImage* pImg = cvCreateImage(cvSize(pFrameInfo->nWidth, pFrameInfo->nHeight), 8, 3);
        cvCvtColor(pImgYCrCb, pImg, CV_YCrCb2RGB);
#else  
        IplImage* pImg = cvCreateImage(cvSize(pFrameInfo->nWidth, pFrameInfo->nHeight), 8, 1);
        memcpy(pImg->imageData, pBuf, pFrameInfo->nWidth*pFrameInfo->nHeight);
#endif  

        // 将图像保存到容器中
        // 获取互斥量
        WaitForSingleObject(MainVectorhMutex, INFINITE);
        // 存入容器
        MainImageVector.push_back(pImg);
        // 容器容量大于5，则丢掉尾帧，以免造成延时
        if (MainImageVector.size() > 5)
        {
            // 删除保存的最后一帧
            //IplImage *data = *(MainImageVector.end() - 1);
            //MainImageVector.erase(MainImageVector.end() - 1);
            IplImage *data = *MainImageVector.begin();
            MainImageVector.erase(MainImageVector.begin());
            // 释放
            cvReleaseImage(&data);
        }
        // 释放互斥量
        ReleaseMutex(MainVectorhMutex);

#if USECOLOR  
        cvReleaseImage(&pImgYCrCb);
        // 由于将图像指针保存在容器中，此处不能释放
        // cvReleaseImage(&pImg); 
#else  
        // cvReleaseImage(&pImg);
#endif
    }
}
// 主实时流回调  
void CALLBACK fRealDataCallBackMain(LONG lRealHandle, DWORD dwDataType, BYTE *pBuffer, DWORD dwBufSize, void *pUser)
{
    DWORD dRet;
    switch (dwDataType)
    {
    case NET_DVR_SYSHEAD:    //系统头  
        if (!PlayM4_GetPort(&nPort)) //获取播放库未使用的通道号  
        {
            break;
        }
        if (dwBufSize > 0)
        {
            if (!PlayM4_OpenStream(nPort, pBuffer, dwBufSize, 1024 * 1024))
            {
                dRet = PlayM4_GetLastError(nPort);
                break;
            }
            //设置解码回调函数 只解码不显示 ，设置回调函数DecCBFunMain 
            if (!PlayM4_SetDecCallBack(nPort, DecCBFunMain))
            {
                dRet = PlayM4_GetLastError(nPort);
                break;
            }

            //打开视频解码  
            if (!PlayM4_Play(nPort, hWnd))
            {
                dRet = PlayM4_GetLastError(nPort);
                break;
            }

        }
        break;

    case NET_DVR_STREAMDATA:   //码流数据  
        if (dwBufSize > 0 && nPort != -1)
        {
            BOOL inData = PlayM4_InputData(nPort, pBuffer, dwBufSize);
            while (!inData)
            {
                Sleep(10);
                inData = PlayM4_InputData(nPort, pBuffer, dwBufSize);
                OutputDebugString(L"PlayM4_InputData failed \n");
            }
        }
        break;
    }
}
void CALLBACK g_ExceptionCallBack(DWORD dwType, LONG lUserID, LONG lHandle, void *pUser)
{
    char tempbuf[256] = {0};
    switch(dwType)
    {
        case EXCEPTION_RECONNECT: //预览时重连
        printf(“----------reconnect--------%d\n”, time(NULL));
        break;
        default:
        break;
    }
}

// 主线程显示图像
UINT ThreadProc_MainPlay(LPVOID lParam)
{
    // TODO:  在此添加控件通知处理程序代码
    while (1)
    {

        while (MainImageVector.size() <= 0)
        {
            Sleep(20);
            continue;
        }
        // 获取互斥量
        WaitForSingleObject(MainVectorhMutex, INFINITE);
        // 获取头一帧
        IplImage *pImg;
        if (MainImageVector.size() > 0)
        {
            pImg = *(MainImageVector.begin());
        }
        else
        {
            return 0;
        }
        // 删除头一帧
        MainImageVector.erase(MainImageVector.begin());
        // 释放互斥量
        ReleaseMutex(MainVectorhMutex);

        // 显示监控画面
        hWnd = AfxGetApp()->GetMainWnd()->GetSafeHwnd();
        HDC hDC = GetDC(GetDlgItem(hWnd, IDC_PIC));
        CRect rect;
        GetClientRect(GetDlgItem(hWnd, IDC_PIC), &rect);
        CvvImage cvvimg;
        cvvimg.CopyOf(pImg);
        cvvimg.DrawToHDC(hDC, &rect);
        // 释放图像
        cvReleaseImage(&pImg);
    }
    return 0;
}
void main() {
    //---------------------------------------
    // 初始化
    NET_DVR_Init();
    //设置连接时间与重连时间
    NET_DVR_SetConnectTime(2000, 1);
    NET_DVR_SetReconnect(10000, true);
    //---------------------------------------

    //---------------------------------------
    // 注册设备
    LONG lUserID;
    NET_DVR_DEVICEINFO_V30 struDeviceInfo;
    lUserID = NET_DVR_Login_V30(“172.0.0.100”, 8000, “admin”, “12345”, &struDeviceInfo);
    if (lUserID < 0)
    {
        printf(“Login error, %d\n”, NET_DVR_GetLastError());
        NET_DVR_Cleanup();
        return;
    }
    //---------------------------------------
    //设置异常消息回调函数
    NET_DVR_SetExceptionCallBack_V30(0, NULL,g_ExceptionCallBack, NULL);
    //---------------------------------------
    //启动预览并设置回调数据流
    LONG lRealPlayHandle;
    NET_DVR_PREVIEWINFO struPlayInfo = { 0 };
    struPlayInfo.hPlayWnd =  GetDlgItem(hWnd, IDC_PIC); //需要 SDK 解码时句柄设为有效值，仅取流不解码时可设为空
    struPlayInfo.lChannel = 1; //预览通道号
    struPlayInfo.dwStreamType = 0; //0-主码流， 1-子码流， 2-码流 3， 3-码流 4，以此类推
    struPlayInfo.dwLinkMode = 1; //0- TCP 方式， 1- UDP 方式， 2- 多播方式， 3- RTP 方式， 4-RTP/RTSP， 5-RSTP/HTTP
    struPlayInfo.bBlocked = 0; //0- 非阻塞取流， 1- 阻塞取流
    lRealPlayHandle = NET_DVR_RealPlay_V40(lUserID, &struPlayInfo, fRealDataCallBackMain, NULL);
    if (lRealPlayHandle < 0)
    {
        AfxMessageBox(_T("获取失败"));
    }

    ProcThread_MainPlay = AfxBeginThread(ThreadProc_MainPlay, this, THREAD_PRIORITY_NORMAL);  //开启视频显示线程
    Sleep(10000);
    //---------------------------------------
    //关闭预览
    NET_DVR_StopRealPlay(lRealPlayHandle);
    //注销用户
    NET_DVR_Logout(lUserID);
    NET_DVR_Cleanup();
    return;
}

程序主要思路是，从视频流中解码出图像数据pImg，然后存入图像容器MainImageVector中。在显示线程ThreadProc_MainPlay中再从图像容器MainImageVector中读取出图像数据，往MFC图片控件中显示；为了防止读写冲突，需要设立一读写互斥量MainVectorhMutex来保护MainImageVector。

3 图像字符叠加
很多时候，我们不仅要实时显示监控画面，还想在画面上显示一些字符、图像信息，比如在进行行人识别、跟踪时，我们往往需要在画面上框出目标，因此图像字符有很大的应用。

3.1 基于实时流数据的字符叠加
基于实时流数据回调显示方法的字符叠加方法比较简单，直接在显示前往图像中绘制字符、图像即可（用opencv实现），即：

// 主线程显示图像
UINT ThreadProc_MainPlay(LPVOID lParam)
{
    // TODO:  在此添加控件通知处理程序代码
    while (1)
    {

        while (MainImageVector.size() <= 0)
        {
            Sleep(20);
            continue;
        }
        // 获取互斥量
        WaitForSingleObject(MainVectorhMutex, INFINITE);
        // 获取头一帧
        IplImage *pImg;
        if (MainImageVector.size() > 0)
        {
            pImg = *(MainImageVector.begin());
        }
        else
        {
            return 0;
        }
        // 删除头一帧
        MainImageVector.erase(MainImageVector.begin());
        // 释放互斥量
        ReleaseMutex(MainVectorhMutex);

        // 在左上角绘制一60*60的黄色正方形框
        cv::rectangle(Mat(pImg), CvRect(0,0,60,60), CV_RGB(255, 255, 0), 4, 8);

        // 显示监控画面
        hWnd = AfxGetApp()->GetMainWnd()->GetSafeHwnd();
        HDC hDC = GetDC(GetDlgItem(hWnd, IDC_PIC));
        CRect rect;
        GetClientRect(GetDlgItem(hWnd, IDC_PIC), &rect);
        CvvImage cvvimg;
        cvvimg.CopyOf(pImg);
        cvvimg.DrawToHDC(hDC, &rect);
        // 释放图像
        cvReleaseImage(&pImg);
    }
    return 0;
}

3.2 基于SDK解码的字符叠加
而基于SDK解码的方式，由于我没有直接操作图像，所以不能往图像上绘制东西。实际海康开发人员早就意识到了这一点，在SDK中留有叠加字符图像接口 NET_DVR_RigisterDrawFun。该接口主要完成注册回调函数，获得当前表面的设备上下文(Device Context，DC) 。用户可以在这个 DC 上画图或写字，就好像在窗口的客户区 DC 上绘图，但这个 DC 不是窗口客户区的 DC，而是播放器 DirectDraw里的 Off-Screen 表面的 DC。?
我们在NET_DVR_RealPlay_V40函数后面添实现NET_DVR_RigisterDrawFun接口即可：
?

void main() {
    //---------------------------------------
    // 初始化
    NET_DVR_Init();
    ...
    lRealPlayHandle = NET_DVR_RealPlay_V40(lUserID, &struPlayInfo, fRealDataCallBackMain, NULL);
    if (lRealPlayHandle < 0)
    {
        AfxMessageBox(_T("获取失败"));
    }
    //注册绘制回调函数
    if (!NET_DVR_RigisterDrawFun(lRealPlayHandle, fDrawFun, NULL))  
    {
        AfxMessageBox(_T("绘图失败"));
    }
    ...
}
// 绘图回调函数
void CALLBACK fDrawFun(LONG lRealHandle, HDC hDc, DWORD dwUser)
{
    CDC dc;
    dc.Attach(hDc);
    CPen pen;    //生成画笔，黄色
    pen.CreatePen(PS_SOLID, 2, RGB(255, 255, 0));
    CPen* pOldPen = (CPen*)dc->SelectObject(&pen);
    dc->SelectStockObject(NULL_BRUSH);//选入空刷子
    dc->Rectangle(CRect(0, 0, 60, 60));  //在左上角绘制一60*60的黄色正方形框
}

4 总结
在我们的实验过程中，发现基于数据流回调的方法由于需要用户自行解码、绘制、显示，会占用电脑太多CPU，造成很严重的卡帧，并且由于读取不及时，造成显示延后，不顺畅等问题。而基于SDK解码的方式，毕竟这是人家公司提供的开发包，优化做得非常好，显示得非常顺畅和及时，所以建议大家用ＳＤＫ解码的方式。

经过测试，终于知道基于数据流的方法延迟问题出现在哪里了，其实因为用的是debug版本，把项目改成release版本就流畅好多了。

参考资料
1、海康摄像头 设备(IPC)网络 SDK 编程指南：http://www.hikvision.com/cn/download_more_570.html?
2、OpenCV+海康威视摄像头的实时读取：http://blog.csdn.net/lonelyrains/article/details/50350052
————————————————