全部产品
云市场
云游戏

C++ SDK(新)

更新时间:2020-08-26 11:29:48

本文介绍如何使用阿里云智能语音服务提供的C++ SDK,包括SDK的安装方法及SDK代码示例。

说明

  • 当前最新版本:3.0.8。发布日期:2020年1月9日。

    该版本只支持Linux平台,暂不支持Windows平台。

  • 使用SDK前,请先阅读接口说明,详情请参见接口说明

  • 该版本C++ SDK API和上一版本API(已下线)定义有区别,本文以当前版本为例进行介绍。

下载安装

SDK下载:

下载C++ SDK CppSdk,文件包含如下几部分:

  • CMakeLists.txt:示例代码工程的CMakeList文件。
  • readme.txt:SDK说明。
  • release.log:版本说明。
  • version:版本号。

  • build.sh:示例编译脚本。

  • lib:SDK库文件。

  • build:编译目录。

  • demo:示例,语音服务配置文件。如下表所示。

    文件名

    描述

    speechRecognizerDemo.cpp

    一句话识别示例

    speechSynthesizerDemo.cpp

    语音合成示例

    speechTranscriberDemo.cpp

    实时语音识别示例

    speechLongSynthesizerDemo.cpp

    长文本语音合成示例

    test0.wav/test1.wav

    测试音频(16k采样频率、16bit采样位数的音频文件)

  • include:SDK头文件,如下表所示。

    文件名

    描述

    nlsClient.h

    SDK实例

    nlsEvent.h

    回调事件说明

    speechRecognizerRequest.h

    一句话识别

    speechSynthesizerRequest.h

    语音合成/长文本语音合成

    speechTranscriberRequest.h

    实时音频流识别

编译运行:

  1. 安装工具的最低版本要求如下:

    • Cmake 3.1

    • Glibc 2.5

    • Gcc 4.1.2

  2. 在Linux终端运行如下脚本。

    mkdir build
    cd build && cmake .. && make
    cd ../demo  #生成示例可执行程序:srDemo(一句话识别)、stDemo(实时语音识别)、syDemo(语音合成)、syLongDemo(长文本语音合成)。
    ./stDemo <yourAppkey>  <yourAccessKeyId>  <yourAccessKeySecret>  #测试使用。

关键接口

  • 基础接口

    • NlsClient:语音处理客户端,利用该客户端可以进行一句话识别、实时语音识别和语音合成的语音处理任务。该客户端为线程安全,建议全局仅创建一个实例。

    • NlsEvent:事件对象,您可以从中获取Request状态码、云端返回结果、失败信息等。

  • 识别接口

    SpeechRecognizerRequest:一句话识别请求对象,用于短语音识别。

C++ SDK错误码

错误码

错误描述

解决方案

10000001

SSL: couldn’t create a …!

建议重试。

10000002

openssl官方错误描述

根据描述提示处理后,重试。

10000003

系统错误描述

根据系统错误描述提示处理。

10000004

URL: The url is empty.

检查是否设置云端URL地址。

10000005

URL: Could not parse WebSocket url.

检查是否正确设置云端URL地址。

10000006

MODE: unsupport mode.

检查是否正确设置了语音功能模式。

10000007

JSON: Json parse failed.

服务端发送错误响应内容,请提供task_id,并反馈给阿里云。

10000008

WEBSOCKET: unkown head type.

服务端发送错误WebSocket类型,请提供task_id,并通过工单系统反馈给我们。

10000009

HTTP: connect failed.

与云端连接失败,请检查网络后,重试。

HTTP协议官方状态码

HTTP: Got bad status.

根据HTTP协议官方描述提示处理。

系统错误码

IP: ip address is not valid.

根据系统错误描述提示处理。

系统错误码

ENCODE: convert to utf8 error.

根据系统错误描述提示处理。

10000010

please check if the memory is enough.

内存不足,请检查本地机器内存。

10000011

Please check the order of execution.

接口调用顺序错误(接收到Failed/complete事件时,SDK内部会关闭连接。此时再调用send方法会上报错误)。

10000012

StartCommand/StopCommand Send failed.

参数错误。请检查参数设置是否正确。

10000013

The sent data is null or dataSize &amp;lt;= 0.

发送错误。请检查发送参数是否正确。

10000014

Start invoke failed.

调用start方法超时错误。请调用stop方法释放资源,重新开始识别流程。

10000015

connect failed.

调用connect方法失败。请调用stop方法释放资源,重新开始识别流程。

服务端响应状态码

关于服务状态码,请参见服务状态码

代码示例

说明

  • 示例中使用的音频文件为16000Hz采样率,管控台设置的模型为通用模型。如果使用其他音频,请设置为支持该音频场景的模型。关于模型设置,请参见管理项目

  • 示例中使用了SDK内置的默认一句话识别服务的外网访问服务URL,如果您使用阿里云上海ECS且需要使用内网访问URL,则在创建SpeechRecognizerRequest的对象中设置内网访问的URL。

    request->setUrl("ws://nls-gateway.cn-shanghai-internal.aliyuncs.com/ws/v1")

  • 完整示例,参见SDK压缩包中demo目录的speechRecognizerDemo.cpp文件。

#include <string.h>
#include <unistd.h>
#include <pthread.h>
#include <stdlib.h>
#include <ctime>
#include <string>
#include <iostream>
#include <vector>
#include <fstream>
#include <sys/time.h>
#include "nlsClient.h"
#include "nlsEvent.h"
#include "speechRecognizerRequest.h"
#include "nlsCommonSdk/Token.h"
#define FRAME_SIZE 3200
#define SAMPLE_RATE 16000
using namespace AlibabaNlsCommon;
using AlibabaNls::NlsClient;
using AlibabaNls::NlsEvent;
using AlibabaNls::LogDebug;
using AlibabaNls::LogInfo;
using AlibabaNls::LogError;
using AlibabaNls::SpeechRecognizerRequest;
//自定义线程参数。
struct ParamStruct {
      std::string fileName;
      std::string appkey;
      std::string token;
};
//自定义事件回调参数。
struct ParamCallBack {
      int userId;
      char userInfo[8];
};
//全局维护一个服务鉴权token和其对应的有效期时间戳,
//每次调用服务之前,首先判断token是否已经过期。
//如果已经过期,则根据AccessKey ID和AccessKey Secret重新生成一个token,并更新这个全局的token和其有效期时间戳。
//说明:只需在token即将过期时进行重新生成。所有的服务并发可共用一个token。
std::string g_akId = "";
std::string g_akSecret = "";
std::string g_token = "";
long g_expireTime = -1;
struct timeval tv;
struct timeval tv1;
int generateToken(std::string akId, std::string akSecret, std::string* token, long* expireTime) {
      NlsToken nlsTokenRequest;
      nlsTokenRequest.setAccessKeyId(akId);
      nlsTokenRequest.setKeySecret(akSecret);
      if (-1 == nlsTokenRequest.applyNlsToken()) {
            // 获取失败原因。
            printf("generateToken Failed: %s\n", nlsTokenRequest.getErrorMsg());
            return -1;
      }
      *token = nlsTokenRequest.getToken();
      *expireTime = nlsTokenRequest.getExpireTime();
      return 0;
}
//@brief 获取sendAudio发送延时时间。
//@param dataSize 待发送数据大小。
//@param sampleRate 采样率:16k/8K。
//@param compressRate 数据压缩率,例如压缩比为10:1的16k OPUS编码,此时为10,非压缩数据则为1。
//@return 返回sendAudio之后需要sleep的时间。
//@note 对于8k PCM编码数据,16位采样,建议每发送1600字节设置sleep时长100ms。
// 对于16k PCM编码数据,16位采样,建议每发送3200字节设置sleep时长100ms。
// 对于其它编码格式的数据,您可以根据压缩比自行估算。比如压缩比为10:1的16k OPUS编码数据,需要每发送3200/10=320字节设置sleep时长100ms。
unsigned int getSendAudioSleepTime(int dataSize, int sampleRate, int compressRate) {
      // 仅支持16位采样
      const int sampleBytes = 16;
      // 仅支持单通道
      const int soundChannel = 1;
      // 当前采样率,采样位数下每秒采样数据的大小。
      int bytes = (sampleRate * sampleBytes * soundChannel) / 8;
      // 当前采样率,采样位数下每毫秒采样数据的大小。
      int bytesMs = bytes / 1000;
      // 待发送数据大小除以每毫秒采样数据大小,以获取sleep时间。
      int sleepMs = (dataSize * compressRate) / bytesMs;
      return sleepMs;
}
//@brief 调用start(),成功与云端建立连接,sdk内部线程上报started事件。
//@param cbEvent 回调事件结构,详见nlsEvent.h。
//@param cbParam 回调自定义参数,默认为NULL。可以根据需求自定义参数。
void OnRecognitionStarted(NlsEvent* cbEvent, void* cbParam) {
      ParamCallBack* tmpParam = (ParamCallBack*)cbParam;
      // 演示如何打印/使用用户自定义参数。
      printf("OnRecognitionStarted: %d, %s\n", tmpParam->userId, tmpParam->userInfo);
      // 获取消息的状态码,成功为0或者20000000,失败时对应失败的错误码。
      // 当前任务的task id,方便定位问题,作为和服务端交互的唯一标识建议输出。
      printf("OnRecognitionStarted: status code=%d, task id=%s\n", cbEvent->getStatusCode(), cbEvent->getTaskId());
      // 获取服务端返回的全部信息
      //printf("OnRecognitionStarted: all response=%s\n", cbEvent->getAllResponse());
}
//@brief 设置允许返回中间结果参数,SDK在接收到云端返回到中间结果时,内部线程上报ResultChanged事件。
//@param cbEvent 回调事件结构,详情参见nlsEvent.h。
//@param cbParam 回调自定义参数,默认为NULL。可以根据需求自定义参数。
void OnRecognitionResultChanged(NlsEvent* cbEvent, void* cbParam) {
      ParamCallBack* tmpParam = (ParamCallBack*)cbParam;
      // 演示如何打印/使用用户自定义参数。
      printf("OnRecognitionResultChanged: %d, %s\n", tmpParam->userId, tmpParam->userInfo);
      // 当前任务的task id,方便定位问题,作为和服务端交互的唯一标识建议输出。
      printf("OnRecognitionResultChanged: status code=%d, task id=%s, result=%s\n", cbEvent->getStatusCode(), cbEvent->getTaskId(), cbEvent->getResult());
      // 获取服务端返回的全部信息
      //printf("OnRecognitionResultChanged: response=%s\n", cbEvent->getAllResponse());
}
//@brief SDK在接收到云端返回识别结束消息时,其线程上报Completed事件。
//@note 上报Completed事件之后,SDK内部会关闭识别连接通道。此时调用sendAudio会返回-1。请停止发送。
//@param cbEvent 回调事件结构,详情参见nlsEvent.h。
//@param cbParam 回调自定义参数,默认为NULL。可以根据需求自定义参数。
void OnRecognitionCompleted(NlsEvent* cbEvent, void* cbParam) {
      ParamCallBack* tmpParam = (ParamCallBack*)cbParam;
      // 演示如何打印/使用用户自定义参数。
      printf("OnRecognitionCompleted: %d, %s\n", tmpParam->userId, tmpParam->userInfo);
      // 当前任务的task id,方便定位问题,作为和服务端交互的唯一标识建议输出。
      printf("OnRecognitionCompleted: status code=%d, task id=%s, result=%s\n", cbEvent->getStatusCode(), cbEvent->getTaskId(), cbEvent->getResult());
      // 获取服务端返回的全部信息。
      //printf("OnRecognitionCompleted: response=%s\n", cbEvent->getAllResponse());
}
//@brief 识别过程发生异常时,SDK内部线程上报TaskFailed事件。
//@note 上报TaskFailed事件之后,SDK内部会关闭识别连接通道。此时调用sendAudio会返回-1,请停止发送。
//@param cbEvent 回调事件结构,详情参见nlsEvent.h。
//@param cbParam 回调自定义参数,默认为NULL。可以根据需求自定义参数。
//@return
void OnRecognitionTaskFailed(NlsEvent* cbEvent, void* cbParam) {
      ParamCallBack* tmpParam = (ParamCallBack*)cbParam;
      // 演示如何打印/使用用户自定义参数。
      printf("OnRecognitionTaskFailed: %d, %s\n", tmpParam->userId, tmpParam->userInfo);
      // 当前任务的task id,方便定位问题,作为和服务端交互的唯一标识建议输出。
      printf("OnRecognitionTaskFailed: status code=%d, task id=%s, error message=%s\n", cbEvent->getStatusCode(), cbEvent->getTaskId(), cbEvent->getErrorMessage());
      // 获取服务端返回的全部信息。
      //printf("OnRecognitionTaskFailed: response=%s\n", cbEvent->getAllResponse());
}
//@brief 识别结束或发生异常时,SDK会关闭连接通道,其内部线程上报ChannelCloseed事件。
//@param cbEvent 回调事件结构,详见nlsEvent.h。
//@param cbParam 回调自定义参数,默认为NULL。可以根据需求自定义参数。
void OnRecognitionChannelClosed(NlsEvent* cbEvent, void* cbParam) {
      ParamCallBack* tmpParam = (ParamCallBack*)cbParam;
      // 演示如何打印/使用用户自定义参数。
      printf("OnRecognitionChannelClosed: %d, %s\n", tmpParam->userId, tmpParam->userInfo);
      // 获取服务端返回的全部信息。
      printf("OnRecognitionChannelClosed: response=%s\n", cbEvent->getAllResponse());
      delete tmpParam; //识别流程结束,释放回调参数
}
void* pthreadFunction(void* arg) {
      int sleepMs = 0;
      ParamCallBack *cbParam = NULL;
      //初始化自定义回调参数,以下两变量仅作为示例表示参数传递,在示例中不起任何作用。
      //回调参数在堆中分配之后,SDK在销毁request对象时会一并销毁,外界无需再释放。
      cbParam = new ParamCallBack;
      cbParam->userId = rand() % 100;
      strcpy(cbParam->userInfo, "User.");
      // 0:从自定义线程参数中获取token,配置文件等参数。
      ParamStruct *tst = (ParamStruct *) arg;
      if (tst == NULL) {
            printf("arg is not valid\n");
            return NULL;
      }
      // 打开音频文件,获取数据。
      std::ifstream fs;
      fs.open(tst->fileName.c_str(), std::ios::binary | std::ios::in);
      if (!fs) {
            printf("%s isn't exist..\n", tst->fileName.c_str());
            return NULL;
      }
      //1: 创建一句话识别SpeechRecognizerRequest对象。
      SpeechRecognizerRequest *request = NlsClient::getInstance()->createRecognizerRequest();
      if (request == NULL) {
            printf("createRecognizerRequest failed\n");
            return NULL;
      }
      request->setOnRecognitionStarted(OnRecognitionStarted, cbParam);        // 设置start()成功回调函数
      request->setOnTaskFailed(OnRecognitionTaskFailed, cbParam);             // 设置异常识别回调函数
      request->setOnChannelClosed(OnRecognitionChannelClosed, cbParam);       // 设置识别通道关闭回调函数
      request->setOnRecognitionResultChanged(OnRecognitionResultChanged, cbParam); // 设置中间结果回调函数
      request->setOnRecognitionCompleted(OnRecognitionCompleted, cbParam);    // 设置识别结束回调函数
      request->setAppKey(tst->appkey.c_str());        // 设置appKey。必填参数。
      request->setFormat("pcm");                      // 设置音频数据编码格式。可选参数,目前支持PCM/OPUS,默认为PCM。
      request->setSampleRate(SAMPLE_RATE);            // 设置音频数据采样率。可选参数,目前支持16000/8000。默认为16000。
      request->setIntermediateResult(true);           // 设置是否返回中间识别结果。可选参数,默认false。
      request->setPunctuationPrediction(true);        // 设置是否在后处理中添加标点。可选参数,默认false。
      request->setInverseTextNormalization(true);     // 设置是否在后处理中执行ITN。可选参数,默认false。
      //request->setEnableVoiceDetection(true);       //是否启动语音检测。可选,默认为False。
      //允许的最大开始静音。可选,单位是毫秒。超出后服务端将会发送RecognitionCompleted事件,结束本次识别。注意: 需要先设置enable_voice_detection为true。
      //request->setMaxStartSilence(5000);
      //允许的最大结束静音。可选,单位是毫秒。超出后服务端将会发送RecognitionCompleted事件,结束本次识别。注意: 需要先设置enable_voice_detection为true。
      //request->setMaxEndSilence(800);
      //request->setCustomizationId("TestId_123"); //定制语言模型id,可选。
      //request->setVocabularyId("TestId_456"); //定制泛热词id,可选。
      // 用于传递某些定制化、高级参数设置,参数格式为JSON格式:{"key": "value"}。
      //request->setPayloadParam("{\"vad_model\": \"farfield\"}");
      request->setToken(tst->token.c_str()); // 设置账号校验token。必填参数。
      // 2:start()为异步操作。成功返回started事件,失败返回TaskFailed事件。
      if (request->start() < 0) {
            printf("start() failed. may be can not connect server. please check network or firewalld\n");
            NlsClient::getInstance()->releaseRecognizerRequest(request); // start()失败,释放request对象。
            return NULL;
      }
      while (!fs.eof()) {
            uint8_t data[FRAME_SIZE] = {0};
            fs.read((char *) data, sizeof(uint8_t) * FRAME_SIZE);
            size_t nlen = fs.gcount();
            if (nlen <= 0) {
                  continue;
      }
      // 3: 发送音频数据。sendAudio为异步操作,返回-1表示发送失败,需要停止发送。
      int ret = request->sendAudio(data, nlen);
      if (ret < 0) {
            // 发送失败,退出循环数据发送。
            printf("send data fail.\n");
            break;
      }
      // 语音数据发送控制:
      // 语音数据是实时的,不用sleep控制速率,直接发送即可。
      // 语音数据来自文件(也即本示例代码模拟的语音流发送机制),发送时需要控制速率,使单位时间内发送的数据大小接近单位时间原始语音数据存储的大小。
      sleepMs = getSendAudioSleepTime(nlen, SAMPLE_RATE, 1); // 根据发送数据大小、采样率、数据压缩比来获取sleep时间。
      // 4: 语音数据发送延时控制
      usleep(sleepMs * 1000);
    }
      printf("sendAudio done.\n");
      //5: 关闭音频文件
      fs.close();
      //6: 通知云端数据发送结束
      //stop()为异步操作。失败返回TaskFailed事件。
      request->stop();
      //7: 通知SDK释放request。
      NlsClient::getInstance()->releaseRecognizerRequest(request);
      return NULL;
}
//线程循环识别
//需要调整count值和每次要识别的文件,示例中默认每次识别一个文件。
void* multiRecognize(void* arg) {
      int count = 2;
      while (count > 0) {
            pthreadFunction(arg);
            count--;
      }
      return NULL;
}
// 识别单个音频数据
int speechRecognizerFile(const char* appkey) {
      //获取当前系统时间戳,判断token是否过期。
      std::time_t curTime = std::time(0);
      if (g_expireTime - curTime < 10) {
            printf("the token will be expired, please generate new token by AccessKey-ID and AccessKey-Secret.\n");
            if (-1 == generateToken(g_akId, g_akSecret, &g_token, &g_expireTime)) {
                  return -1;
            }
      }
      ParamStruct pa;
      pa.token = g_token;
      pa.appkey = appkey;
      pa.fileName = "test0.wav";
      pthread_t pthreadId;
      // 启动一个工作线程,用于单次识别。
      pthread_create(&pthreadId, NULL, &pthreadFunction, (void *)&pa);
      // 启动一个工作线程,用于循环识别。
      // pthread_create(&pthreadId, NULL, &multiRecognize, (void *)&pa);
      pthread_join(pthreadId, NULL);
      return 0;
}
 //识别多个音频数据
 //SDK多线程指一个音频数据源对应一个线程,非一个音频数据对应多个线程。
 //示例代码为同时开启2个线程识别2个文件。
 //免费用户并发连接不能超过2个。
#define AUDIO_FILE_NUMS 2
#define AUDIO_FILE_NAME_LENGTH 32
int speechRecognizerMultFile(const char* appkey) {
      //获取当前系统时间戳判断token是否过期。
      std::time_t curTime = std::time(0);
      if (g_expireTime - curTime < 10) {
      printf("the token will be expired, please generate new token by AccessKey-ID and AccessKey-Secret.\n");
            if (-1 == generateToken(g_akId, g_akSecret, &g_token, &g_expireTime)) {
                  return -1;
            }
      }
      char audioFileNames[AUDIO_FILE_NUMS][AUDIO_FILE_NAME_LENGTH] = {"test0.wav", "test1.wav"};
      ParamStruct pa[AUDIO_FILE_NUMS];
      for (int i = 0; i < AUDIO_FILE_NUMS; i ++) {
            pa[i].token = g_token;
            pa[i].appkey = appkey;
            pa[i].fileName = audioFileNames[i];
      }
      std::vector<pthread_t> pthreadId(AUDIO_FILE_NUMS);
      // 启动2个工作线程,同时识别2个音频文件。
      for (int j = 0; j < AUDIO_FILE_NUMS; j++) {
            pthread_create(&pthreadId[j], NULL, &pthreadFunction, (void *)&(pa[j]));
      }
      for (int j = 0; j < AUDIO_FILE_NUMS; j++) {
            pthread_join(pthreadId[j], NULL);
      }
      return 0;
}
int main(int arc, char* argv[]) {
      if (arc < 4) {
            printf("params is not valid. Usage: ./demo <your appkey> <your AccessKey ID> <your AccessKey Secret>\n");
            return -1;
      }
      std::string appkey = argv[1];
      g_akId = argv[2];
      g_akSecret = argv[3];
      // 根据需要设置SDK输出日志。可选,此处表示SDK日志输出至log-recognizer.txt。LogDebug表示输出所有级别日志,支持LogInfo、LogWarning、LogError。400表示单个文件400MB。
      int ret = NlsClient::getInstance()->setLogConfig("log-recognizer", LogDebug, 400);
      if (-1 == ret) {
            printf("set log failed.\n");
            return -1;
      }
      //启动工作线程
      NlsClient::getInstance()->startWorkThread(4);
      // 识别单个音频数据
      speechRecognizerFile(appkey.c_str());
      // 并发识别多个音频数据
      //speechRecognizerMultFile(appkey.c_str());
      // 所有工作完成,进程退出前,释放nlsClient。请注意releaseInstance()非线程安全。
      NlsClient::releaseInstance();
      return 0;
}