设置实例并发度

背景信息

函数计算按实例占用时长计费。假设访问数据库需要10秒，那么当并发的3个请求分别在3个实例内被处理后，3个实例总的执行时长是30秒。如果能让这3个请求在同一个实例内并发处理，这样实例的占用时间为10秒。为了帮助您节省实例资源费用，函数计算支持单实例多并发功能，允许您为函数设置实例并发度InstanceConcurrency，即单个函数实例可以同时处理多个请求。单实例并发和多实例并发的区别如下图所示。

应用场景

单实例多并发功能适用于函数中有较多时间在等待下游服务响应的场景。等待响应一般不消耗资源，在一个实例内并发处理可以节省费用。

优势

• 减少执行时长，节省费用。

  例如，偏I/O的函数可以在一个实例内并发处理，减少实例数从而减少总的执行时长。

• 请求之间状态可共享。

  多个请求可以在一个实例内共用数据库连接池，从而减少和数据库之间的连接数。

• 降低冷启动概率。

  由于多个请求可以在一个实例内处理，创建新实例的次数会变少，冷启动概率降低。

• 减少VPC IP地址的占用。

  在相同负载下，单实例多并发可以降低总的实例数，从而减少VPC IP地址的占用。

  重要

  您的VPC绑定的vSwitch中至少需要两个可用的IP地址，否则可能会导致服务不可用造成请求失败。

设置单实例多并发的影响

设置了单实例多并发（InstanceConcurrency>1）之后，与单实例单并发（InstanceConcurrency=1）有以下几个方面的区别：

计费

• 单实例单并发

  函数实例在同一时间只能处理1个请求，1个请求处理完了再处理下一个请求。计费时长从处理第一个请求开始，到最后一个请求结束为止。

  

• 单实例多并发

  多个请求在一个实例并发处理时，以实例的实际占用时间作为计费的执行时长，即从第一个请求开始，到最后一个请求结束期间的时长。

  

更多计费详情，请参见计费概述。

并发度流控

函数计算在一个地域中按量实例数的上限默认值为300，一个地域可以同时处理的最大请求数为“300×InstanceConcurrency”。例如，设置InstanceConcurrency=10时，则一个地域最多允许同时处理3000个并发请求。当并发请求数超过函数计算可以处理的最大请求数时，会收到流控错误提示ResourceExhausted。

日志

• 在单并发模式下，在调用函数时指定HTTP头X-Fc-Log-Type: Tail，函数计算会在响应头X-Fc-Log-Result中包含本次调用所产生的函数日志。在多并发模式下，由于多个请求并发执行，无法获取某个特定请求的日志，响应头中不再包含本次调用的函数日志。

• 针对Node.js Runtime，原来的日志方式是使用console.info()函数，该方式会把当前请求的Request ID包含在日志内容中。当多请求在同一个实例并发处理时，当前请求可能有很多个，继续使用console.info()打印日志会导致Request ID错乱，Request ID都会变成req 2。打印日志示例如下。

  2019-11-06T14:23:37.587Z req1 [info] logger begin
  2019-11-06T14:23:37.587Z req1 [info] ctxlogger begin
  2019-11-06T14:23:37.587Z req2 [info] logger begin
  2019-11-06T14:23:37.587Z req2 [info] ctxlogger begin
  2019-11-06T14:23:40.587Z req1 [info] ctxlogger end
  2019-11-06T14:23:40.587Z req2 [info] ctxlogger end
  2019-11-06T14:23:37.587Z req2 [info] logger end
  2019-11-06T14:23:37.587Z req2 [info] logger end                    

  此时应该使用context.logger.info()函数打印日志，该方式仍保留了请求的独立Request ID。代码示例如下。

  exports.handler = (event, context, callback) => {
      console.info('logger begin');
      context.logger.info('ctxlogger begin');
  
      setTimeout(function() {
          context.logger.info('ctxlogger end');
          console.info('logger end');
          callback(null, 'hello world');
      }, 3000);
  };                   

错误处理

多个请求在一个实例并发处理时，由于一个请求处理不当导致进程退出或者崩溃，会导致正在并发处理的其他请求也收到错误信息。这要求您在编写函数时，尽量捕获请求级别的异常，不影响其他请求。Node.js代码示例如下。

exports.handler = (event, context, callback) => {
    try {
        JSON.parse(event);
    } catch (ex) {
        callback(ex);
    }

    callback(null, 'hello world');
};                    

共享变量

多个请求在一个实例并发处理时，同时修改一个共享的变量，可能会导致错误。这要求您在编写函数时，对于非线程安全的变量修改要进行互斥保护。Java代码示例如下。

public class App implements StreamRequestHandler
{
    private static int counter = 0;

    @Override
    public void handleRequest(InputStream inputStream, OutputStream outputStream, Context context) throws IOException {
        synchronized (this) {
            counter = counter + 1;
        }
        outputStream.write(new String("hello world").getBytes());
    }
}                    

监控指标

使用限制

为函数设置单实例并发度

您可以在创建或更新函数时，指定函数的单实例并发度InstanceConcurrency。具体操作步骤，请参见管理函数。

如果您使用了预留模式，预留模式下的函数也可以并发处理多个请求。更多信息，请参见弹性管理（含预留模式）。

更多信息

关于如何使用Node.js SDK设置实例并发度，请参见设置实例并发度。