AWS HubAWS HubSão Paulo operando · 2 eventos no mundo

LambdaComputação

Nível de dificuldade: Intermediário (3 de 5)

Lambda Managed Instances aguenta 40 mil TPS em picos de tráfego previsíveis

Por AWS Hub7 min de leitura

Em números

  • 40.000 requisições por segundo sustentadas por 120 segundos no teste de pico, com 40.035 req/s efetivamente entregues
  • 4.804.200 chamadas HTTP processadas pelo API Gateway durante o burst
  • 1.750.886 reservas gravadas de forma durável no Amazon DynamoDB
  • 121 ms de latência p99 ao dobrar a vazão sustentada de 20 mil para 40 mil TPS, dentro de uma banda de apenas 3 ms observada em toda a faixa testada (5 mil a 40 mil TPS)

O problema

Venda de ingresso de show, abertura de inscrição e lançamento de produto têm um formato de tráfego específico: um pico que chega a 100 vezes a carga normal, dura algumas horas até o estoque esgotar, e depois some. O post do AWS Compute Blog descreve o dilema clássico de quem arquiteta esse tipo de sistema: perder o primeiro minuto da venda gera erro visível para o cliente e vazamento de receita para o concorrente, mas provisionar o fleet para aguentar o pico o ano inteiro significa pagar por capacidade ociosa 365 dias para um evento que dura 10 minutos, 10 vezes por ano.

Esse é exatamente o cenário que o Auto Scaling tradicional de Lambda, baseado em concorrência reativa, resolve mal: a escala reage à chegada do tráfego, e no primeiro minuto de uma venda de ingresso isso já é tarde demais. O AWS Compute Blog apresenta o Lambda Managed Instances como resposta a isso: uma capacidade do AWS Lambda que mantém ambientes de execução (EE) pré-aquecidos antes do pico, elimina cold start no momento certo e devolve o fleet ao tamanho mínimo assim que a janela fecha.

A arquitetura

A referência publicada pela AWS implementa o padrão fila-mais-reserva-e-confirmação (queue-plus-hold-and-confirm), o mesmo usado por companhias aéreas e redes hoteleiras para evitar overselling sob tráfego alto. O fluxo, do clique do usuário ao dado durável, segue estes passos:

  1. O cliente envia uma requisição HTTPS ao Amazon API Gateway, que roteia para três handlers Lambda hospedados em um capacity provider compartilhado de Lambda Managed Instances.
  2. O handler queue-position atribui um número de fila virtual com um INCR atômico sobre uma única chave no Amazon ElastiCache Serverless for Valkey.
  3. O handler inventory-lock executa um UpdateItem condicional no DynamoDB sobre uma tabela de inventário com sharding de escrita (500 shards), movendo o assento de AVAILABLE para HELD com um TTL de 180 segundos.
  4. O handler booking-confirm executa um único TransactWriteItems, que move o assento de HELD para CONFIRMED e grava o registro de reserva durável; os dois escrevem juntos ou nenhum escreve.
  5. Um segundo stack de CloudFormation, isolado do primeiro, gera carga sintética por um fan-out de Lambda em três camadas, reproduzindo o formato de burst de uma venda real sem contaminar a medição do sistema de produção.
  6. Minutos antes do evento, um script ou uma regra do Amazon EventBridge Scheduler sobe o MinExecutionEnvironments dos três handlers; durante o pico, o Lambda Managed Instances escala dentro da faixa até MaxExecutionEnvironments; terminada a janela, o Min volta à baseline.

Todos os três handlers são stateless: o estado mutável mora no ElastiCache e no DynamoDB, protegido por escritas condicionais e operações atômicas. É essa ausência de estado local que permite ao modelo de invocação multi-concorrente do Lambda Managed Instances servir milhares de requisições simultâneas por instância sem corrida de dados.

Os serviços envolvidos

A arquitetura de referência combina seis peças, cada uma resolvendo um gargalo específico do pico:

  • AWS Lambda Managed Instances: roda as funções sobre instâncias EC2 na conta do cliente, incluindo Graviton4 e tipos otimizados para memória; a AWS cuida do ciclo de vida (provisionamento, escala, patch e roteamento), mas quem paga a conta é o cliente, no modelo de preço de EC2.
  • Amazon API Gateway: recebe o tráfego público em HTTPS e separa, por desenho, o caminho de produção do caminho de geração de carga.
  • Amazon ElastiCache Serverless for Valkey: guarda o contador atômico da fila virtual com INCR sobre uma única chave.
  • Amazon DynamoDB: mantém o estado durável por assento numa tabela com sharding de escrita e a tabela de reservas confirmadas; o WarmThroughput pré-provisiona partições físicas antes do burst.
  • Amazon CloudWatch: recebe métricas e logs estruturados publicados automaticamente pelo Lambda Managed Instances, sem instrumentação extra no código.
  • Amazon EventBridge Scheduler: dispara o aumento de MinExecutionEnvironments na janela que antecede o evento agendado.

Trade-offs

O ganho de eficiência de desempenho é real e mensurado: a faixa de carga testada foi de 5 mil a 40 mil TPS, um espectro de 8 vezes, e a latência p99 ficou dentro de uma banda de 3 ms o tempo todo. Dobrar a vazão sustentada de 20 mil para 40 mil TPS manteve o p99 cravado em 121 ms, o que indica que o pool pré-aquecido ainda tinha folga mesmo no topo testado. Isso é o oposto do comportamento típico de scale-out reativo, onde dobrar carga normalmente dobra latência de cauda.

O preço dessa previsibilidade recai sobre o pilar de excelência operacional: alguém precisa saber, com antecedência, quando o pico vai acontecer, e subir o MinExecutionEnvironments manualmente ou via EventBridge Scheduler antes da hora. Lambda Managed Instances não adivinha tráfego inesperado; ele absorve bem o burst agendado, mas continua dependendo de quem opera o cluster saber a janela do evento. Para tráfego espontâneo e imprevisível, o modelo serverless tradicional de Lambda, sem pré-aquecimento, ainda é o desenho mais simples.

No pilar de confiabilidade, o desenho introduz complexidade proposital: contadores atômicos simples no DynamoDB saturam perto de 1.000 operações por segundo em uma única partição lógica, por isso a tabela de inventário usa 500 shards de escrita. Os endpoints de escrita precisam ser idempotentes, e o exemplo usa um booking_id fornecido pelo cliente na chamada de confirmação, para que uma retentativa produza o mesmo registro em vez de uma reserva duplicada. Quem adaptar o padrão herda essa obrigação de desenho, não é opcional.

Custo estimado

Lambda Managed Instances cobra o preço de instância EC2 mais uma taxa de gestão de 15%, com Compute Savings Plans e Reserved Instances aplicáveis sobre o custo da instância subjacente. No teste publicado pela AWS, o fleet foi pré-aquecido numa janela de 7 minutos (5 de rampa, 2 de burst) para simular o pico sob condição controlada, com 75 instâncias c7i.4xlarge a $0,821 por instância-hora:

ComponenteVolumeTaxaCusto
Requisições no API Gateway4,8 M$3,50 por 1 M$16,80
Escritas no DynamoDB8,8 M WCU$1,25 por 1 M$11,00
Compute do Lambda Managed Instances75 × c7i.4xlarge × 7 min$0,821/instância-hora$7,18
Cobrança por requisição do Lambda Managed Instances—$0,20 por 1 M$0,96
CloudWatch Logs (~2 GB)ingestão$0,50 por GB$1,00
ElastiCache Serverless for Valkey4,8 M operações INCRbaseado em ECPU$0,30
Total por burst~$37,00

Os ~$37 cobrem só a simulação de 7 minutos; o custo real de produção depende de quantos eventos por ano usam a janela de pré-aquecimento e por quanto tempo o fleet fica no patamar alto. Comparado a manter 75 instâncias c7i.4xlarge ligadas o ano inteiro só para dez eventos de dez minutos, a diferença de custo é a tese inteira do artigo: pague a capacidade de pico só durante a janela em que ela é necessária.

Como adaptar

Quem desenha ou opera um sistema com o mesmo formato de carga, venda de ingresso, Black Friday de e-commerce, abertura de matrícula, votação ao vivo, pode seguir o roteiro publicado no repositório de referência da AWS:

  1. Rodar primeiro um smoke test na baseline padrão (Min=1, Max=3 por handler) para validar o pipeline ponta a ponta:
curl -X POST https://<sim-api>/v1/simulation/start \
-H 'Content-Type: application/json' \
-d '{"run_id": "smoke-1", "target_tps": 50, "ramp_duration_seconds": 10, "sustain_duration_seconds": 60}'
  1. Antes do teste de pico, escalar MinExecutionEnvironments e MaxExecutionEnvironments de cada handler para os valores de produção (50/100/150 no exemplo), e solicitar aumento de quota de vCPU de EC2 e de throttle de conta no API Gateway, já que os valores padrão não aguentam 40 mil TPS.
  2. Disparar o burst real e consultar o dashboard de resultados, que reconstrói contagem de requisições, reservas confirmadas, EEs usados e percentis de latência por handler a partir de CloudWatch, CloudWatch Logs Insights e DynamoDB em paralelo.
  3. Aplicar write sharding em qualquer tabela DynamoDB que receba milhares de escritas por segundo contra uma única entidade lógica, um evento, um SKU, usando uma chave de partição sintética.
  4. Ativar WarmThroughput na tabela antes da janela, em vez de depender da adaptive capacity reagir no primeiro minuto da venda.
  5. Tornar os endpoints de escrita idempotentes com um identificador fornecido pelo chamador, para que retentativas de rede não dupliquem reserva ou pedido.

A interface web opcional incluída no repositório (pasta demo-ui/) permite disparar bursts e ler os resultados sem sair do navegador, útil para validar o comportamento antes de expor o endpoint real ao tráfego de produção. Nenhum desses passos depende de reescrever os handlers: o modelo de programação continua sendo uma função por handler, e o que muda é só a política de escala e o agendamento de pré-aquecimento em torno do evento.

Fonte: AWS Compute Blog

Serviços neste textoLambda

Na dúvida sobre qual usar?ECS, EKS ou Lambda?Três perguntas, a comparação e a nossa recomendação

Leve para a sua IA

Decida com o seu assistente, com o contexto deste texto já montado.

1. O que você quer saber

Ver o prompt
Li no AWS Hub: "Lambda Managed Instances aguenta 40 mil TPS em picos de tráfego previsíveis" (https://awshub.com.br/computacao/lambda-managed-instances-aguenta-40-mil-tps-em-picos-de-trafego-previsiveis).
Resumo: Um guia de referência da AWS mostra como manter capacidade quente só na janela do pico, sem pagar por um fleet dimensionado para o ano inteiro.
Fonte oficial: https://aws.amazon.com/blogs/compute/handling-large-volume-of-transactions-with-aws-lambda-managed-instances/
Serviços: Lambda

Minha stack: [descreva em uma linha: serviços, linguagem, volume, região]

Isso muda alguma coisa na minha arquitetura? O que eu faria diferente a partir de amanhã?

Newsletter semanal

A semana da AWS, em português

Os lançamentos que importam, o que chegou à região São Paulo e o melhor tutorial da semana. Toda sexta, gratuita.