高并发接口设计实战：限流、熔断与幂等性实现方案

高并发接口设计的核心不是堆机器，而是让系统在流量冲击下稳定可用。限流保护入口、熔断保护依赖、幂等保护数据，三者组合才能扛住秒杀、大促这类场景。本文给出可直接实现的方案，附带代码示例，覆盖网关层、应用层、数据层三道防线。

高并发接口设计的基本思路

并发能力由数据库、缓存、下游服务的容量共同决定。接口设计要做的，是把超出容量的请求在入口拦截，把失败的调用快速降级，把重复请求识别出来。三道防线按流量方向排列：网关限流、应用熔断、数据幂等。每一项都要提前定义指标：限流阈值、熔断判定、幂等键生成规则。

令牌桶限流：稳定流量与突发容量的平衡

令牌桶算法允许一定突发，同时限制平均速率，适合接口保护。多实例部署必须用Redis实现分布式令牌桶，Lua脚本保证原子性：

import time
import redis
r = redis.Redis(host='localhost', port=6379, decode_responses=True)

def allow(key, capacity=100, rate=10):
    now = time.time()
    script = '''
    local t = redis.call('GET', KEYS[1])
    t = t and tonumber(t) or tonumber(ARGV[1])
    local last = redis.call('GET', KEYS[2])
    last = last and tonumber(last) or 0
    t = math.min(tonumber(ARGV[1]), t + (tonumber(ARGV[2]) - last) * tonumber(ARGV[3]))
    redis.call('SET', KEYS[1], t)
    redis.call('SET', KEYS[2], tonumber(ARGV[2]))
    if t >= 1 then
        redis.call('DECR', KEYS[1])
        return 1
    end
    return 0
'''
    # 调用Lua脚本（省略eval细节），返回0则限流
    ok = r.eval(script, 2, key_tokens, key_last, capacity, now, rate)
    return ok == 1

单机场景用内存版令牌桶即可；多实例必须用Redis。限流阈值按单接口容量评估，低于下游承受上限，预留安全缓冲。被限流的请求返回429，客户端按Retry-After头重试。

熔断与降级：依赖故障时快速失败

下游接口变慢时，线程被占满反而拖垮自己。熔断器统计错误率与耗时，达到阈值后直接短路，进入半开状态试探恢复。以Python的pybreaker为例：

import requests
from pybreaker import CircuitBreaker
breaker = CircuitBreaker(fail_max=5, reset_timeout=30)

@breaker
def call_payment_api(payload):
    return requests.post('https://pay.internal/v1/pay', json=payload, timeout=2)

try:
    resp = call_payment_api(payload)
except Exception:
    return fallback_result()  # 降级到本地缓存或排队

熔断参数按依赖分级：核心支付依赖失败阈值低（3-5次即断），非核心服务阈值放宽。降级策略提前设计：读缓存、返回旧数据、异步重试队列，避免用户直接看到500。

幂等性设计：唯一请求号与状态机

网络重试会造成重复下单、重复扣款。幂等方案：客户端生成唯一请求号（requestId），服务端落幂等表，处理前先查重：

CREATE TABLE idempotent (
  request_id VARCHAR(64) PRIMARY KEY,
  biz_key    VARCHAR(64) NOT NULL,
  status     TINYINT DEFAULT 0,
  create_at  DATETIME DEFAULT CURRENT_TIMESTAMP,
  UNIQUE KEY uk_biz (biz_key)
) ENGINE=InnoDB;

def process(request_id, biz_key):
    ok = db.insert('idempotent', request_id=request_id, biz_key=biz_key)
    if not ok:
        return 'repeat request'
    return do_business(biz_key)

用主键或唯一索引保证同一请求只落一次，首次插入成功才执行业务。订单状态机（CREATED->PAID->CLOSED）配合状态校验，禁止状态回退，杜绝重复扣款。

压测验证三道防线

设计完成后用压测验证：持续施压确认限流按预期丢弃、故障注入时熔断生效、重复请求时幂等表无重复数据。工具推荐wrk或阿里云PTS，压测关注三个数：错误率、P99延迟、系统CPU使用率。达到预期后再全量上线，上线后继续监控限流命中与熔断触发次数。