1. 面试官问“怎么让模型服务一亿用户”我拿Triton压测链路来答推理服务部署这道面试题核心不是背概念而是能不能把「模型文件 → Triton 配置 → K8s 编排 → 压测指标 → 鉴权调用」这条链路完整跑通。Triton Inference Server 是 NVIDIA 开源的推理服务框架支持 TensorRT、ONNX、PyTorch 等多后端自带 Dynamic Batching、Ensemble、模型版本管理Kubernetes 负责弹性伸缩和健康检查perf_analyzer 是 Triton 自带的压测工具能拆出 queue delay、compute delay、overhead 三段延迟。这套组合适合推理工程师、MLOps 工程师也适合准备面试时想“手上有真东西”的人。我试过在面试里只讲架构图面试官追问“你压测时 P99 多少、queue delay 占比多少”就卡住了。所以这篇按可复现的步骤写先给 Triton 的 K8s 部署 YAML再给 perf_analyzer 命令模板最后用 TaoToken 统一 Key 完成鉴权和调用验证。你跟着做一遍面试时能直接说“我跑过queue delay 从 8ms 降到 1.2ms”。TaoToken 在这里的角色是统一 API 通道Triton 本身不负责对外鉴权生产环境通常在前面挂网关。用 TaoToken 的 API Key 做统一入口客户端不用管理多套凭证压测和线上调用走同一套鉴权逻辑。官网 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 地址 https://taotoken.net/api 。2. TaoToken 前置统一 Key 与 Triton 鉴权通道怎么接Triton 的 HTTP 端点默认不带鉴权/v2/health/ready、/v2/models/name/infer谁都能调。生产环境要么在 Ingress 层做 auth要么在 Triton 前面放一个轻量网关。TaoToken 的 API Key 可以承担这个角色客户端统一带Authorization: Bearer key网关校验后转发到 Triton 的 8000 端口。先拿 Key。打开 https://taotoken.net/api-keys 创建一个 Key复制保存。注意 Key 只在创建时显示一次丢了就重新建。拿到 Key 后在本地设置环境变量后面所有命令都用这个变量避免硬编码export TAOTOKEN_API_KEYsk-你的Key export TRITON_HTTPhttp://localhost:8000如果你要把 TaoToken 作为 Triton 的前置鉴权层可以在 K8s 里加一个 sidecar 或独立网关 Deployment。这里给一个最小可用的网关配置思路网关监听 8080校验Authorization头通过后把请求转发到triton-service:8000。TaoToken 的接入文档在 https://taotoken.net/doc 里面有完整的鉴权头格式和错误码说明。为什么不用 Triton 自带的--http-restricted-api那个只限制部分管理端点不做用户级鉴权。TaoToken 的 Key 机制更适合多团队共用一套 Triton 集群的场景每个团队一个 Key网关按 Key 做限流和审计。模型对话入口可以用来验证 Key 是否有效 https://taotoken.net/model-chat 。在页面里发一条消息能收到回复说明 Key 正常。这一步别跳过后面压测如果 401先回来确认 Key 没过期。Coding Plan 适合长期跑 Agent 或编码任务的场景如果你要把 Triton 的压测脚本纳入 CI可以用 Coding Plan 的额度 https://taotoken.net/coding-plan 。控制台在 https://taotoken.net/console 可以看调用量和余额。3. 可复制配置Triton 部署 YAML 与 config.pbtxt这一节给两份可直接用的配置Triton 的 K8s Deployment Service以及模型的config.pbtxt。路径和字段名按 Triton 官方仓库的结构写你替换模型名和镜像 tag 就能跑。先看config.pbtxt。假设模型名resnet50_onnx输入input形状[-1, 3, 224, 224]输出output形状[-1, 1000]name: resnet50_onnx platform: onnxruntime_onnx max_batch_size: 32 input [ { name: input data_type: TYPE_FP32 dims: [ 3, 224, 224 ] } ] output [ { name: output data_type: TYPE_FP32 dims: [ 1000 ] } ] dynamic_batching { preferred_batch_size: [ 8, 16, 32 ] max_queue_delay_microseconds: 5000 } instance_group [ { count: 2 kind: KIND_GPU gpus: [ 0 ] } ]max_queue_delay_microseconds: 5000表示最多等 5ms 凑 batch。设为 0 就是禁用 Dynamic Batching每个请求单独推理。instance_group的count: 2表示每张 GPU 起两个模型实例适合中小模型大模型设 1。再看 K8s 部署 YAML。这份配置包含 Deployment、Service、liveness/readiness probeprobe 路径用 Triton 内置的/v2/health/live和/v2/health/readyapiVersion: apps/v1 kind: Deployment metadata: name: triton-inference labels: app: triton spec: replicas: 1 selector: matchLabels: app: triton template: metadata: labels: app: triton spec: containers: - name: triton image: nvcr.io/nvidia/tritonserver:24.05-py3 args: - tritonserver - --model-repository/models - --strict-model-configfalse - --log-verbose1 ports: - containerPort: 8000 name: http - containerPort: 8001 name: grpc - containerPort: 8002 name: metrics resources: limits: nvidia.com/gpu: 1 volumeMounts: - name: model-repo mountPath: /models livenessProbe: httpGet: path: /v2/health/live port: 8000 initialDelaySeconds: 30 periodSeconds: 10 readinessProbe: httpGet: path: /v2/health/ready port: 8000 initialDelaySeconds: 20 periodSeconds: 5 volumes: - name: model-repo persistentVolumeClaim: claimName: triton-model-pvc --- apiVersion: v1 kind: Service metadata: name: triton-service spec: selector: app: triton ports: - name: http port: 8000 targetPort: 8000 - name: grpc port: 8001 targetPort: 8001 - name: metrics port: 8002 targetPort: 8002 type: ClusterIP模型仓库的目录结构必须是models/模型名/1/model.onnx加models/模型名/config.pbtxt。PVC 挂到/modelsTriton 启动时扫描这个目录。--strict-model-configfalse允许 Triton 自动生成部分配置但生产环境建议手写config.pbtxt避免自动推断的 shape 不对。如果你用 TaoToken 做前置鉴权在 Service 前面加一个 Ingress 或网关 Deployment把Authorization头校验逻辑放进去。TaoToken 的 API 地址是 https://taotoken.net/api 网关转发时把请求发到triton-service:8000。CC Switch 或 Cline MCP 如果出现在你的工具链里记住三件套Base URL 填 TaoToken 的 API 地址Key 填TAOTOKEN_API_KEYModel ID 填你在控制台看到的模型名。这三样缺一不可后面排障会反复用到。4. 验证请求与成功结果perf_analyzer 压测链路部署完成后先确认 Triton 活着。用 curl 打健康端点curl -s http://localhost:8000/v2/health/ready返回空 body 且 HTTP 200 表示就绪。如果返回 503看日志kubectl logs deploy/triton-inference通常是模型加载失败。再确认模型列表curl -s http://localhost:8000/v2/models | python3 -m json.tool应该看到resnet50_onnx在列表里。然后发一条推理请求验证输入输出 shapecurl -s -X POST http://localhost:8000/v2/models/resnet50_onnx/infer \ -H Content-Type: application/json \ -d { inputs: [{ name: input, shape: [1, 3, 224, 224], datatype: FP32, data: [] }] }data为空数组会报错但能验证端点通不通。真实压测用 perf_analyzer它自己生成输入数据。perf_analyzer 在 Triton 的客户端镜像里也可以本地装。命令模板perf_analyzer -m resnet50_onnx \ -u localhost:8000 \ --concurrency-range 1:16:2 \ --measurement-interval 10000 \ --percentile 99 \ -f perf_result.csv参数解释--concurrency-range 1:16:2表示并发从 1 到 16步长 2--measurement-interval 10000每个并发级别测 10 秒--percentile 99输出 P99-f把结果写 CSV。跑完后看输出里的延迟分解Concurrency: 8, throughput: 420 infer/sec, latency: 19000 usec Client overhead: 200 usec Queue delay: 1200 usec Compute delay: 17500 usecQueue delay高说明请求在 Triton 内部排队要么加instance_group的 count要么减小max_queue_delay_microseconds。Compute delay高说明 GPU 算不过来考虑 TensorRT 优化或换更大 GPU。Client overhead高说明网络或序列化慢检查客户端和 Triton 是否同节点。如果走 TaoToken 鉴权perf_analyzer 加-H Authorization: Bearer $TAOTOKEN_API_KEYperf_analyzer -m resnet50_onnx \ -u https://taotoken.net/api \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ --concurrency-range 1:8:2 \ --measurement-interval 5000成功结果长这样并发 8 时 throughput 稳定在 400 infer/secP99 延迟低于 50msqueue delay 占比小于 10%。如果 P99 是 P50 的 8 倍看下一节排障。5. 本篇常见错排查401、local proxy failed、reading choices压测链路跑不通90% 是下面几类错。逐个对照。401 Unauthorized。TaoToken Key 没带或过期。检查echo $TAOTOKEN_API_KEY是否有值请求头是否是Authorization: Bearer sk-xxx。注意 Bearer 后面有一个空格。如果 Key 刚创建等 10 秒再试控制台同步有延迟。去 https://taotoken.net/api-keys 重新生成一个旧 Key 立即失效。local proxy failed。网关或 sidecar 转发失败。检查 Triton Service 的 ClusterIP 是否可达kubectl exec -it pod -- curl triton-service:8000/v2/health/live。如果网关配置了 TaoToken 鉴权确认转发时没有丢掉Authorization头。常见错误是网关把请求转发到localhost:8000而不是triton-service:8000容器里 localhost 是网关自己。reading choices 报错。perf_analyzer 解析响应失败通常是 Triton 返回了非 JSON 内容。检查config.pbtxt的output名字和客户端请求的outputs名字是否一致。如果 Triton 返回 HTML 错误页比如 502说明前面网关挂了不是 Triton 的问题。用 curl 直接打 Triton 端口排除网关。OAuth 相关错误。如果你用 TaoToken 的 OAuth 流程拿 Keytoken 过期会报 401 或 403。刷新 token 或重新走一遍授权。接入文档 https://taotoken.net/doc 里有 token 有效期说明。模型加载失败。/v2/health/ready返回 503日志里找failed to load model。常见原因ONNX 的 opset 版本和 Triton 的 onnxruntime 不匹配config.pbtxt的dims和模型实际输入 shape 不一致模型文件权限不对Triton 容器读不到。修复后 reloadcurl -X POST http://localhost:8000/v2/repository/models/resnet50_onnx/unload curl -X POST http://localhost:8000/v2/repository/models/resnet50_onnx/loadperf_analyzer 报 shape mismatch。config.pbtxt里max_batch_size: 32但 perf_analyzer 默认发 batch1。加--batch-size 1或调整max_batch_size。如果模型不支持动态 batchmax_batch_size设 0。GPU 显存不足。instance_group的 count 设太大每个实例独立分配 buffer。小模型 count2 够用大模型 count1。用nvidia-smi看显存如果接近满减 count 或换更小的 batch。CC Switch 或 Cline MCP 接入时如果报model not found检查 Model ID 是否和 TaoToken 控制台里的一致。Base URL 不要带尾部斜杠Key 不要有多余空格。这三件套核对一遍大部分接入问题能解决。6. 语义一致 CTA把这条链路跑成你自己的面试素材面试里讲推理服务部署最怕的是“我了解 Triton”但说不出具体配置。你把第 3 节的 YAML 和第 4 节的 perf_analyzer 命令跑一遍面试时就能说“我用 K8s 部署 Tritonliveness 用/v2/health/livereadiness 用/v2/health/ready压测时并发 8 的 queue delay 是 1.2msP99 延迟 45ms。”这比背十道选择题都有说服力。TaoToken 在这条链路里解决的是鉴权统一问题。Triton 本身不做用户级鉴权生产环境需要网关。用 TaoToken 的 Key 做统一入口压测和线上调用走同一套凭证省去多套 Key 管理的麻烦。API Keys 在 https://taotoken.net/api-keys 接入文档在 https://taotoken.net/doc 模型对话验证在 https://taotoken.net/model-chat 。长期跑压测或 Agent 任务Coding Plan 的额度更划算 https://taotoken.net/coding-plan 。最后留一个实操建议把 perf_analyzer 的结果 CSV 存下来面试时带上 P50/P90/P99 三列数据。面试官问“你怎么判断服务能不能扛住”你直接翻数据说“并发 16 时 P99 是 48msqueue delay 占比 8%还有 headroom”。这比任何架构图都管用。
面试真题集（十八）：推理服务与部署——用TaoToken统一Key跑通Triton压测链路
1. 面试官问“怎么让模型服务一亿用户”我拿Triton压测链路来答推理服务部署这道面试题核心不是背概念而是能不能把「模型文件 → Triton 配置 → K8s 编排 → 压测指标 → 鉴权调用」这条链路完整跑通。Triton Inference Server 是 NVIDIA 开源的推理服务框架支持 TensorRT、ONNX、PyTorch 等多后端自带 Dynamic Batching、Ensemble、模型版本管理Kubernetes 负责弹性伸缩和健康检查perf_analyzer 是 Triton 自带的压测工具能拆出 queue delay、compute delay、overhead 三段延迟。这套组合适合推理工程师、MLOps 工程师也适合准备面试时想“手上有真东西”的人。我试过在面试里只讲架构图面试官追问“你压测时 P99 多少、queue delay 占比多少”就卡住了。所以这篇按可复现的步骤写先给 Triton 的 K8s 部署 YAML再给 perf_analyzer 命令模板最后用 TaoToken 统一 Key 完成鉴权和调用验证。你跟着做一遍面试时能直接说“我跑过queue delay 从 8ms 降到 1.2ms”。TaoToken 在这里的角色是统一 API 通道Triton 本身不负责对外鉴权生产环境通常在前面挂网关。用 TaoToken 的 API Key 做统一入口客户端不用管理多套凭证压测和线上调用走同一套鉴权逻辑。官网 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content API 地址 https://taotoken.net/api 。2. TaoToken 前置统一 Key 与 Triton 鉴权通道怎么接Triton 的 HTTP 端点默认不带鉴权/v2/health/ready、/v2/models/name/infer谁都能调。生产环境要么在 Ingress 层做 auth要么在 Triton 前面放一个轻量网关。TaoToken 的 API Key 可以承担这个角色客户端统一带Authorization: Bearer key网关校验后转发到 Triton 的 8000 端口。先拿 Key。打开 https://taotoken.net/api-keys 创建一个 Key复制保存。注意 Key 只在创建时显示一次丢了就重新建。拿到 Key 后在本地设置环境变量后面所有命令都用这个变量避免硬编码export TAOTOKEN_API_KEYsk-你的Key export TRITON_HTTPhttp://localhost:8000如果你要把 TaoToken 作为 Triton 的前置鉴权层可以在 K8s 里加一个 sidecar 或独立网关 Deployment。这里给一个最小可用的网关配置思路网关监听 8080校验Authorization头通过后把请求转发到triton-service:8000。TaoToken 的接入文档在 https://taotoken.net/doc 里面有完整的鉴权头格式和错误码说明。为什么不用 Triton 自带的--http-restricted-api那个只限制部分管理端点不做用户级鉴权。TaoToken 的 Key 机制更适合多团队共用一套 Triton 集群的场景每个团队一个 Key网关按 Key 做限流和审计。模型对话入口可以用来验证 Key 是否有效 https://taotoken.net/model-chat 。在页面里发一条消息能收到回复说明 Key 正常。这一步别跳过后面压测如果 401先回来确认 Key 没过期。Coding Plan 适合长期跑 Agent 或编码任务的场景如果你要把 Triton 的压测脚本纳入 CI可以用 Coding Plan 的额度 https://taotoken.net/coding-plan 。控制台在 https://taotoken.net/console 可以看调用量和余额。3. 可复制配置Triton 部署 YAML 与 config.pbtxt这一节给两份可直接用的配置Triton 的 K8s Deployment Service以及模型的config.pbtxt。路径和字段名按 Triton 官方仓库的结构写你替换模型名和镜像 tag 就能跑。先看config.pbtxt。假设模型名resnet50_onnx输入input形状[-1, 3, 224, 224]输出output形状[-1, 1000]name: resnet50_onnx platform: onnxruntime_onnx max_batch_size: 32 input [ { name: input data_type: TYPE_FP32 dims: [ 3, 224, 224 ] } ] output [ { name: output data_type: TYPE_FP32 dims: [ 1000 ] } ] dynamic_batching { preferred_batch_size: [ 8, 16, 32 ] max_queue_delay_microseconds: 5000 } instance_group [ { count: 2 kind: KIND_GPU gpus: [ 0 ] } ]max_queue_delay_microseconds: 5000表示最多等 5ms 凑 batch。设为 0 就是禁用 Dynamic Batching每个请求单独推理。instance_group的count: 2表示每张 GPU 起两个模型实例适合中小模型大模型设 1。再看 K8s 部署 YAML。这份配置包含 Deployment、Service、liveness/readiness probeprobe 路径用 Triton 内置的/v2/health/live和/v2/health/readyapiVersion: apps/v1 kind: Deployment metadata: name: triton-inference labels: app: triton spec: replicas: 1 selector: matchLabels: app: triton template: metadata: labels: app: triton spec: containers: - name: triton image: nvcr.io/nvidia/tritonserver:24.05-py3 args: - tritonserver - --model-repository/models - --strict-model-configfalse - --log-verbose1 ports: - containerPort: 8000 name: http - containerPort: 8001 name: grpc - containerPort: 8002 name: metrics resources: limits: nvidia.com/gpu: 1 volumeMounts: - name: model-repo mountPath: /models livenessProbe: httpGet: path: /v2/health/live port: 8000 initialDelaySeconds: 30 periodSeconds: 10 readinessProbe: httpGet: path: /v2/health/ready port: 8000 initialDelaySeconds: 20 periodSeconds: 5 volumes: - name: model-repo persistentVolumeClaim: claimName: triton-model-pvc --- apiVersion: v1 kind: Service metadata: name: triton-service spec: selector: app: triton ports: - name: http port: 8000 targetPort: 8000 - name: grpc port: 8001 targetPort: 8001 - name: metrics port: 8002 targetPort: 8002 type: ClusterIP模型仓库的目录结构必须是models/模型名/1/model.onnx加models/模型名/config.pbtxt。PVC 挂到/modelsTriton 启动时扫描这个目录。--strict-model-configfalse允许 Triton 自动生成部分配置但生产环境建议手写config.pbtxt避免自动推断的 shape 不对。如果你用 TaoToken 做前置鉴权在 Service 前面加一个 Ingress 或网关 Deployment把Authorization头校验逻辑放进去。TaoToken 的 API 地址是 https://taotoken.net/api 网关转发时把请求发到triton-service:8000。CC Switch 或 Cline MCP 如果出现在你的工具链里记住三件套Base URL 填 TaoToken 的 API 地址Key 填TAOTOKEN_API_KEYModel ID 填你在控制台看到的模型名。这三样缺一不可后面排障会反复用到。4. 验证请求与成功结果perf_analyzer 压测链路部署完成后先确认 Triton 活着。用 curl 打健康端点curl -s http://localhost:8000/v2/health/ready返回空 body 且 HTTP 200 表示就绪。如果返回 503看日志kubectl logs deploy/triton-inference通常是模型加载失败。再确认模型列表curl -s http://localhost:8000/v2/models | python3 -m json.tool应该看到resnet50_onnx在列表里。然后发一条推理请求验证输入输出 shapecurl -s -X POST http://localhost:8000/v2/models/resnet50_onnx/infer \ -H Content-Type: application/json \ -d { inputs: [{ name: input, shape: [1, 3, 224, 224], datatype: FP32, data: [] }] }data为空数组会报错但能验证端点通不通。真实压测用 perf_analyzer它自己生成输入数据。perf_analyzer 在 Triton 的客户端镜像里也可以本地装。命令模板perf_analyzer -m resnet50_onnx \ -u localhost:8000 \ --concurrency-range 1:16:2 \ --measurement-interval 10000 \ --percentile 99 \ -f perf_result.csv参数解释--concurrency-range 1:16:2表示并发从 1 到 16步长 2--measurement-interval 10000每个并发级别测 10 秒--percentile 99输出 P99-f把结果写 CSV。跑完后看输出里的延迟分解Concurrency: 8, throughput: 420 infer/sec, latency: 19000 usec Client overhead: 200 usec Queue delay: 1200 usec Compute delay: 17500 usecQueue delay高说明请求在 Triton 内部排队要么加instance_group的 count要么减小max_queue_delay_microseconds。Compute delay高说明 GPU 算不过来考虑 TensorRT 优化或换更大 GPU。Client overhead高说明网络或序列化慢检查客户端和 Triton 是否同节点。如果走 TaoToken 鉴权perf_analyzer 加-H Authorization: Bearer $TAOTOKEN_API_KEYperf_analyzer -m resnet50_onnx \ -u https://taotoken.net/api \ -H Authorization: Bearer $TAOTOKEN_API_KEY \ --concurrency-range 1:8:2 \ --measurement-interval 5000成功结果长这样并发 8 时 throughput 稳定在 400 infer/secP99 延迟低于 50msqueue delay 占比小于 10%。如果 P99 是 P50 的 8 倍看下一节排障。5. 本篇常见错排查401、local proxy failed、reading choices压测链路跑不通90% 是下面几类错。逐个对照。401 Unauthorized。TaoToken Key 没带或过期。检查echo $TAOTOKEN_API_KEY是否有值请求头是否是Authorization: Bearer sk-xxx。注意 Bearer 后面有一个空格。如果 Key 刚创建等 10 秒再试控制台同步有延迟。去 https://taotoken.net/api-keys 重新生成一个旧 Key 立即失效。local proxy failed。网关或 sidecar 转发失败。检查 Triton Service 的 ClusterIP 是否可达kubectl exec -it pod -- curl triton-service:8000/v2/health/live。如果网关配置了 TaoToken 鉴权确认转发时没有丢掉Authorization头。常见错误是网关把请求转发到localhost:8000而不是triton-service:8000容器里 localhost 是网关自己。reading choices 报错。perf_analyzer 解析响应失败通常是 Triton 返回了非 JSON 内容。检查config.pbtxt的output名字和客户端请求的outputs名字是否一致。如果 Triton 返回 HTML 错误页比如 502说明前面网关挂了不是 Triton 的问题。用 curl 直接打 Triton 端口排除网关。OAuth 相关错误。如果你用 TaoToken 的 OAuth 流程拿 Keytoken 过期会报 401 或 403。刷新 token 或重新走一遍授权。接入文档 https://taotoken.net/doc 里有 token 有效期说明。模型加载失败。/v2/health/ready返回 503日志里找failed to load model。常见原因ONNX 的 opset 版本和 Triton 的 onnxruntime 不匹配config.pbtxt的dims和模型实际输入 shape 不一致模型文件权限不对Triton 容器读不到。修复后 reloadcurl -X POST http://localhost:8000/v2/repository/models/resnet50_onnx/unload curl -X POST http://localhost:8000/v2/repository/models/resnet50_onnx/loadperf_analyzer 报 shape mismatch。config.pbtxt里max_batch_size: 32但 perf_analyzer 默认发 batch1。加--batch-size 1或调整max_batch_size。如果模型不支持动态 batchmax_batch_size设 0。GPU 显存不足。instance_group的 count 设太大每个实例独立分配 buffer。小模型 count2 够用大模型 count1。用nvidia-smi看显存如果接近满减 count 或换更小的 batch。CC Switch 或 Cline MCP 接入时如果报model not found检查 Model ID 是否和 TaoToken 控制台里的一致。Base URL 不要带尾部斜杠Key 不要有多余空格。这三件套核对一遍大部分接入问题能解决。6. 语义一致 CTA把这条链路跑成你自己的面试素材面试里讲推理服务部署最怕的是“我了解 Triton”但说不出具体配置。你把第 3 节的 YAML 和第 4 节的 perf_analyzer 命令跑一遍面试时就能说“我用 K8s 部署 Tritonliveness 用/v2/health/livereadiness 用/v2/health/ready压测时并发 8 的 queue delay 是 1.2msP99 延迟 45ms。”这比背十道选择题都有说服力。TaoToken 在这条链路里解决的是鉴权统一问题。Triton 本身不做用户级鉴权生产环境需要网关。用 TaoToken 的 Key 做统一入口压测和线上调用走同一套凭证省去多套 Key 管理的麻烦。API Keys 在 https://taotoken.net/api-keys 接入文档在 https://taotoken.net/doc 模型对话验证在 https://taotoken.net/model-chat 。长期跑压测或 Agent 任务Coding Plan 的额度更划算 https://taotoken.net/coding-plan 。最后留一个实操建议把 perf_analyzer 的结果 CSV 存下来面试时带上 P50/P90/P99 三列数据。面试官问“你怎么判断服务能不能扛住”你直接翻数据说“并发 16 时 P99 是 48msqueue delay 占比 8%还有 headroom”。这比任何架构图都管用。