SageMaker 新技能：Kiro/Claude Code 编码代理优化生成式AI推理
Amazon SageMaker optimized generative AI inference introduces the aws-ai-ml skill through the Agent Toolkit for AWS, giving coding agents like Kiro, Claude Code, and Codex deep exp
SageMaker 新技能：Kiro/Claude Code 编码代理优化生成式AI推理
Amazon SageMaker optimized generative AI inference 新增 aws-ai-ml 技能，通过 Agent Toolkit for AWS 直接嵌入 Kiro、Claude Code 等编码代理，让它们拥有专业的推理优化能力。
这一功能适合已经用 Cursor、Windsurf、Claude Code 等工具进行 AI 编程的工程师。代理能自动测试端点性能、推荐部署配置，并生成可执行的 SageMaker Python SDK v3 代码。
部署门槛低，只需 10 分钟完成本地或 SageMaker Studio 设置；卡网用户可先本地测试，官方用户直接用 AWS 凭证即可。
Kiro/Claude Code 与 SageMaker 的天然契合点
Kiro 和 Claude Code 支持 Model Context Protocol（MCP），无需额外 SDK 即可调用 aws-ai-ml 技能。代理会在聊天面板中自动发现技能，开发者用自然语言描述需求（如“为 Llama 模型选最佳实例”），就能获得实测数据和优化建议。
Claude Code 订阅用户特别受益——它原本依赖 Anthropic API 推理，现在可无缝接入 AWS 托管推理服务，成本与性能双优化。
核心能力拆解
代理覆盖推理全生命周期：
- 测试已部署端点（通过put）
- 为模型推荐实例类型（按成本/吞吐/延迟排序）
- 对比多次基准测试结果
- 生成完整 SageMaker 部署代码供本地运行
这些能力基于真实负载测试数据，而非估算，工程师可直接修改后上线。
安装与配置详解
方案一：本地任意编码代理（Kiro / Claude Code / Cursor）
1. 安装 AWS CLI 2.35+ 与 uv
2. 执行 aws configure agent-toolkit
3. 安装技能：npx skills add aws/agent-toolkit-for-aws/skills/aws-ai-ml
4. 打开代理聊天面板，输入“什么是可用技能？”确认 aws-ai-ml 出现
5. 描述需求开始工作
注意：需 AWS 账户有 SageMaker API 调用权限，技能自动使用当前凭证。
方案二：SageMaker Studio JupyterLab（推荐已用 AWS 服务的团队）
1. 打开 SageMaker Studio，创建私有 JupyterLab 空间
2. 选择预配置镜像（已内置 aws-ai-ml 技能）
3. 终端中认证代理（如 Kiro：kiro-cli login --license pro）
4. 刷新页面或重启 Jupyter Server，即可开始对话
移动端友好提示：桌面端执行命令更高效，SageMaker Studio 适合纯云端开发。
实际使用场景与效果
典型流程：
工程师在 Claude Code 中说“我想部署 Qwen3-8B 模型，目标是 4 并发、吞吐 >200 tokens/s”，代理即生成候选实例对比表并给出部署 YAML。
下面是官方演示的基准对比表（512/256 tokens 负载，concurrency 4）：
| 指标 | Qwen3-1.7B (Model A) | Qwen3-8B (Model B) | Δ% |
|---|---|---|---|
| 输出 token 吞吐 | 188.2 tokens/s | 271.2 tokens/s | +44.1% ✅ |
| 每用户吞吐 | 47.5 tokens/s | 69.4 tokens/s | +45.9% ✅ |
| 请求吞吐 | 0.736 req/s | 1.08 req/s | +46.7% ✅ |
| 交互 token 延迟 | 20.9 ms | 14 ms | +33.0% ✅ |
| 请求延迟 | 5,382 ms | 3,658 ms | +32.0% ✅ |
| 首 token 时间 | 67.5 ms | 166.3 ms | −146.5% ❌ |
结果显示更大模型在吞吐和端到端延迟上优势明显，小模型在首 token 时间上仍有优势——代理会根据你的具体成本与延迟目标给出最终推荐。
常见问题与边界
- 技能仅支持 MCP 兼容代理，未兼容者需先升级代理版本
- 基准测试会产生真实流量，请确保端点安全
- 成本以官方 SageMaker 定价为准（实时查询
风险与边界
风险与边界
- 所有操作均由代理生成代码执行，请务必自行审查权限与安全组配置，避免意外扩容
- 本文为 AWS 官方公告解读，非法律意见，具体以 AWS 控制台实时数据为准
- 使用前请确认账户地区支持 SageMaker 托管推理
延伸阅读
- [Cursor 订阅价格与对比]
- [Claude Code 订阅方案]
- AWS Agent Toolkit 官方文档
- [Cursor 与 Cursor 代理工作流]
English summary
Amazon SageMaker optimized generative AI inference now includes the aws-ai-ml skill via Agent Toolkit for AWS. Coding agents like Kiro and Claude Code instantly gain inference optimization expertise, benchmark endpoints, recommend instance types, compare runs, and generate production-ready SageMaker Python SDK v3 code. Setup takes just 10 minutes locally or in SageMaker Studio. Perfect for engineers already using Cursor, Windsurf, or Claude Code who want to move models from experiment to high-scale production with real performance data instead of estimates. Pricing and availability follow standard AWS SageMaker rates—check the console for your region. This skill bridges natural-language intent with production infrastructure, giving developers full visibility and control while reducing months of manual tuning.