GLM 5.3 上线 Amazon Bedrock
智谱（Z.ai）的 GLM 5.3 已在 Amazon Bedrock 上线，这是一个 753B 参数的 MoE 模型，面向编码和长周期智能体任务，可通过全托管 API 调用，支持跨区域推理、提示词缓存和服务层级。
推荐理由：GLM 5.3 在 Bedrock 上线，文中给出提示词缓存与安全测试智能体的完整调用示例，可据此评估托管开源模型的落地方式。
技术方向
部署工程 最新动态
把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。
9 条精选近 30 天 7 条共收录 44 条
更新
部署工程的精选
AWS Machine Learning Blog精选AI 评分6262
AWS Machine Learning Blog精选AI 评分6060 在 Amazon SageMaker AI 上用多轮 RL 微调搜索智能体
AWS 团队介绍如何用 Amazon SageMaker AI 的多轮强化学习（MTRL）微调 Qwen3.6-27B 搜索智能体，仅调整 max_epochs、global_batch_size、rollout_max_concurrency 三个超参数，其余走默认值。
推荐理由：AWS 团队公开了用 SageMaker AI 多轮 RL 微调搜索智能体的完整配置与四个基准的实测对比，可迁移到自有检索场景。
NVIDIA Blog精选AI 评分6060 NVIDIA DGX Spark 推出 64GB 版本，双机集群可跑 200B 参数模型
NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 推出 64GB 统一内存版 DGX Spark，起售价 4,999 美元，保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈，单机支持最高 1000 亿参数模型。
推荐理由：原文给出 64GB 新配置的定价、上市时间和双机集群性能数据，可据此判断本地跑大模型的门槛变化。
NVIDIA Blog精选AI 评分7474 NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast 已在 OpenAI API 上线，并向符合条件的 ChatGPT Work 和 Codex 用户开放，运行在 NVIDIA Blackwell GPU 上。
推荐理由：原文给出 Ultrafast 模式相对标准模式的生成速度提升与开放入口，读者可据此判断它对编码智能体循环的实际影响。
NVIDIA Blog精选AI 评分6060 NVIDIA 与 CoreWeave 将 Vera Rubin NVL72 投入生产，Cognition 为首家客户
CoreWeave 宣布 NVIDIA Vera Rubin NVL72 系统搭配 Spectrum-X 102.4T 以太网在 CoreWeave Cloud 上可用，Cognition 成为首个在生产负载上运行该系统的客户。
推荐理由：CoreWeave 上线 Vera Rubin NVL72 并公布 Devin 实测吞吐数据，可据此判断智能体编码负载的算力成本走向。
Microsoft Research精选AI 评分6262 微软研究院：将物理 AI 推理卸载到边缘或云端可提升机器人性能与续航
微软研究院对移动操作机器人工作负载做了系统性测量，发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU 可提升任务成功率、支持更大模型并延长续航。
推荐理由：微软研究院系统测量了机器人端侧 GPU 推理的瓶颈，并给出可复用的 Kubernetes 卸载方案与开源工具链。
GitHub Blog · AI & ML精选AI 评分7878 GitHub 用 Copilot 把 Copilot 运行时迁移到 Rust
GitHub 用 GitHub Copilot app 和 Copilot CLI 把 Copilot agent runtime 从 TypeScript 完全重写为超过 80 万行生产级 Rust，代码主要由 AI 智能体编写，分布在 128 个 PR 中增量落地，而非一次性切换。
推荐理由：作者以亲历者身份复盘用 AI 智能体把 Copilot 运行时从 TypeScript 迁到 Rust 的完整过程，给出可迁移的多智能体协作与缓存策略。
Google DeepMind精选AI 评分7676 Google DeepMind 发布 WeatherNext 3 全球天气 AI 模型
Google DeepMind 与 Google Research 发布 WeatherNext 3，称其为迄今最先进、最准确的全球天气模型，并已接入 Search、Gemini、Google Maps、Google Maps Platform 和 Cloud。
推荐理由：官方给出分辨率、更新频率与降水精度等具体指标，可据此判断 AI 天气预报在 Google 产品中的落地程度。
Berkeley AI Research精选AI 评分6262 从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon
Berkeley AI Research 与 IBM Research 将演化式内核搜索框架 K-Search 扩展到 MLX 后端，通过结构化的 CUDA 到 MLX 翻译层，把已有 CUDA 内核作为知识库迁移到 Apple Silicon。
推荐理由：展示了把 CUDA 内核优化经验结构化迁移到 Apple Silicon 的方法，并给出注意力与 Mamba 两类内核的实测对比。