lyan
CodeFun
  • 首页
  • 归档
  • 关于
  • 链接
EN 中文 日本語
  1. 首页
  2. 归档
  3. 标签:LLM

Miles、Slime 与 Ray:大模型后训练闭环中的编排、训练与权重同步

2026-09-17

从后训练闭环、Reward/Verifier、Ray 控制面到 Weight Sync,梳理 Miles、Slime 与分布式训练基础设施的工程关系。

Megatron LLM Post-Training Reinforcement Learning Ray SGLang
阅读更多

深入浅出 Agent Loop 机制

lyan 2026-08-14

从模型、MCP server 与客户端的分工出发,拆解 agent loop、Skill、MCP 以及多 agent 的工作机制。

Agent MCP 技术架构 LLM 多智能体
阅读更多

Megatron-Bridge 实战:Nemotron、Megatron-Core 与 Transformer Engine 技术栈的生产级 101 指南

lyan 2026-05-21

从 Hugging Face 权重到可扩展 Megatron 训练:深入解释文件结构、系统架构、并行感知转换、Nemotron MoE,以及可复现的 import→fine-tune→export 101 流程。

NVIDIA Training MLOps Megatron Nemotron LLM
阅读更多

Search

置顶文章

  • QEMU定时器系统最新概述
  • 闲聊Framebuffer
  • 忽然看到自己十年前发的关于转计算机专业的帖子,感慨万千
  • Linux 下使用 SDCC 进行 8051 单片机开发实践
  • (转)IOS SDK 兼容性 研究

热门文章

  • 忽然看到自己十年前发的关于转计算机专业的帖子,感慨万千
  • Linux内存管理
  • 深入浅出内存分配
  • Miles、Slime 与 Ray:大模型后训练闭环中的编排、训练与权重同步
  • Hands on DSH
  • 深入浅出 Agent Loop 机制
  • uv 的工作机制:Python 环境、依赖解析与缓存
  • 多模态 AI 中的交叉注意力:何时需要让一条信息流读取另一条信息流
  • InfiniBand 中的 LFT 与拓扑导出:在不扩大攻击面的前提下诊断网络

最新文章

  • Miles、Slime 与 Ray:大模型后训练闭环中的编排、训练与权重同步
  • Hands on DSH
  • 深入浅出 Agent Loop 机制
  • uv 的工作机制:Python 环境、依赖解析与缓存
  • 多模态 AI 中的交叉注意力:何时需要让一条信息流读取另一条信息流
  • InfiniBand 中的 LFT 与拓扑导出:在不扩大攻击面的前提下诊断网络
  • 融合注意力背后的决策引擎:Transformer Engine 如何在 Blackwell 上编排 cuDNN
  • Megatron-Bridge 实战:Nemotron、Megatron-Core 与 Transformer Engine 技术栈的生产级 101 指南
  • FMHA 101:从 Transformer 注意力到 CUDA Flash Attention 内核

标签云

Linux (61) XEN (29) Life (27) Memory (24) Virtualization (23) Diary (21) C/C++ (19) QEMU (17) test (15) AI (14) CPU (14) NVIDIA (13) InfiniBand (11) Interest (11) Algorithm (11) VisualStudio (11) HPC (10) GPU (10) KVM (10) LLM (9) Transformer (9) eBPF (8) Agent (8) MFC (8) OpenClaw (7) Debian (7) Engine (6) Megatron (6) MLOps (6) Security (6) TorchDynamo (6) PyTorch (6)
lyan
CodeFun

©2026 xryan.net.

Code all fun things in the world by Leon.

  • 友情链接
  • 关于我们
  • 意见反馈
QR Code
Scan to follow