🚀 AMD 开发者大会高光|小红书 Relax 团队解读超大规模多模态 Agentic RL实践 #37
txr-commits
started this conversation in
General
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
小红书AI平台团队技术动态
我们是小红书大模型基建团队,专注打造领先易用的AI 大模型全链路基础设施,深耕数-训-压-推-评技术闭环,基于自研 Relax 强化学习框架后训练框架,持续赋能公司核心业务高效落地。
近期,团队凭借领先的技术实力,与AMD达成合作并受邀登台分享,并受邀在百度文心PFCC、华为INSPIRE大会进行技术实践分享:
🤝 硬件生态共建(AMD)
合作内容: 深度共建硬件生态,全面优化自研大模型强化学习框架 Relax 的底层效能。
受邀分享: 5.19 AMD 开发者大会
💡 多模态 RL 实践交流(百度文心 & 华为)
技术交流: 联合开展多模态强化学习技术交流,攻克多模态数据带来的低效与不稳定。
受邀分享: 5.21 百度文心飞桨 PFCC talk(线上直播,核心预告 🔗)
受邀分享: 6.4 华为INSPIRE大会 ( 预告 )
📍 第一站:直击 5.19 AMD 开发者大会
5月19日,小红书 AI 平台团队受邀参加 AMD 开发者大会,并在下午的演讲中带来了干货满满的技术分享!
本次受邀,源于小红书自研的大模型强化学习框架 Relax 与 AMD 展开了深入的硬件生态共建,目前框架已完成对 MI300 卡型的适配支持,我们向行业伙伴展示了软硬件协同优化的最新范式,吸引了众多技术大牛的驻足与交流。
📍 第二站:预告 5.21 百度飞桨 PFCC talk
5 月 21 日(本周四)晚上 19:05 - 19:35,Relax 团队将做客百度飞桨 PFCC talk,本次分享的主题是多模态Agentic RL稳定高效训练实践,为大家介绍小红书AI平台在 AI Infra 领域的破局实践。
除了介绍多模态 Agentic RL,我们还会分享多模态 Agentic RL 落地中的超硬核工程实践经验。如果你在训练大模型时也遇到过以下折磨,那这场直播你绝对不能错过:
🛠️ 痛点一:多模下 RL 训练性能差?
直播剧透: 我们从权重加载和保存、长文多图场景下的混合并行策略、多模重计算加速、长尾 rollout 等角度进行探讨和实践,分享RL性能调优的经验,并介绍 Relax 的 transfer queue 数据中控和全异步流水线。
🛠️ 痛点二:模型训练越跑越歪?
直播剧透: RL 崩溃是大家训练中最头疼的问题了,而其中除了训推 mismatch 外,还有哪些会导致崩溃的原因呢?我们将分享在 RL 正确性和稳定性上的经验和问题排查思路,并且强调其中踩过的一些坑和建议。
💡 这些在业界极少公开的底层踩坑与填坑经验,我们将在周四晚 19:05 的直播间里毫无保留地打包分享!
📍 第三站:预告 6.4 华为 INSPIRE 大会
6 月 4 日,Relax 团队将亮相华为 INSPIRE 大会,团队将围绕小红书多模态 RL 实践进行技术交流分享,敬请期待~
欢迎大家扫描下方二维码进 Relax 微信交流群!群内持续推送 Relax 技术交流分享会资讯,专业解答各类 Relax 技术难题,一起交流学习共同进步~
💖 关于我们
🏠 我们是谁
我们是小红书大模型基建团队,专注打造领先易用的「AI 大模型全链路基础设施」! 团队深耕大模型「数-训-压-推-评」技术闭环,在大模型训练加速、模型压缩、推理优化、部署提效等方向积累了深厚的技术优势,基于 RedAccel 训练引擎、RedSlim 压缩工具、RedServing/rLLM 推理部署引擎、DirectLLM 大模型 API 服务、QuickSilver 大模型生产部署平台等核心产品,持续赋能社区、商业、交易、安全、数平、研效等多个核心业务,实现 AI 技术高效落地!
🚀 我们的使命
让大模型开发像拼乐高积木一样简单,性能更快,成本更低! 我们致力于构建 "开箱即用、全链路覆盖" 的 AI 生产流水线,通过前沿算法精调、极致推理优化、大模型零代码生产部署等能力,推动大模型技术实现算法普惠化、部署轻量化、开发民主化,助力各业务场景打造 AI 大模型技术落地标杆,让每一位同学都能以更低成本、更高效率释放强大的 AI 生产力!
资源链接
GitHub:https://github.com/redai-infra/Relax
公开文档站:relax-docs.devops.xiaohongshu.com(内部)、redai-infra.github.io/Relax(外部)
内部镜像 / 发布信息:https://docs.xiaohongshu.com/doc/7a1ef1686065ff64b5941f737ce9928a
REDtech 公开介绍:https://mp.weixin.qq.com/s/u0-tZEWTPX4Jh9y9EbVJ1g
All reactions