Skip to content

教程文档:分布式专题 #481

@strint

Description

@strint

Maintainer List

@doombeaker @clackhan @strint @leaves-zwx

这些同事需要对本教程的正确性、专业性长期负责。

目的

发布分布式教程,以让开发者参考教程,可以自服务的完成分布式模型的搭建;

受众

所有用户和开发者;跟随0.8 周期完成;

稳定性

稳定性跟随特定Feature的稳定性;

完备性

1、Quick start @doombeaker
5分钟启动一个测试

  • 跑一个数据/模型混合并行;
  • 介绍启动方式;

2、1D 并行 @clackhan

  • 数据并行
  • 模型并行
  • 模型加载、保存

3、流水并行 @strint

  • 流水并行示例

4、2D 混合并行 + 流水并行 @leaves-zwx

  • 示例 + 推荐使用libai

测试

所有示例要求都可以执行

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions