fluid_cluster_train_cn.md #8656
Closed
Conversation
This file contains bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Yancey1989
reviewed
Feb 28, 2018
| @@ -0,0 +1,126 @@ | |||
| # Fluid 分布式版本使用指南 | |||
| > 本篇文章将说明在Paddle Fluid 版本下进行分布式训练的配置和执行 | |||
| * 可用的集群 | ||
| 包含一个或多个计算节点的集群，每一个节点都能够执行PaddlePaddle的训练任务且拥有唯一的IP地址，集群内的所有计算节点可以通过网络相互通信。 | ||
| * 安装PaddlePaddle Fluid with Distribute 版本 | ||
| 所有的计算节点上均需要按照分布式版本的PaddlePaddle, 在用于GPU等设备的机器上还需要额外安装好相应的驱动程序和CUDA的库。 |
| 包含一个或多个计算节点的集群，每一个节点都能够执行PaddlePaddle的训练任务且拥有唯一的IP地址，集群内的所有计算节点可以通过网络相互通信。 | ||
| * 安装PaddlePaddle Fluid with Distribute 版本 | ||
| 所有的计算节点上均需要按照分布式版本的PaddlePaddle, 在用于GPU等设备的机器上还需要额外安装好相应的驱动程序和CUDA的库。 | ||
| **注意：**当前对外提供的PaddlePaddle版本并不支持分布式，需要通过源码重新编译。编译和安装方法参见[URL](http://www.paddlepaddle.org/docs/develop/documentation/en/getstarted/build_and_install/index_en.html)。 |
There was a problem hiding this comment.
**注意：**当前对外提供的PaddlePaddle版本
和上一段需要空一行，否则显示的格式不对。
| 所有的计算节点上均需要按照分布式版本的PaddlePaddle, 在用于GPU等设备的机器上还需要额外安装好相应的驱动程序和CUDA的库。 | ||
| **注意：**当前对外提供的PaddlePaddle版本并不支持分布式，需要通过源码重新编译。编译和安装方法参见[URL](http://www.paddlepaddle.org/docs/develop/documentation/en/getstarted/build_and_install/index_en.html)。 | ||
| cmake编译命令中需要将WITH_DISTRIBUTE设置为ON，下面是一个最小化的cmake编译指令： | ||
| ``` |
There was a problem hiding this comment.
包含linux命令的的代码引用最好使用
```bash
| ``` | ||
| ## 更新训练脚本 | ||
| 这里，我们以[Deep Learing 101](http://www.paddlepaddle.org/docs/develop/book/01.fit_a_line/index.html)课程中的第一章 fit a line 为例。 | ||
| ### 非分布式训练脚本 |
There was a problem hiding this comment.
非分布式训练脚本
改成 单机训练脚本 更直观。
| 我们创建了一个简单的全连接神经网络程序，并且通过fluid的Executor执行了100次迭代。 | ||
| 现在我们需要将该非分布式版本的程序更新为分布式版本的程序。 | ||
|
|
||
| ### 介绍parameter server |
There was a problem hiding this comment.
parameter server
=>
Parameter Server
| 启动顺序，先启动全部的PSERVER后，再启动TRAINER。 | ||
| **其中：training_role 是用来区分当前所起服务的角色的，用于训练程序中，用户可根据需要自行定义，其他参数为fluid.DistributeTranspiler的transpile函数所需要，需要在调用函数前进行定义，至于如何从外部环境传入，用户可自定义。** | ||
|
|
||
| ### DEMO |
There was a problem hiding this comment.
中文的话，可以统一用中文标题吧
DEMO
=>
样例
|  | ||
| **因此，在分布式的Fluid环境中，我们有两个角色需要创建，分别是 Parameter Server 和 Trainer** | ||
|
|
||
| ### 程序分片 |
There was a problem hiding this comment.
程序分片这个标题听起来比较奇怪，可以换成其他的名字么？例如 分布式程序 ？
Yancey1989
reviewed
Mar 2, 2018
| exit(0) # if avg cost less than 10.0, we think our code is good. | ||
| exit(1) | ||
| ``` | ||
| 我们创建了一个简单的全连接神经网络程序，并且通过fluid的Executor执行了100次迭代。 |
| 我们创建了一个简单的全连接神经网络程序，并且通过fluid的Executor执行了100次迭代。 | ||
| 现在我们需要将该单机训练版本的程序更新为分布式版本的程序。 | ||
|
|
||
| ### 介绍Parameter server |
There was a problem hiding this comment.
Parameter server
=>
Parameter Server
| PADDLE_INIT_PORT=6174 PADDLE_INIT_PSERVERS=192.168.1.2 TRAINERS=2 POD_IP=192.168.1.2 PADDLE_INIT_TRAINER_ID=1 TRAINING_ROLE=PSERVER python test_fit_a_line.py | ||
| ``` | ||
| 执行命令后请等待出现提示： ``` Server listening on 192.168.1.2:6174 ``` | ||
| 第二步：启动trainer, 启动trainer的命令： |
There was a problem hiding this comment.
第二步：启动trainer, 启动trainer的命令：
需要在这行上面空一行，不然会和上一行显示在一起。
|
@seiriosPlus can you update this PR or create a new one? |
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.
This suggestion is invalid because no changes were made to the code.
Suggestions cannot be applied while the pull request is closed.
Suggestions cannot be applied while viewing a subset of changes.
Only one suggestion per line can be applied in a batch.
Add this suggestion to a batch that can be applied as a single commit.
Applying suggestions on deleted lines is not supported.
You must change the existing code in this line in order to create a valid suggestion.
Outdated suggestions cannot be applied.
This suggestion has been applied or marked resolved.
Suggestions cannot be applied from pending reviews.
Suggestions cannot be applied on multi-line comments.
Suggestions cannot be applied while the pull request is queued to merge.
Suggestion cannot be applied right now. Please check back later.
fix #8637