使用KubeFATE快速部署联邦学习实验开发环境（二）
概述
在前面的文章中，我们介绍过如何使用KubeFATE来部署一个单节点的FATE联邦学习集群。在真实的应用场景中，联邦学习往往需要多个参与方联合起来一起完成任务。基于此，本文将讲述如何通过KubeFATE和Docker-Compose来部署两个参与方的FATE集群，并在集群上运行一些简单的测试以验证其功能的完整性。
FATE集群的组网方式
联邦学习的训练任务需要多方参与，如图1所示，每一个party node都是一方，并且每个party node都有各自的一套FATE集群。而party node和party node之间的发现方式有两种。分别是点对点和星型。默认情况下，使用KubeFATE部署的多方集群会通过点对点的方式组网，但KubeFATE也可以单独部署Exchange服务以支持星型组网。
图 1 FATE集群组网方式
部署两方训练的集群
KubeFATE的使用分成两部分，第一部分是生成FATE集群的启动文件（docker-compose.yaml），第二个部分是通过docker-compose的方式去启动FATE集群。从逻辑上可将进行这两部分工作的机器分别称为部署机和目标机器。
Figure 1部署机目标机关系图
目标
两个可以互通的FATE实例，每个实例均包括FATE所有组件，实例分别部署在不同的两台机器上。
准备工作
两个主机（物理机或者虚拟机，Ubuntu或Centos7系统，允许以root用户登录）；
所有主机安装Docker 版本 : 18+； 所有主机安装Docker-Compose 版本: 1.24+； 部署机可以联网，所以主机相互之间可以网络互通； 运行机已经下载FATE 的各组件镜像
Docker的安装以及FATE镜像的下载请参考前文，接下来我们将把两台主机划分为workspace1和workspace2。其中workspace1既作为部署机也作为目标机，而workspace2则作为目标机，每个机器运行一个FATE实例。这里两台主机的IP分别为192.168.7.1和192.168.7.2。用户需要根据实际情况做出修改。具体部署架构如图2所示。
图2 部署架构图
以下操作需在workspace1上并以root用户进行。
下载并解压Kubefate1.3的kubefate-docker-compose.tar.gz资源包
# curl -OL
https://github.com/FederatedAI/KubeFATE/releases/download/v1.3.0/kubefate-docker-compose.tar.gz
# tar -xzf kubefate-docker-compose.tar.gz
定义需要部署的实例数目
进入docker-deploy目录
# cd docker-deploy/
编辑parties.conf如下
# vi parties.conf
user=root
dir=/data/projects/fate
partylist=(10000 9999)
partyiplist=(192.168.7.1 192.168.7.2)
servingiplist=(192.168.7.1 192.168.7.2)
exchangeip=
根据以上定义party 10000的集群将部署在workspace1上，而party 9999的集群将部署在workspace2上。
执行生成集群启动文件脚本
# bash generate_config.sh
执行启动集群脚本
# bash docker_deploy.sh all
命令输入后需要用户输入4次root用户的密码
验证集群基本功能
# docker exec -it confs-10000_python_1 bash
# cd /data/projects/fate/python/examples/toy_example
# python run_toy_example.py 10000 9999 1
如果测试通过，屏幕将显示类似如下消息：
"2019-08-29 07:21:25,353 - secure_add_guest.py[line:96] - INFO: begin to init parameters of secure add example guest"
"2019-08-29 07:21:25,354 - secure_add_guest.py[line:99] - INFO: begin to make guest data"
"2019-08-29 07:21:26,225 - secure_add_guest.py[line:102] - INFO: split data into two random parts"
"2019-08-29 07:21:29,140 - secure_add_guest.py[line:105] - INFO: share one random part data to host"
"2019-08-29 07:21:29,237 - secure_add_guest.py[line:108] - INFO: get share of one random part data from host"
"2019-08-29 07:21:33,073 - secure_add_guest.py[line:111] - INFO: begin to get sum of guest and host"
"2019-08-29 07:21:33,920 - secure_add_guest.py[line:114] - INFO: receive host sum from guest"
"2019-08-29 07:21:34,118 - secure_add_guest.py[line:121] - INFO: success to calculate secure_sum, it is 2000.0000000000002"
验证Serving-Service功能
以下内容将会对部署好的两个FATE集群进行简单的训练和推理测试。训练所用到的数据集是”breast”（https://www.kaggle.com/yuqing01/breast-cancer），其中”breast”按列分为”breast_a”和”breast_b”两部分，参与训练的host方持有”breast_a”，而guest方则持有”breast_b”。guest和host将联合起来对数据集进行一个异构的逻辑回归训练。最后当训练完成后还会将得到的模型推送到FATE Serving作在线推理。
以下操作在workspace1上进行
进入python容器
# docker exec -it confs-10000_python_1 bash
进入fate_flow目录
# cd fate_flow
修改examples/upload_host.json
# vi examples/upload_host.json
{
"file": "examples/data/breast_a.csv",
"head": 1,
"partition": 10,
"work_mode": 1,
"namespace": "fate_flow_test_breast",
"table_name": "breast"
}
把“breast_a.csv”上传到系统中
# python fate_flow_client.py -f upload -c examples/upload_host.json
以下操作在workspace2上进行
进入python容器
# docker exec -it confs-9999_python_1 bash
进入fate_flow目录
# cd fate_flow
修改examples/upload_guest.json
# vi examples/upload_guest.json
{
"file": "examples/data/breast_b.csv",
"head": 1,
"partition": 10,
"work_mode": 1,
"namespace": "fate_flow_test_breast",
"table_name": "breast"
}
把“breast_b.csv”上传到系统中
# python fate_flow_client.py -f upload -c examples/upload_guest.json
修改examples/test_hetero_lr_job_conf.json
# vi examples/test_hetero_lr_job_conf.json
{
"initiator": {
"role": "guest",
"party_id": 9999
},
"job_parameters": {
"work_mode": 1
},
"role": {
"guest": [9999],
"host": [10000],
"arbiter": [10000]
},
"role_parameters": {
"guest": {
"args": {
"data": {
"train_data": [{"name": "breast", "namespace": "fate_flow_test_breast"}]
}
},
"dataio_0":{
"with_label": [true],
"label_name": ["y"],
"label_type": ["int"],
"output_format": ["dense"]
}
},
"host": {
"args": {
"data": {
"train_data": [{"name": "breast", "namespace": "fate_flow_test_breast"}]
}
},
"dataio_0":{
"with_label": [false],
"output_format": ["dense"]
}
}
},
....
}
提交任务对上传的数据集进行训练
# python fate_flow_client.py -f submit_job -d examples/test_hetero_lr_job_dsl.json -c examples/test_hetero_lr_job_conf.json
输出结果：
{
"data": {
"board_url": "http://fateboard:8080/index.html#/dashboard?job_id=202003060553168191842&role=guest&party_id=9999",
"job_dsl_path": "/data/projects/fate/python/jobs/202003060553168191842/job_dsl.json",
"job_runtime_conf_path": "/data/projects/fate/python/jobs/202003060553168191842/job_runtime_conf.json",
"logs_directory": "/data/projects/fate/python/logs/202003060553168191842",
"model_info": {
"model_id": "arbiter-10000#guest-9999#host-10000#model",
"model_version": "202003060553168191842"
}
},
"jobId": "202003060553168191842",
"retcode": 0,
"retmsg": "success"
}
训练好的模型会存储在EGG节点中，模型可通过在上述输出中的“model_id” 和 “model_version” 来定位。FATE Serving的加载和绑定模型操作都需要用户提供这两个值。
查看任务状态直到”f_status”为success，把上一步中输出的“jobId”方在“-j”后面。
# python fate_flow_client.py -f query_task -j 202003060553168191842 | grep f_status
output：
"f_status": "success",
"f_status": "success",
修改加载模型的配置，把上一步中输出的“model_id”和“model_version”与文件中的进行替换。
# vi examples/publish_load_model.json
{
"initiator": {
"party_id": "9999",
"role": "guest"
},
"role": {
"guest": ["9999"],
"host": ["10000"],
"arbiter": ["10000"]
},
"job_parameters": {
"work_mode": 1,
"model_id": "arbiter-10000#guest-9999#host-10000#model",
"model_version": "202003060553168191842"
}
}
加载模型# python fate_flow_client.py -f load -c examples/publish_load_model.json
修改绑定模型的配置, 替换“model_id”和“model_version”，并给“service_id”赋值“test”。其中“service_id”是推理服务的标识，该标识与一个模型关联。用户向FATE Serving发送请求时需要带上“service_id”，这样FATE Serving才会知道用哪个模型处理用户的推理请求。
# vi examples/bind_model_service.json
{
"service_id": "test",
"initiator": {
"party_id": "9999",
"role": "guest"
},
"role": {
"guest": ["9999"],
"host": ["10000"],
"arbiter": ["10000"]
},
"job_parameters": {
"work_mode": 1,
"model_id": "arbiter-10000#guest-9999#host-10000#model",
"model_version": "202003060553168191842"
}
}
绑定模型
# python fate_flow_client.py -f bind -c examples/bind_model_service.json
在线测试，通过curl发送以下信息到192.168.7.2:8059/federation/v1/inference
curl -X POST -H 'Content-Type: application/json' -d ' {"head":{"serviceId":"test"},"body":{"featureData": {"x0": 0.254879,"x1": -1.046633,"x2": 0.209656,"x3": 0.074214,"x4": -0.441366,"x5": -0.377645,"x6": -0.485934,"x7": 0.347072,"x8": -0.287570,"x9": -0.733474}}' 'http://192.168.7.2:8059/federation/v1/inference'
输出结果:
{"flag":0,"data":{"prob":0.30684422824464636,"retmsg":"success","retcode":0}
若输出结果如上所示，则验证了serving-service的功能是正常的。上述结果说明有以上特征的人确诊概率为30%左右。
删除部署
如果需要删除部署，则在部署机器上运行以下命令可以停止所有FATE集群：# bash docker_deploy.sh --delete all
如果想要彻底删除在运行机器上部署的FATE，可以分别登录节点，然后运行命令：# cd /data/projects/fate/confs-<id>/ # the id of party
# docker-compose down
# rm -rf ../confs-<id>/
VMware中国研发中心
现招聘实习生若干名
职位要求：
计算机科学或相近专业在读研究生
熟悉至少一门现代编程语言，如 Go, Python, Java, C++
有云原生技术，如容器，K8s等的项目经验优先
具有机器学习方面经验者优先，FATE社区参与者可直接进入面试
熟悉开源软件社区运作，参与过开源项目贡献者优先
关注KubeFATE和FATE开源项目
KubeFATE开源项目：
https://github.com/FederatedAI/KubeFATE
FATE开源项目：
https://github.com/FederatedAI/FATE
按图片扫描二维码，关注我们！