[WIP] A Distributed Synchronous SGD Algorithm with Global Top-k Sparsification for Low Bandwidth Networks

[mitsuhiko-nozawa]

一言でいうと

論文リンク

https://arxiv.org/pdf/1901.04359.pdf

著者/所属機関

Shaohuai Shi†, Qiang Wang†, Kaiyong Zhao†, Zhenheng Tang†, Yuxin Wang†, Xiang Huang‡, Xiaowen Chu∗†
†Department of Computer Science, Hong Kong Baptist University
‡MassGrid.com, Shenzhen District Block Technology Co., Ltd.

投稿日付(yyyy/MM/dd)

ICDCS2019
2019/7/7 ~ 10

概要

新規性・差分

手法

結果

コメント