Skip to content

Release-2.0.1
Compare
Choose a tag to compare
@paynie paynie released this 11 Jan 09:21
Release-2.0.1
ed56922
This commit was created on GitHub.com and signed with GitHub’s verified signature. The key has expired.
GPG key ID: 4AEE18F83AFDEB23
Expired
Learn about vigilant mode.

Release-2.0.1

这个版本针对Spark On Angel FTRL算法做了进一步的优化，提升了在高维度模型条件下的训练和模型保存的性能，并增加了增量训练的功能。与Angel版本的FTRL相比，Spark On Angel的FTRL有一些针对性的优化，性能更好并且调参门槛更低，推荐使用。

除了优化FTRL之外，这个版本还引入了一系列的新的优化器和Decay策略，并调整了一些参数的默认值，在大部分情况下算法会收敛的更好。

这个版本在文档方面也进行了完善：增加了一些诸如优化器选择，Decay策略调整等的指南文档，还有使用OpenBlas给深度学习加速的指南，如果要使用Angel的深度学习算法，请务必参考该文档，在我们的评测中，使用OpenBlas后性能一般有10X以上的提升。

  • [ISSUE-585] 添加如何使用OpenBlas进行矩阵运算加速的文档
  • [ISSUE-569] 优化Spark On Angel FTRL计算和模型保存性能
  • [ISSUE-613] 增加Spark On Angel FTRL 增量训练功能
  • [ISSUE-611] 添加几个能使用L1正则化的优化器：AdaGrad/AdaDelta
  • [ISSUE-612] 添加目前主流的几种Decay 算法，优化默认参数避免decay太快
  • [ISSUE-615] 修复network embedding中subsample带来的节点个数不一致的问题
  • [ISSUE-616] 修复量化压缩PSF中的向量casting问题
Assets 3
Loading