6月28日,字节跳动火山翻译团队宣布推出LightSeq训练加速引擎,并向全球开发者开源。据悉,这是业界完整支持Transformer模型全流程加速的训练引擎,最快可提速3倍以上,帮助从业者大幅提升模型生产效率。
资料显示,Transformer是自然语言处理、计算机视觉等AI技术领域最常用的基础模型,被广泛应用在机器翻译、文本生成、文本摘要、图像处理、时间序列预测等任务中。训练和推理则是AI技术的两个主要过程,相当于学习知识和解决问题。