本文为 Robin.ly 授权转载，文章版权归原作者所有，转载请联系原作者。
本期Robin.ly AI访谈特邀Recurrent.ai的联合创始人、CMU博士杨植麟博士，介绍了他们团队共同发明的XLNet 算法，以及他和他的团队如何用人工智能技术赋能企业销售，提高与客户的沟通能力。
XLNet 算法在 20 个自然语言处理数据集上超越了之前最好的算法BERT。杨植麟博士的研究曾在超过30个数据集上取得了历史最优结果，包括自然语言推理、问答和半监督学习。他曾实习于谷歌大脑研究院和Facebook 人工智能研究院。此前他获得了卡耐基·梅隆大学博士学位和清华大学学士学位。
下文为Robin.ly主持人Alex与杨植麟博士的访谈实录。
大牛导师的影响
Alex:杨博士在整个博士期间正好经历了AI和自然语言处理、深度学习大发展的几年。你自己怎么看这几年发展的一些主要节点？
杨植麟：
NLP 的发展分成几个主要的阶段。第一个是word-embedding（词嵌入）的提出，大概是在2003年，Bengio 的团队发表了第一篇论文。在2013年， Mikolov 把这项工作推广成Word2vec 之后，这个领域逐渐流行起来。最后是注意力和记忆机制，大概是在2014年到 2015年。那个时候我刚好入学，随后就有两拨新的小高潮出现。第一波是在大概2017年的时候出现了Transformer，2017年左右预训练的思想开始流行。所以这几年的发展非常迅速，我感觉我也是运气特别好，能够在这一波潮流里面做一些工作。