苏剑林是一位在人工智能领域,尤其是自然语言处理(NLP)方向有显著贡献的中国研究者、技术博主和开源开发者。他因深厚的数学功底、对Transformer架构的深刻理解以及提出的旋转位置编码(RoPE) 而闻名,在AI技术圈被许多人尊称为“苏神”。核心贡献与影响旋转位置编码(RoPE):这是苏剑林最广为人知的贡献。他提出的RoPE通过巧妙的数学方法解决了Transformer模型在处理长序列时的位置信息问题,既能保持计算效率,又能实现更好的外推能力。这一创新已成为众多主流大模型(如LLaMA、GPT系列、Google的FLASH模型等)的标准组件,对大模型技术发展影响深远。
“科学空间”博客:自2008年起,他持续在个人博客“科学空间”(网页链接)分享高质量的技术文章,内容涵盖数学、物理、机器学习和NLP等多个领域。该博客因其深入浅出的讲解风格,已成为许多人学习大模型技术的重要参考资料,在技术学院派中口碑极高。
工业界成就:他目前是AI公司“月之暗面”(Kimi)的核心架构师,是Kimi K3等关键技术的主要贡献者之一,在模型架构(如注意力残差AttnRes)和训练稳定性方向发挥着关键作用。在此之前,他也曾在追一科技从事NLP研究。个人背景与特点教育背景:1993年出生于广东云浮,本科就读于华南师范大学数学科学学院,硕士毕业于中山大学数学学院。
研究风格:以“扫地僧”式的低调风格著称,擅长将扎实的数学理论应用于解决实际的工程问题,其很多重要成果并非通过传统学术会议发表,而是源于博客和开源社区的分享。
个人兴趣:他对科学抱有广泛兴趣,爱好阅读、象棋和烹饪,曾在自述中提到喜欢思考但“容易感情用事”,崇拜物理学家费曼(Feynman)。