🤖 AI 资讯

· ·
← 返回列表

亲手优化出 DeepSeek V4.1 算子的工程师,决定继续留在这场加速里

OSCHINA大模型,DeepSeek,推理思考,翻译字幕,教育学习,Transformer原文 ↗

DeepSeek 的机器学习系统工程师刘胜与,最近写了篇长文,标题透露出一种无力感:《我不得不把才华埋葬在昨天》。发出来就刷屏了,外网被翻译成多语言传播。 先说他写了什么。他是 DeepSeek V4.1 主 Attention 算子的作者——head dim = 512 的 MQA attention 是他独立实现并交付的。V4.1 在小模型和推理效率上的表现,有...