GSQ および RCO 量子化を採用した DeepSeek-V4.1-Flash-1017 をリリースしました。重みあたりわずか 1.75 〜 2.25 ビット(bits per weight)となっています。
DeepSeek-V4.1-Flash-1017 は、スパース混合エキスパート(Sparse Mixture-of-Experts、MoE)モデルです。各層に 384 個のルーティングエキスパート(routed experts)を備え、トークンごとにそのうち 6 個をアクティブ化します。総パラメータ数は 763.2B(7,632 億)で、1M トークンのコンテキストウィンドウを搭載しています。本モデルは F