コンテンツにスキップ
メインサイト ニュース コンソール

【リリース】DeepSeek-V4.1-Flash-1017 の ISTA GSQ-RCO GGUF 重み

· Reddit · r/LocalLLaMA 翻訳済
Reddit

GSQ および RCO 量子化を採用した DeepSeek-V4.1-Flash-1017 をリリースしました。重みあたりわずか 1.75 〜 2.25 ビット(bits per weight)となっています。

DeepSeek-V4.1-Flash-1017 は、スパース混合エキスパート(Sparse Mixture-of-Experts、MoE)モデルです。各層に 384 個のルーティングエキスパート(routed experts)を備え、トークンごとにそのうち 6 個をアクティブ化します。総パラメータ数は 763.2B(7,632 億)で、1M トークンのコンテキストウィンドウを搭載しています。本モデルは F