コンテンツにスキップ
メインサイト ニュース コンソール

PS5をJailbreakし、GPU上でQwen 3.8 27Bを20 tok/sで動作させることに成功

· Reddit · r/LocalLLaMA 翻訳済
Reddit

注目のディスカッション

DerrickBarra (⬆51): これらをクラスタ化して連結させて、タンパク質フォールディング(protein folding)問題を解かせようぜ。 TheFrenchSavage (⬆18): 最高だ、いけいけ! InuRyu (⬆179): なんでみんなタイトルに量子化(quantization)精度を明記しないのか、ずっと謎なんだけど。 someoneyouknow23 (⬆103): ポンコツになるまで量子化されてるってバレたら、誰も見に来てくれなくなるからだよ。 jtjstock (⬆34): 何も不思議なことはないだろ。iq2xss だと気づくまでは凄そうに見えるんだから。 vogelvogelvogelvogel (⬆13): 右下に iq2_xxs って書いてあるよ。 Squidgical (⬆40): おっ待って、これすごいな——まさかの IQ2-XXS か。 98Saman (OP) (⬆5): Xbox のセキュリティは本当に優秀だよ。初代 Xbox One(OG Xbox One)ですら、未だにクラックもJailbreakもされていないからね。