Running Qwen3.8-Flash-Next in 12GB of VRAM
Strataという新しいツールが登場し、非常に少ないVRAM構成でも1250億パラメータのLLM(Qwen3.8-Flash-Next)を実行できると謳っています。これは単なる宣伝文句なのでしょうか、それとも本当に動作するのでしょうか?早速モデルをダウンロードし、セットアップして、様々なVRAM構成でテストしてみましょう!
Strata: https://github.com/Niko1221/Strata
DAS Lab: https://huggingface.co/ISTA-DASLab/Qw...
チャプター:
00:00 はじめに
00:36 Qwen3.8-Flash-Next
01:31 Strataについて
02:21 Austrian Flash
03:17 ハードウェア設定
05:11 Strataのインストール
08:09 12GBでの動作
09:48 36GBでの動作
11:17 より厳しいテスト
13:43 まとめ
15:33 エンディング
Discordサーバーに参加しよう! / discord
認定ローカルホストになろう! / @noplacelikelocalhost
または、Patreonでチャンネルをサポートしてください: / noplacelikelocalhost
ご視聴ありがとうございました!
コメント 読み込み中…