【ローカルLLM】国産LLM「LLM-jp-4-33B」と「Qwen3.8-27B」の推論性能比較(RTX 5070 Ti + RTX 3070 Ti)
AI SUMMARY
このリソースでできること
国産LLM「LLM-jp-4-33B」と「Qwen3.8-27B」の推論性能を、同条件(Q4_K_M量子化、RTX 5070 Ti + RTX 3070 Ti)で比較検証。両モデルともDense型・Thinking対応で、独自ベンチマーク(Core 128問、Challenge 80問)を用いて評価。
AIによる要約です。正確な仕様は公開元をご確認ください。ORIGINAL SOURCE
公開元で詳細を確認
最新情報、導入手順、ライセンスは必ず元ページで確認してください。
RELATED RESOURCES
関連するリソース
タグ・カテゴリ・種類から提案
14MBのAIモデルは本当に動いた — DLL 1個・RAM 37MB・1回0.5秒、ただし日本語は0/5
カテゴリ: 調査・検索
カテゴリ: AI・LLM・エージェント開発
タグ: Local LLM
タグ: Performance
同じQiita記事
TransformerのKVキャッシュを用いたDecode処理を理解する
カテゴリ: 調査・検索
カテゴリ: AI・LLM・エージェント開発
タグ: LLM
タグ: Performance
同じQiita記事
【ローカルLLM】Qwen3.8-27Bの推論性能をテストする(WSL2 + Ollama + RTX 5070 Ti)
カテゴリ: AI・LLM・エージェント開発
タグ: Local LLM
タグ: Performance
同じQiita記事
オントロジー × グラフ × LLM の実装と評価(基礎編)
カテゴリ: 調査・検索
カテゴリ: AI・LLM・エージェント開発
タグ: LLM
同じQiita記事