Article
ja
Strataを使ってMac mini(32GB)でQwen3.8-Flash-Next(125B)を動かす
Source: Qiita ·
初めに 普段は M4 Mac mini(32GB)でOllamaを使って30B前後のモデルでローカルLLM環境を作っているのですが、32GBだとどうしても動かせるモデルのサイズに限界があります。 そんな中、最近 Strata というツールが「メモリに入りきらない大きなモデ...
More like this
-
【AWS】GitHubのトラフィックを定期的に集計するダッシュボードを作ってみた
Article · Qiita
-
防御側の LLM 活用:ログ分析・アラート一次対応・脅威インテリジェンスで「ログを入力として疑う」設計
Article · Qiita
-
OCI ロードバランサのドレインとオフラインでリクエストはどうなるか試してみた
Article · Qiita
-
[AWS]日本語OCRがついにきちゃー! ~Textractにいろいろ読ませてみた~
Article · Qiita
-
Claude Code でグラレコ風の「AWS構成管理 できることマップ」を作ってみた
Article · Qiita
-
プロダクト検証基盤の整備に向けてテスト工程を支えるスキルを作成した
Article · Qiita