llama.cpp Releases5時間前LocalLLMNEWllama.cppがGemma-4のOpenCL対応を強化llama.cppのOpenCLバックエンドが更新され、Gemma-4のE4BおよびE2BモデルのGPUデコードが有効化されました。また、DK64やDK512などの処理改善や最適化が行われています。gemmallamaopen-sourcelocal-llm
r/LocalLLaMA1日前LocalLLMEmbeddingGemma 2でファイルをローカル検索するMacアプリEmbeddingGemma 2を活用し、Mac上でローカル実行してファイルの内容から目的のデータを検索できるオープンソースアプリケーションが登場しました。gemmaopen-sourcelocal-llm
Qiita AI記事2日前ResearchEmbeddingGemma 2 を改良して、スマホで動く動画判定モデルReflex-2を開発GoogleのGemmaモデルをベースにした前回の画像・文章判定モデルに続き、動画と音声に対応したモバイル向けの新しい判定モデルReflex-2を開発したことについて解説している。gemmamultimodalresearch
AI Watch2日前LocalLLMGoogle、画像や動画にも対応する「EmbeddingGemma 2」を発表Googleが画像や動画などのマルチモーダルデータに対応した軽量なオープンモデル「EmbeddingGemma 2」を発表しました。Hugging FaceやKaggleで重みが公開されており、オンデバイスでのデプロイや各種開発ツールとの連携をサポートしています。gemmareleaseopen-sourcemultimodallocal-llm
Qiita AI記事3日前LocalLLM【360回の測定】Gemma 4 E4Bの出力速度が最大2.19倍に。主要GPUカーネルは速くないのに、なぜ?MTPを試す2つの方法NVIDIA A10Gを用いた360回の測定により、次トークンを先読みする補助モデルを活用することでGemma 4の出力速度が最大2.19倍に向上することが判明した。GPUカーネルの変更なしで高速化を実現する2つの方法を解説する。gemmalocal-llmbenchmark
Unsloth AI Blog4日前ResearchLLMの意思決定モデル構築QwenやGemmaなどの大規模言語モデルをファインチューニングし、較正された確率を用いて正確な意思決定を行わせる手法について解説しています。qwengemmafine-tuningresearch
Google DeepMind Blog5日前Researchオープンな軽量マルチモーダル埋め込みモデルGoogleは、オープンで軽量なマルチモーダル埋め込みモデルであるEmbeddingGemma 2を発表しました。多様なデータ形式に対応し、効率的な処理を実現する新しいモデルとして注目されています。gemmamultimodalopen-sourceresearch
Qiita AI記事5日前LocalLLMEmbeddingGemma 2解説:マルチモーダル埋め込みをオンデバイスで動かすGoogleが公開したオープンウェイトのマルチモーダル埋め込みモデルEmbeddingGemma 2について解説。テキストや画像などをオンデバイスで処理可能な最大740Mパラメータのモデルの特徴や開発者ガイドを紹介しています。gemmaopen-sourcemultimodallocal-llmrelease
Qiita AI記事5日前LocalLLMGemma4 26b MoEをノートパソコンで可能な限り省電力で動かすローミドルクラスのノートパソコンでGemma4 26b MoEを効率的に動作させるためのワッパ最適化手法について解説しています。発熱や消費電力を抑えつつローカル環境で快適に運用するための実践的なアプローチが紹介されています。gemmalocal-llmopen-source
Unsloth AI Blog6日前LocalLLMEmbeddingGemma 2のローカル実行EmbeddingGemma 2をローカル環境で実行し、Unslothを使用してモデルをファインチューニングする方法について解説しています。gemmalocal-llmfine-tuning
Hugging Face Daily Papers20日前ResearchLLMの事前処理と生成を最適化する量子化手法大規模言語モデルのプロンプト処理とテキスト生成において異なる量子化アプローチを使い分ける新しい手法を提案しています。計算形式や重みの配置を各フェーズに特化させることで、推論コストを増やさずに精度を向上させます。qwengemmaresearchfine-tuning
llama.cpp Releases22日前LocalLLMllama.cppがgemma4のツール文法を修正llama.cppの最新アップデートであるb11058において、gemma4モデル利用時に必要となるツール呼び出しの文法に関する修正が行われました。これにより、ツール利用機能の安定性と互換性が向上しています。llamagemmalocal-llmtool-userelease
Zenn AI記事23日前LocalLLMGemmaはJevの夢を見るか?Jevの考え方である判断と確率を直接出力する手法を、ローカルLLMで実現するためのアプローチを解説。Gemmaを用いて、推論プロセスを軽量化しソフトウェア組み込みに適した形にするための具体的な実装や環境構築の可能性について論じている。gemmalocal-llmresearch
Hugging Face Daily Papers25日前Researchオンポリシー蒸留における出力長膨張の原因と対策オンポリシー蒸留において学習中のモデルの回答が不自然に長くなる長さ膨張現象を分析した研究。教師モデルと生徒モデルの間で終了トークンに対する解釈の不一致が生じることが主な原因であり、この不一致がモデルの生成終了を阻害していることを特定した。qwenllamagemmaresearchfine-tuning
Zenn AI記事25日前LocalLLMGemma 4とRaspberry Piでデスクトップ相棒ロボット『DinoDesk AI』を作った話Gemma 4とRaspberry Piを組み合わせたレゴ製のデスクトップ相棒ロボットDinoDesk AIの開発事例。レトロな8ビット風の挙動で作業タイマーやバグ相談などを支援する愛嬌あるAIコンパニオンを実現しており、技術と遊び心を融合させたユニークな個人プロジェクトとして紹介されている。gemmalocal-llmresearch
Qiita AI記事29日前Research📄医療業界に通なGemmaモデルがオープンソースモデルとしてあるらしい。MedGemmaはGemma 3をベースに医療テキストと画像の理解に特化したモデル群です。医療AI開発を加速させる目的で公開されており、MedGemma 1.5 4Bは従来モデルの更新版として医療分野でのさらなる活用が期待されています。gemmaopen-sourceresearch
Zenn AI記事1ヶ月前ToolsAIに「無人で働く部下」を持たせようとして、1日ハマり続けた話個人開発サービスの運用をAIに任せる実験の一環として、オープンソースの自律エージェント基盤OpenClawとGoogleのGemmaモデルを用い、事業状況を監視する無人のAI部下構築に挑んだ体験談。自律エージェントの実装過程における技術的な試行錯誤と苦闘が描かれている。gemmaagentopen-source
Zenn AI記事1ヶ月前LocalLLM30B級ローカルLLM、現場で使うならどれ?Qwen3.8・Muse Glimmer・Gemma4を比較【コーディング編】Qwen3.8やMuse Glimmerなど30Bクラスの主要ローカルLLMを用い、コーディングタスクにおける性能を比較検証した記事。タスクの性質によって最適なモデルが変化する様子を解説しており、実務でローカル環境のAIを活用する際の選定基準を示している。qwengemmalocal-llmbenchmark
Zenn AI記事1ヶ月前LocalLLMFlutterGemmaでGemma 4 E4Bが動かない理由を、公式CLIとの比較で切り分けた話モバイルアプリ開発においてFlutterGemmaを用いてGemma 4をローカル実行しようとした際のエラーを調査した事例。公式CLIとの比較検証により、モデルの破損ではなくFlutter側の実装に起因する問題であることを特定し、デバッグの過程で判明した技術的な切り分けの手法を解説している。gemmalocal-llmtutorial
Ollama Releases1ヶ月前LocalLLMv0.33.3リリース:Gemma 4対応MLXエンジンでのGemma 4の画像および音声処理をサポートしました。キャッシュされたプロンプトトークンの報告機能を追加し、GGUFモデルのデフォルトパラメータを尊重するよう仕様を変更しました。また、MLXやllama.cppなどの主要エンジンの更新が行われています。gemmalocal-llmllama.cpprelease
Ollama Releases1ヶ月前LocalLLMOllamaがGemma 4の画像・音声入力に対応Ollamaが最新アップデートでGemma 4の画像および音声入力サポートを開始しました。MLXエンジン経由で26Bや31Bなどの視覚アーキテクチャや、12Bモデルの埋め込み処理に対応し、OpenAI互換APIを通じたWAVデータのアップロードや音声文字起こし機能が利用可能になりました。gemmaollamamultimodallocal-llmrelease
Zenn AI記事1ヶ月前LocalLLM個人開発で「オンデバイスAI資料検索アプリ」を作っている備忘録(Standard版リリースまで)プライバシーを保護しつつ個人の資料を検索するため、オンデバイスで動作するAIアプリをFlutterで開発。埋め込みモデルとベクターDBを活用し、スマホのリソース制限を回避するために解析処理をIsolateへ隔離する工夫を凝らした。現在はクローズドテストを実施中である。gemmalocal-llmagent
Zenn AI記事1ヶ月前LocalLLMAppleの新AI推論フレームワーク Core AI に最速でOSSを建てたAppleが新たに発表したAI推論フレームワークCoreAIに対応したOSSプロジェクトが公開されました。Gemma3やQwen3などの主要なLLMをiOSやMacOS上で動作させるための変換や実行環境をサポートしており、既存のCoreML環境での知見を活かして効率的なモデル実装を実現しています。appleopen-sourcelocal-llmgemmaqwen
Zenn AI記事1ヶ月前LocalLLM30B級ローカルLLM、現場で使うならどれ?Qwen3.8・Muse Glimmer・Gemma4を比較【要約・解説編】Qwen3.8-27BやGemma 4-31B-itなど最新の30BクラスローカルLLMを比較検証しました。同一プロンプトを用いた要約と解説のタスクを通じて、有料APIに迫る出力品質と生成速度の両面から実務での活用可能性を評価しています。qwengemmalocal-llmbenchmark
Zenn AI記事1ヶ月前Researchドラフトトークンを並列生成する拡散モデル方式「DFlash」をGemmaで試したLLMの生成速度を向上させる手法として注目されるDFlashを紹介する記事。拡散モデルを応用してドラフトトークンを並列生成し、推論を高速化する仕組みをGemmaモデルを用いて実装および検証した内容。MTP技術の発展形として、複数トークンを同時に予測することで効率的な推論を実現するアプローチを解説している。gemmaresearchlocal-llm
ITmedia AI+1ヶ月前ResearchGoogleのオープンモデル「Gemma」、累計10億ダウンロード超 GitHubに公式ディレクトリ公開GoogleはオープンモデルGemmaの累計ダウンロード数が10億回を突破し派生モデルが10万種を超えたと発表しました。開発者向けに活用事例をまとめた公式ディレクトリをGitHubで公開し衛星データ解析から医療研究まで幅広い分野での利用を促進しています。gemmagoogleopen-sourceannouncement
Zenn AI記事1ヶ月前LocalLLM実際どれだけ速くなる? Gemma-4のMTPを、普段使いのPCでllama.cpp検証してみたマルチトークン予測であるMTPが実用環境でどの程度の速度向上をもたらすか検証する記事。家庭用PC環境のllama.cppにてGemmaモデルを動かし、実装方法の解説とともに実際の推論速度や予測精度に関する実測データを提示している。gemmalocal-llmllama.cppresearch
Qiita AI記事1ヶ月前LocalLLM自作ゲーミングPC(RTX 4060 Ti) vs ビジネスノートPC(ThinkPad E495) ── Gemma 4 E4B-it ローカル推論速度比較検証Googleが公開した軽量モデルGemma 4 E4B-itを使用しRTX 4060 Ti搭載のゲーミングPCと旧型ビジネスノートPCにおけるローカル推論速度を比較検証した。ハードウェア性能が生成速度に与える影響やオンデバイス環境での実用的な動作性能について詳細なベンチマーク結果を報告する内容となっている。gemmalocal-llmbenchmark
Zenn AI記事2ヶ月前ResearchAIモデル・プログラミング性能比較(Claude, OpenAI, ローカル: Gemma, qwen)Reactコードのドキュメント作成とデバッグを題材にクラウド版とローカル版を含む計7つのAIモデルを比較検証した。生成された出力結果の質に基づき各モデルを順位付けしており、Claudeシリーズが高い評価を得る結果となった。実務における各モデルのコーディング能力の差異を客観的に示している。claudegptgemmaqwenbenchmark
Qiita AI記事2ヶ月前LocalLLM〖AI News まとめ〗生成AI ニュースレポート — 2026-08-122026年8月12日時点の生成AI関連動向をまとめたレポートです。主要トピックとしてRaspberry Pi上でLiteRTとGemmaを活用したエッジAIの実装手法が取り上げられており、直近48時間の開発者向け情報や技術トレンドが網羅されています。gemmalocal-llmtutorial