r/LocalLLaMA の最新AIニュース

クアルコムのCEOによると、AI企業は2028年までに1000億パラメータ規模のモデルをスマートフォン上で常時実行できるデバイスの実現を求めていることが明らかになりました。

10人規模のスタートアップ企業向けに、4基のR9700を搭載したローカルLLM用のカスタムハードウェア環境を構築する事例について紹介しています。

EmbeddingGemma 2を活用し、Mac上でローカル実行してファイルの内容から目的のデータを検索できるオープンソースアプリケーションが登場しました。

RedditのLocalLLaMAコミュニティにおいて、LLMの適切なサイズ選択や好みのモデル規模について議論が行われており、ユーザーに対してXでの意見表明が呼びかけられています。

OpenAIの数学に関する研究成果がユーザーから無断で収集されたデータに基づいて構築されているのではないかという疑惑が浮上し、Reddit上で議論が交わされている。

Hugging FaceにてQwenチームによる画像生成モデルの新しいバージョンであるQwen-Image-2.1-Turboが公開され、関連情報が共有されています。

プロジェクトStrataが、過去のコミット履歴を書き換えてClaudeが共同作成者として記載されていたテキストをすべて削除していたことが判明し、AIの利用隠蔽に対する批判の声が上がっています。

韓国の大手銀行が受けたサイバー攻撃は単独犯によるものであり、オープンソースのAIペネトレーションツールや複数のLLMを組み合わせて実行されたことが判明しました。

ローカルLLMの実行フレームワークであるllama.cppに関する話題が取り上げられています。オフライン環境でのモデル実行や量子化技術における活用が注目されています。

ホストメモリに保持されるMixture of Expertsモデルの専門家層に対し、GPUキャッシュを追加するプルリクエストが公開されました。ローカル環境での効率的な推論処理の高速化が期待されます。

新しいLFMモデルが本日リリースされる予定であることが、RedditのLocalLLaMAコミュニティで話題となっています。詳細な仕様や性能については今後の発表が注目されています。

Hugging Faceにて新しいマルチモーダルAIモデルであるMiniCPM-V-4.7-35B-A3Bが公開されました。詳細なモデルカードはまだ発表されていませんが、コミュニティで注目を集めています。

中古のマイニングファームから古いGPUを安価に入手し、わずか35ドルという低コストで大規模なVRAM容量を確保した事例について紹介しています。ローカルLLMの実行環境を圧倒的な低コストで構築する工夫として注目を集めています。

Mistral AIが開発した新型の大規模言語モデルであるMistral Large 4、通称Le Chonkが発表され、コミュニティで注目を集めています。

YouTuberのPewDiePieがローカルAIモデルの訓練データ作成にOpenAIのAPIを使用したところ、利用規約違反によりアカウントを二度にわたりBANされたことが話題となっています。

パラメータ数が少ないにもかかわらず、Qwenのモデルが巨大なパラメータを持つGPT-4oと比較してなぜこれほど高い性能を発揮できるのかについて議論されています。

Reflection AIは、DeepSeekやQwenに対抗するため、アメリカ製の新しいオープンウェイトAIモデルをリリースする予定であることを発表しました。オープンソースコミュニティやローカルLLM分野での動向が注目されています。

Metaが開発しアプリストアで首位を獲得したMuseエージェントのシステムプロンプトにおいて、ユーザーの権限が安全トレーニングを無効化するという記述が含まれていることが話題となっている。

特定のハードウェアやモデルに特化して最適化された過剰適合推論エンジンについての議論。ローカルLLMの実行効率やパフォーマンス向上に関する動向が注目を集めている。

Aleph-Alphaが新しい大規模言語モデル「Kolibri-1」をHugging Faceで公開しました。総パラメータ数は78B、アクティブパラメータは3.46Bで、最大100万トークンのコンテキストに対応し、Apache 2.0ライセンスで提供されます。

iPhoneをMacBookの追加GPUとして活用し、Qwenモデルのプリフィル処理を29から44パーセント高速化させ、コンテキストウィンドウの一部を保持することに成功したという報告。

人間らしい自然な文章生成に加え、ツール呼び出し機能や指示追従性が大幅に向上した新しいオープンソース言語モデルが発表されました。

AI関連ツールのPiバージョン1.0がリリースされ、Model Context Protocolのサポートがデフォルトで含まれるようになりました。

Cloudflareがオープンウェイトの決定モデルであるClefを発表しました。ローカル環境での実行やAIタスクの判断処理を効率化するための新たなモデルとして注目されています。

llama.cppのリポジトリにおいて、Qwen4Expモデルに対するMulti-Token Prediction機能の追加を進めるプルリクエストが公開されました。ローカル環境での推論最適化に関する話題です。

eBayの出品情報に基づき、32GBのVRAMを搭載した比較的新しいGPUの価格を安い順に紹介しています。ローカルでの大規模言語モデルの実行環境を構築する際に参考となるハードウェア情報を提供しています。

総パラメータ数約5600億、トークンあたりのアクティブパラメータ約250億を持つ大規模言語モデルLing-3.1-flashが発表されました。最大100万トークンのコンテキストに対応し、2週間の無料トライアル後にオープンソース化されます。

ローカルAIの実行を高速化する世界最速のWebGPUカーネルがHugging Face上でオープンソースとして公開されました。

ggml-orgのllama.cppリポジトリにおいて、GLM-5.3-Flashモデルのサポートを追加するプルリクエストが提出されました。ローカル環境での実行や互換性の拡張に向けた開発が進められています。

Redditのコミュニティにおいて、Anthropicの動向が結果的にGLMモデルの最高の宣伝になったと話題になっている投稿を取り上げています。