Qiita AI記事23日前LocalLLM【AI開発指南書:第8回】ローカルSLM×vLLM:Phi-4 / Qwen2.5 を用いたAPIコスト0円の爆速推論環境Phi-4やQwen2.5といった軽量言語モデルをvLLMで活用し、API料金ゼロで高速な推論環境を構築する手法を解説。ローカル環境での効率的なモデル実行やデプロイの実践的なガイドラインとして構成されており、開発コストを抑えつつ高いパフォーマンスを実現する構成案を提示する。phiqwenlocal-llmtutorial
Qiita AI記事25日前LocalLLMローカルAIを選ぶ前に、確かめたい5つのことPC上で動作するローカルAIの導入を検討する際、単なるモデルの選定以上に自身のハードウェア環境と具体的な用途との適合性を評価することが重要です。MicrosoftのPhi Silicaなどの小型モデルを例に、推論速度や端末性能に応じた最適なAI活用のための判断基準を解説しています。philocal-llmtutorial
Zenn AI記事25日前LocalLLMローカルAIを選ぶ前に、確かめたい5つのことPC上で動作するローカルAIを導入する際、モデルの選定だけでなくハードウェア構成や用途に応じた性能評価が不可欠です。MicrosoftのPhi Silicaを例に、日本語処理能力や実用性、消費電力、回答精度といった検証すべき重要事項をステップ形式で解説する実務的なガイドラインです。microsoftphilocal-llmtutorial
Qiita AI記事1ヶ月前Tools【OSS】オープンソースのSLM専用APIゲートウェイ「PhiGate」を作った話エンタープライズ環境でのSLMやLLMの運用を最適化および保護するために開発されたオープンソースのAPIゲートウェイ。PhiGateはモデルの管理やセキュリティ強化を目的としており、効率的な運用を実現するためのインフラとして公開された。phiopen-sourceapi
Hugging Face Daily Papers2ヶ月前Researchロボット操作向け動画世界モデルDreamX-Phi 1.0DreamX-Phi 1.0は言語指示と一連のロボット動作に基づき未来の映像を予測する世界モデルです。SE(3)変換を組み込むことでロボットの正確な動きを保証し、オブジェクト操作の忠実度を高めました。視覚的リアリズムと物理的正確性を両立させ、ロボット制御における予測の信頼性を向上させています。phiresearchmultimodal
Qiita AI記事2ヶ月前LocalLLMRTX 4070で動く12モデルを4タスクで実測した — 翻訳・要約・コード・数学の適性マトリクスRTX 4070環境においてQwenやGemma、Llama等の主要LLMを翻訳や要約など4つのタスクで検証し、性能と適性をマトリクス化したレポート。VRAM12GBの制約下で各モデルの処理能力を比較しており、実務上のモデル選択における有益な指標を提供している。qwengemmallamadeepseekphilocal-llmbenchmark
Hugging Face Daily Papers2ヶ月前Research物理世界モデル「PhiZero」発表視覚データから物理的な状態遷移を離散的な言語として学習する新たな世界モデルPhiZeroが発表されました。ピクセル予測に頼らず、高次元の視覚情報から物理的構造を抽象化して言語として体系化することで、人間のように明示的な推論と予測を行うことを可能にしています。phiresearch
Qiita AI記事3ヶ月前LocalLLMC#でガワを作ってAIと会話するVisual StudioとOllamaを活用し、C#を用いてAIと対話するコンソールアプリケーションを構築する方法を解説しています。Phi3モデルをローカル環境に導入し、APIを通じてAIからの応答を得るための基本的な実装プロセスを初心者向けに紹介しています。philocal-llmtutorial
Zenn AI記事4ヶ月前LocalLLMWindowsローカルAI実践 第5回:タスクごとに入口を選ぶ ─ 4入口を束ねるハイブリッド設計と Foundry Local/AzureWindowsでのローカルAI開発における4つの入口を統合するハイブリッド設計を解説します。タスクに応じてWindows AI APIやFoundry Local、Azureを使い分ける手法や、将来性を見据えた最適な実装を紹介する連載最終回です。philocal-llm
Zenn AI記事4ヶ月前VisionVision-Language Modelの実力検証:Qwen vs PhiとQLoRAによる改善効果画像とテキストを統合的に処理するVision Language Modelの概要を解説し、QwenとPhiを用いた性能比較やQLoRAによる微調整の手法とその効果について検証を行う内容です。qwenphifine-tuning
Qiita AI記事6ヶ月前ResearchTTT-Discoverを再現してみたGoogle Colabの無料環境を活用してTTT-Discoverの再現を試みる取り組み。計算資源の制約を考慮し、軽量なPhi-3-mini-4k-instructモデルを採用して開発を進めている。microsoftPhi
r/LocalLLaMA7ヶ月前LocalLLMPhi-4-reasoning-visionがllama.cppに対応MicrosoftのPhi-4-reasoning-vision-15Bがllama.cppに統合。 SigLIP-2を搭載したマルチモーダル推論モデルがローカル実行可能に。 GGUF形式のモデル提供により、効率的なオンデバイス利用を実現。microsoftPhi