Foundation Modelsフレームワークでテキスト生成してみた

• URL: https://dev.classmethod.jp/articles/foundation-models-text-generation/
• 日付: 2026-06-16
• Tier: Tier 2
• 要旨: Apple WWDC25で発表されたFoundation Modelsフレームワーク（オンデバイス推論）を使い、テキスト生成・ストリーミング・システムプロンプト設定・構造化出力・マルチターン会話の5機能を実機（iPhone 16e）で検証した。

詳細

SystemLanguageModel.default.isAvailableで利用可否を確認し、LanguageModelSession()でセッションを生成。基本APIはrespond(to:)（完全なレスポンスを返す）とstreamResponse(to:)（ストリーミング）の2系統。

検証環境はXcode 27.0 Beta・macOS Tahoe 26.5.1・iPhone 16e（iOS 27.0 Beta）。同一プロンプトに対して表現が揺れることがあり、クラウドLLMと同様に確率的な挙動が確認された。

LanguageModelSession(instructions:)でシステムプロンプト的なキャラクター設定が可能で、専門用語レベルの語彙差異は確認できた。@Generableマクロを付与した構造体を型として指定すると、型制約内でガイド付き生成が行われ、自由テキスト生成より出力が安定する。

注意点として、コンテキストウィンドウがクラウドLLMより小さく、シミュレータではSensitiveContentAnalysisMLのサブモデルが欠落してエラーが出ることがある（実機で解消）。WWDC26ではAFM 3 Core Advanced（20B）とクラウド推論AFM 3 Cloud Proも発表されており、今後のAPIへの対応が期待される。