学長AIシステム
マルチエージェントアーキテクチャとTTFB最適化機構を備えた、
超低遅延・高機能な対話型アバターシステム
複雑な対話意図と応答遅延のジレンマ
大学の象徴である「学長」のペルソナを持つAIアシスタントには、単なる雑談だけでなく、「学内施設の案内」「学生の進路相談」「外部情報の調査」といった多様な専門タスクをこなすことが求められました。
しかし、単一のLLMプロンプトですべてを網羅しようとすると、回答の精度低下やキャラクターのブレが生じます。さらに、RAG（検索拡張生成）や外部APIツールを利用するタスクでは生成開始までに時間がかかり、音声対話において致命的な「不自然な沈黙」が発生してしまうという大きな課題がありました。
プロンプト肥大化の限界
多岐にわたるタスクとペルソナ設定を1つのシステムプロンプトに詰め込むことで生じる、LLMの推論性能の低下。
音声対話特有のレイテンシ
テキストチャットとは異なり、ツール呼び出し中の数秒の待ち時間が、対話体験を著しく損ねる問題。
マルチエージェント × 非同期オーケストレーション
これらの課題を根本から解決するため、OpenAIのAgent機能を用いたマルチエージェント構造と、応答速度をごまかす高度な非同期オーケストレーション機構を独自設計しました。
gpt-4o-mini を採用し、FastAPIベースのバックエンドで各モジュールを並行処理するストリーミングパイプラインを構築しています。Handoff（委譲）による専門エージェント群
対話の入り口となる GeneralConversationAgent（ルーター）がユーザーの意図を解釈し、必要に応じて専門エージェントに処理を委譲（Handoff）します。
- PresidentAgent: 学長のプロフィールや思想に関する深い質問
- LifePlanningAgent: 学生の進路相談や人生設計
- ResearchAgent: 外部情報の検索と調査
- LocationAgent / EventGreetingAgent: 施設案内や行事の挨拶作成
Handoff（タスク委譲）アーキテクチャ
TTFBを極限まで削る「Response Orchestrator」
音声対話における「沈黙」を無くすため、バックエンドの ResponseOrchestrator が以下の3つのタスクを非同期で並行スタートさせます。
1. LLMDecisionClassifier: RAG(学内情報)か、対話かを超高速に判定
2. Filler LLM: 「ええと」「そうですね」などのつなぎ言葉(フィラー)を生成しバッファリング
3. Main Agent: ルーター経由での本応答の生成開始
メイン応答の最初の1トークン（TTFB）がタイムアウト（例: 1.0秒）を超えた場合、即座に生成済みのフィラーを音声合成に流し込みます。ユーザーが「ええと…」という音声を聞いている間に裏で重いタスク（ツール呼び出し等）を完了させることで、遅延を完全に隠蔽しました。
Response Orchestrator — TTFB最適化アーキテクチャ
音声と映像が連動するリアルタイムアバター
本システムは、生成されたテキストから単に音声を出すだけでなく、自然な体験を提供するための周辺技術も統合しています。
マルチエージェント化による「高度な知能」、オーケストレータによる「超低遅延なレスポンス」、そしてUE5による「リアルな映像表現」を組み合わせることで、これまでにない実用的なAI学長アバターシステムが完成しました。