AIコンシェルジュの回答時間を約16秒短縮しました
アプリのデモ（41秒）モバイルアプリ上での会話と商品提案Online Store（EC）の画面Webストアに公開中のAIコンシェルジュ Dog Coordinate AI のAIコンシェルジュについて、相談から商品提案までの回答時間を約16秒短縮しました。アプリと Online Store の両方で、会話のテンポを保ちながら実在商品を理由付きで提案できるよう、処理パイプラインを見直しています。
改善内容
- 意図理解・商品検索・提案生成までの一連処理を見直し、待ち時間を短縮
- カタログ検索（キーワード検索／意味検索）の応答経路を整理し、不要な往復を削減
- 提案生成の呼び出し回数とプロンプト構成を最適化し、応答完了までの時間を短縮
- 代表的な相談フローで、回答時間を約16秒短縮したことを確認
技術的なポイント
- LLMによる意図構造化と、RAGによる実在商品検索の役割分担は維持
- MySQL（商品正本）と Elasticsearch（検索）を組み合わせた根拠付き回答を継続
- 検索結果を根拠に商品カード・価格・提案理由を返す構成はそのままに、処理時間を短縮
- 品質（実在SKUに基づく提案）を落とさず、レイテンシ改善を優先して段階的に適用
