Mivaの構築方法 | 第1部：システムプロンプトからプロのAIストーリーテラーへ

AI分野において、プロンプトエンジニアリングは極めて重要な技術です。BookAIでは、この役割を「インストラクションデザイナー」と呼んでいます。この一連の記事では、BookAIチームがMivaを開発する中での実体験を共有し、綿密に設計されたシステムプロンプトとインストラクションを通じて、いかにして信頼性の高いプロフェッショナルなAI読書システムを構築しているかを解説します。

▎ LLMの魂：BookAIシステムプロンプト

BookAIの製品であるMiva Lite、Pro、Advancedは、それぞれ異なる利用シーンを想定して設計されたAI駆動型の読書サービスです。技術の核心は「検索（Retrieval）」にあります。当初の課題は、数十億語の中から読者の質問に的確に答えるために、いかに効率的に検索を行うかということでした。検索の概念実証（PoC）に成功した後、技術ロードマップが策定され、2024年第2四半期までに、ストーリーテリングサービスのためのマルチエージェントシステム（MAS）を構築することが重要な目標となりました。

当初、MASは非常にシンプルなもので、ユーザーの意図を識別するエージェントと、書籍から学術的な回答を生成するエージェントの2つだけで構成されていました。2024年第4四半期までに、私たちのMASは4つのエージェントへと進化しました。当時、MASやエージェンティック・ワークフロー（Agentic Workflow）といった言葉はほとんど耳にすることがなく、私たちは暗中模索の状態で進んでいました。

なぜこれほど複雑になったのでしょうか？その理由は後ほど説明します！（笑）

以下は、検索された書籍コンテンツに基づいて生成を行うエージェントのフレームワークです：

もともと、Miva Lite、Pro、Advancedを一つの製品ラインとして計画しており、Liteは無料、その他は有料とする予定でした。そのため、アーキテクチャ全体とサービスにおいて、汎用的かつ厳格なプラットフォームである「BookAIシステムプロンプト」を作成することが極めて重要になりました。

自動車のプラットフォームのようなものだと考えてください。様々なモデルの核となる部分です。異なるエンジンが様々な車種を動かすように、多様なLLMモデルにはそれぞれの強みがあります。パワフルなものもあれば、繊細なものもあります。私たちのアーキテクチャは、AIの回答の深さを指示・制限し、各LLMの境界を明確に定義します。

Miva Liteのインストラクションモジュールの一例です：

<Miva_Version_and_Core_Mission>
- あなたはBookAIによって作成されたAI読書コンパニオン、Miva Liteです。
- あなたの使命：読者が本を発見し、<book_excerpts>から核となる概念を素早く理解し、その本が自分に合っているかどうかを判断するのを助けること。
- <book_excerpts>から最高レベルの核となる概念のみを説明してください。
- 焦点：「この抜粋は何について書かれていますか？」という問いに、極めて簡潔に答えてください。
</Miva_Version_and_Core_Mission>

これにより、Miva Liteの役割（AI読書コンパニオン）、目標（核となる概念を素早く理解する）、および回答スタイル（極めて簡潔で書籍に特化している）が明確に定義されます。このような明確さにより、Miva Liteは基本的な書籍紹介の範囲内に留まることが保証されます。

▎ LLM as a Service：Miva Liteエージェント・アーキテクチャ

Miva Liteは、Mivaファミリーの中で最もシンプルなインストラクションを持っています。それでも、書籍回答用の単一エージェントのインストラクションは20,000文字（6,130トークン）に及びます。ProやAdvancedはさらに洗練されています。

MAS内では、オペレーション管理の原則を採用しました。各エージェントを独立したワークステーションとして扱い、役割、目的、入出力形式、評価方法、およびエージェント間やデータとの相互作用を明確に定義しました。

BookAIでは、非常に早い段階でLLM-as-a-Service（LLMaaS）を主要なトレンドとして特定しました。これは、制御されたLLM出力によってサービスを差別化し、収益化することです。

「書籍の内容に基づいて回答する」ためのMiva Liteのインストラクションセットには、以下のような重要なモジュールが含まれています：

• ユーザーリクエスト処理モジュール 読者の質問を解析し、意図と言語を分析して、ユーザーが本当に知りたいことを特定します。

• 対話メモリ管理モジュール 無料版および有料版での書籍検索機能を促進する、短期および長期のメモリ管理を行います。

• 書籍コンテンツ受信・引用モジュール システムから取得された、ソートおよび重み付けされたコンテンツの抜粋を管理し、ユーザーの意図に従ってそれらを照合・フィルタリングします。

• 回答生成モジュール 綿密に設計されたインストラクションを使用してLLMの出力を厳格に制約し、一貫した形式と深さを保証します。プレミアムユーザーは、書籍をまたいだ分析機能を利用できます。

出力制御モジュールの例：

<Output_Formatting_and_Constraints_LITE>
- 回答フィールド：150語以内に制限。
- 高レベルの核となる概念に厳格に焦点を当てる。
- 対話的で、洞察力に富み、刺激的であること。
- 回答は、興味をそそる質問で終わらなければならない。
- 重要な用語にはMarkdownの太字を使用する。
- 段落は2文、稀に3文とする。
</Output_Formatting_and_Constraints_LITE>

これらの注意深く作成されたルールは、情報の過負荷を防ぎ、好奇心やさらなる探索を刺激することで、ユーザーエクスペリエンスを向上させます。

このようなアーキテクチャにより、回答コストの調整可能な制御が可能になり、異なるLLMモデル間で効率を最大化し、ビジネスと技術の両面で実現可能性を達成できます。

▎ 書籍への忠実性 vs AIの創造性：サブスクリプションの境界線の定義

ビジネスの成功には、技術的な理想と商業的な現実のバランスをとることが不可欠です。出版社からはよく、「本に答えがない場合、Mivaは答えを出しますか？」と聞かれます。私たちの答えは、「技術的には、Mivaは常に答えを持っています。しかし、書籍に厳格に従うかどうかは、技術的な決定ではなく商業的な決定です」というものです。

私たちの設計上の課題は、書籍コンテンツの境界を超えずにLLMの創造性を有効にすることでした。そのため、サブスクリプション戦略を以下のように設定しました：

• Miva Lite（無料版） 書籍と基本概念を厳格に紹介し、内容を忠実に伝えるために創造的な拡張を制限します。

• Miva Pro/Advanced（有料版） 様々な程度の創造的な探索を許可します。有料ユーザーは、支払いプロセスを通じて、サービスに、より豊かなLLM機能が含まれていることを明確に理解します。

差別化されたサービスを規定する特定のインストラクションは、以下のようになります：

<Creative_Task_Handling_By_Tier>
- 創造的なタスクはMiva Liteの範囲外です。
- 例：「Miva Liteは書籍を簡潔に紹介します。創造的な探索については、Miva Proがより多くの機能を提供します。」
</Creative_Task_Handling_By_Tier>

このモジュールは期待値を明示的に管理し、商業的な実行可能性と認知的な明確さのバランスをとります。

▎ シンプルさ：LLM制御の第一原則

BookAIシステムプロンプトの開発を振り返ると、当初は膨大なインストラクションを記述してしまい、後に管理が困難になりました。そこから、本質的な原則を学びました：シンプルさとモジュール化。

LLMは、システムプロンプトであれユーザープロンプトであれ、出力を生成する際にすべての入力コンテキストをサンプリングします。唯一の違いはサンプリングの重みにあります。実際には、インストラクションが複雑になればなるほど、エラーの可能性が高まり、デバッグが困難になります。プロンプトの競合のデバッグを容易にするためには、各インストラクションを独立した「機能ユニット」として扱い、モジュール化されたインストラクションを設計することが重要です。

例えば、役割の定義と機能モジュールを完全に分離しています：

• ペルソナモジュール (Miva Persona Core)

• ミッションモジュール (Core Mission)

• 出力形式モジュール (Output Formatting)

階層化ロジック処理モジュール (Tiered Logic Handling)

このモジュール化により、メンテナンス性が大幅に向上し、柔軟性が高まります。過度に複雑なインストラクションロジックはパフォーマンスの問題を引き起こし、インストラクションデザイナーにとって永続的な悩みの種となります。これは、BookAIシステムプロンプトの設計において厳格な制御を必要とします。

▎ 現実世界からの挑戦

アカデミアから現実世界の「戦場」へと足を踏み入れると、収益性が鍵となります。LLMの動作を効果的に制御する、簡潔でモジュール化された、人間が管理可能なアーキテクチャを構築することは、技術的であると同時に芸術的な挑戦でもあります。

商業製品として、私たちは急速に進化する技術、ユーザーエクスペリエンス、ビジネスモデルに絶えず適応しています。

次回の記事では、「コンテンツの欠如」の解決、マルチエージェントシステムの連携、そして商業戦略、UXデザイン、リーン原則を製品開発に統合する方法について説明します。

お楽しみに！

（つづく）