複数のAIを比べて業務に生かす キャットスタジオの社内AI活用

生成AIを業務に取り入れる際、利用できるサービスを増やすだけでは十分ではありません。

用途に合うAIをどう選ぶか、費用をどう把握するか、入力したデータや生成物をどう扱うか。継続して利用するには、こうした運用面まで含めて考える必要があります。

キャットスタジオでは、複数のAIモデルを一つの画面から試し、比較し、日常業務に利用できる社内向けAI環境を開発し、運用しています。

本記事では、なぜこの環境を作ったのか、社内利用を続けるためにどのような工夫をしているのかをご紹介します。

試すための環境と使い続けるための環境を一つに

AIモデルは、文章生成、翻訳、画像生成、文字起こしなど、それぞれ得意なことや利用条件が異なります。

新しいモデルを評価するたびに個別のサービスへ登録したり、APIを使うためのプログラムを書いたりしていると、比較そのものに手間がかかります。また、検証時に使った環境と日常業務で使う環境が分かれていると、評価結果を実際の仕事へつなげにくくなります。

そこで、評価・検証と日常利用を一つの社内環境で行えるようにしました。

• 評価・検証：複数のモデルを試し、出力、処理時間、推定費用などを見ながら、業務や開発へ利用できるかを判断する
• 日常利用：文章作成、翻訳、画像生成、音声合成、文字起こしなどに利用し、履歴から作業を再開する

評価のための一時的な画面ではなく、検証で得た知見をそのまま日々の利用へつなげることが狙いです。

モデルに合わせて使い方が変わる

一口にAIモデルといっても、必要な入力と返ってくる結果は同じではありません。

チャットでは回答が順に表示され、画像生成では結果を画面で確認し、音声合成ではその場で再生します。文字起こしでは、ブラウザから録音した音声を渡すこともできます。

この社内向けAI環境では、選んだモデルの種類に合わせて入力画面と結果の表示方法が切り替わります。調整できる項目もモデルの仕様から組み立て、日本語の見出しを付けています。

利用者がモデルごとのAPI仕様を調べなくても、共通の流れで試しやすくするためです。

生成した画像、音声、動画などは一覧から探すことができ、ダウンロードに加えて、次の実行の入力として使うこともできます。よく使う指示は保存して呼び出せるため、繰り返し行う作業にも利用できます。

同じ入力を並べて比較する

モデル名や紹介文だけで、自社の業務に合うかを判断するのは簡単ではありません。

比較機能では、同じ文章または画像の入力を複数のモデルへ同時に送り、結果、処理時間、推定費用を横に並べて確認できます。

たとえば文章の要約であれば、内容の正確さや読みやすさに加えて、応答までの時間と費用も含めて比較できます。画像生成でも、同じ指示に対する表現の違いを一つの画面で確認できます。

実際の業務に近い入力で試すことで、知名度や評判だけに頼らず、用途に合うモデルを選びやすくなります。

費用を見えるようにして使いすぎを防ぐ

社内でAIを利用し続けるには、誰がどの程度利用しているかを把握し、意図しない費用の増加を防ぐ仕組みも必要です。

この環境では、AI Gatewayの利用記録をもとに実行ごとの費用を推定し、メンバーごとの利用状況として記録します。

各メンバーには月ごとの利用上限を設け、一定の割合に達した段階で警告を表示します。上限に達した場合は、新しい実行を止めます。動画や音楽など、比較的費用が大きくなりやすい生成では、実行前に推定費用を確認できます。

なお、画面に表示する金額は運用判断のための推定値です。正確な請求額はCloudflareの管理画面で確認します。

管理者向けの画面では、利用回数、推定費用、エラー率などを確認し、メンバーごとの上限を調整できます。費用を後から集計するだけでなく、実行前後の両方で管理する設計にしています。

データと生成物の扱いを選ぶ場面で確認する

業務でAIを使う場合、機能だけでなく、入力データと生成物の扱いも確認する必要があります。

外部のモデルについては、提供元が入力を保存しない条件に対応しているかをモデル選択時に表示します。利用者は、入力する内容に応じてモデルを選べます。

画像や音声などの生成物については、商用利用の扱いを「商用可」「条件付き」「商用不可」「未確認」に分け、参照すべき規約へのリンクとともに表示しています。

この区分は社内で確認するための目安であり、法的な判断や商用利用を保証するものではありません。必要に応じて、利用時点の規約を個別に確認しています。

また、社内の情報ページでは、入力したデータがどのサービスを通り、どこへ保存されるかを図で説明しています。実行はAI Gatewayを経由するため、そのログには入力と出力が記録されます。

「入力はどこにも残らない」と考えるのではなく、データの流れを理解したうえで利用することを重視しています。

利用状況と会話の内容を分けて管理する

費用や利用状況を管理する一方で、個々の会話や生成物を必要以上に共有しないことも大切です。

この環境では、会話の本文・生成物と、回数・費用などの利用記録を分けて保存しています。

管理画面からは、他のメンバーの会話本文や生成物を閲覧できません。管理者が確認できるのは、運用に必要な利用状況です。

また、利用者が自分の履歴を削除しても利用記録は残るため、費用管理との整合性も保たれます。

アプリ基盤をCloudflare上に構築

社内向けAI環境のアプリ基盤は、Cloudflare上に構築しています。

画面とAPIはCloudflare Workersから配信し、データベースにはD1、画像・音声・動画などのファイル保存にはR2を利用しています。時間のかかる生成処理にはCloudflare Workflowsを使い、ブラウザを閉じた後も処理を継続できるようにしています。

入口ではCloudflare Zero Trustを利用し、社内メンバー以外からのアクセスを制限しています。

AIの実行にはCloudflareが提供するモデルに加え、AI Gatewayを経由して外部事業者のモデルも利用します。アプリを動かすためのサーバーを別途管理せず、認証、実行、データ保存、長時間処理をCloudflareのサービスでまとめた構成です。

AIを導入するだけでなく運用を設計する

この環境を作った目的は、利用できるAIモデルの数を増やすことではありません。

実際の業務に近い条件で試し、結果と費用を比べ、データの扱いを確認しながら、用途に適したモデルを選べるようにすることです。

弊社では、文章作成や翻訳、画像生成、文字起こしなどの日常利用と、業務・プロダクトへの応用を見据えた検証を同じ環境で進めています。

今後も新しいモデルを追うだけでなく、社内で無理なく使い続けられる運用方法を検証し、開発や制作へ生かしていきます。