ja

DataikuによるLLMOpsとAgentOps

大規模言語モデル(LLM)やAIエージェントを効率的に管理し、コンプライアンスを確保し、コストを最適化しながら、複数の業務アプリケーションで生成AIを安全に活用 — すべてをDataikuで実現できます。

LLMメッシュで圧倒的な柔軟性を実現

DataikuのLLMメッシュを使えば、OpenAI、Anthropic、AWS Bedrock などのプロバイダーによるLLMや、Hugging Face上の自社ホストモデルなど、さまざまなLLMとの接続が容易になります。チームは目的に応じて最適なモデルを選び、組み合わせて活用でき、ガバナンスと制御レベルも適切に保つことができます。

この仕組みにより、ユーザーはワークフローを崩すことなく、LLMを迅速にテストや入れ替え可能。ローンチ前の試行にも、本番環境でのモデル更新にも対応し、柔軟かつ効率的に結果を最適化できます。

Dataiku LLMメッシュについて詳細はこちら
Dataiku LLM Mesh on a screen
LLM Evaluation & Monitoring with dataiku

LLMの評価とモニタリングで品質を確保

Dataikuを使えば、堅牢なLLMOps運用のために評価と自動化を行い、基準を満たさないモデルにはアラートを発出することができます。

他のモデルの結果や正解データ(グラウンドトゥルース)と比較することで、LLMのパフォーマンスを継続的に追跡。統計的指標や「LLMによる評価(LLM-as-a-judge)」といった手法を用いて、あらゆるユースケースにおいて期待どおりに機能しているかを確認できます。

さらに、人間によるレビュー(human-in-the-loop: ヒューマンインザループ)にも対応しており、必要に応じてチームが結果を確認や修正可能。ユーザーがLLMの出力にテキストラベルや自由記述のコメントを付けることもでき、ビジネスニーズに沿った結果の精度を高めることができます。

改善、モニタリング、反復を、すべて一か所で

LLMOpsやAgentOpsにおいて課題を解決するには、パイプラインの上流までさかのぼって見直す必要があることがよくあります。Dataikuは、エンタープライズ対応の生成AI構築ツールと、本番環境における生成AIアプリケーションやAIエージェントのモニタリング機能を、すべてひとつのプラットフォーム上で提供する唯一のソリューションです。

パフォーマンスに問題が生じた場合でも、ユーザーはすぐにプロンプトスタジオにアクセスして新たなプロンプトを試し、そのままフローに直接アップデートを反映できます。エージェントに対しては、Dataikuが提供する「トレースエクスプローラー」により、AIエージェントのデバッグを支援する包括的なビジュアルシステムが利用可能です。

より精度の高い改善が必要な場合は、コードを書くことなくモデルのファインチューニングを行ったり、社内文書やデータセットを活用して独自のナレッジベースを構築したりすることも可能です。これらの機能により、LLMは文脈を理解した正確な応答を提供し、ビジネス成果の最大化を支援します。

Dataiku がどのように生成AIワークフローのカスタマイズを支援するかについてはこちら
dataiku dss flow screenshot
dataiku generative ai applications screen

生成AIやエージェントをあらゆる業務に展開

Dataikuを使えば、スケーラブルかつエンタープライズ対応のフレームワークを通じて、エンドユーザー向けの生成AI搭載Webアプリケーションを開発、共有できます。Dataiku Answersは、RAG(検索拡張生成)、信頼できるデータセット、ユーザー指定のドキュメントを活用し、LLMベースの会話型ユースケースを民主化するパッケージ型で、拡張可能なWebアプリケーションです。

さらに、高度にカスタマイズされたアプリケーションを構築したい方のために、Streamlit、Dash、R Shiny などの一般的なフレームワークにも対応。標準ツールでも独自コードでも、Dataikuなら生成AIアプリケーションを誰もが簡単に開発、デプロイし、必要な人にすぐに届けることができます。

データとすぐに会話が可能なDataiku Answersについて詳細はこちら

生成AIを包括的にガバナンス

Dataiku Governは、AIガバナンス基準に準拠したLLMOpsおよびエージェントOpsを実現するために、各ステップにゲートと承認プロセスを設けることで、実験から本番運用までのすべての段階でコンプライアンス要件を確実に満たせるようにします。

使用されたLLMとユーザーのやり取りをすべて記録する監査ログにより、生成AIの運用における透明性と制御性を確保。また、LLMレジストリ機能により、各LLMの適性評価や使用ルールの適用が可能となり、ドキュメント管理、コストの可視化、パフォーマンス監視、ユースケースの特定などを一元的に行うことができます。

DataikuによるAIガバナンスについて詳細はこちら
dataiku govern screen

ご相談ください

DataikuのユニバーサルAIプラットフォームが、組織全体でのLLMの監視と管理にどのように役立つかについては、お問い合わせください。