LLMメッシュは、セキュアなAPIゲートウェイとして機能し、ハードコードされた依存関係を解消し、アプリケーションと基盤となるサービス間のリクエストを管理、ルーティングします。
Dataikuは、大規模言語モデル（LLM）、ベクトルデータベース、高速化およびコンテナ化された計算機能の主要なプロバイダと提携しています。これには、プロダクショングレードのローカルLLMを簡単かつ効率的に提供するHugging Faceが含まれます。
SEE AVAILABLE LLM CONNECTIONS
生成AIアプリケーションやAIエージェントを、現時点でのベストなモデルの上に構築すべきでしょうか？それとも、より高精度で、強力で、またはユースケースにより適した新しいモデルが登場するまで、もう少し待つべきでしょうか？
Dataiku を利用すれば、その選択を迫られることはありません。マルチLLM戦略により、コスト、パフォーマンス、プライバシー、セキュリティ、規制要件などのトレードオフのバランスを取ることができます。LLMメッシュは、市場で最も包括的でベンダーに依存しないLLMゲートウェイの提供サービスであり、主要な生成AIプレイヤーと提携することで、数千ものLLM（サードパーティ製またはセルフホスト型を含む）へのセキュアなアクセスを実現します。
Kenan Yates
System1 グループプロダクトマネージャーコストガードでLLM使用状況の最新データを分析。
誰がどのモデルやサービスをどのような目的で使用したかを完全に監査可能なログで記録することで、コストの追跡や社内での再請求が可能になります。
LLMガードについて詳細はこちら
生成AIまたはエージェントアプリケーションにおけるプライベートデータや不適切なコンテンツのスクリーニングに関して、LLMメッシュ は Dataikuセーフガードを介して、リクエストとレスポンスを機密情報について評価できます。これには、個人識別情報（PII）、有害なコンテンツ、または禁止用語の検出が含まれます。
その後、LLMメッシュは適切なアクションを実行します。LLM APIにリクエストを送信する前にこの機密情報を墨消ししたり、リクエストを完全にブロックしたり、管理者に警告したりします。
LLMガードについて詳細はこちら
Dataiku品質ガード は、LLMおよび生成AIアプリケーションに対し、標準化されたエンタープライズグレードの品質保証を提供します。
LLM-as-a-judge（LLMによる評価）技術（回答の関連性、回答の正確性、コンテキストの精度など）のような標準的な評価指標や、統計的手法（BERT、Rouge、Bleuなど）を自動的に計算します。
LLMガードについて詳細はこちらLLMの使用を承認し、文書化し、体系化することは、規制への対応に向けた重要なステップです。
Dataiku LLMレジストリを使用して、どのモデルをどのようなユースケースに使用すべきか（または使用すべきでないか）を合理化するだけでなく、モデルのドキュメントを常に最新の状態に保ってください。
DataikuのAIガバナンスについて詳細はこちら
Andres Buser
Chapter Lead New Modality IP at Roche
LLMメッシュは、LLMサービスとプロバイダーのラウンドトリップパフォーマンスを監視します。これにより、問題を診断し、アプリケーションのニーズとSLAに基づいて最適なサービスを選択できます。
さらに、一般的なクエリーに対するレスポンスをキャッシュすることで、レスポンスを再生成する必要性を回避し、コスト削減とパフォーマンス向上の両方を実現します。
Dataikuは、LLMメッシュだけでなく、企業全体のビルダーが生成AIアプリケーションを実用化するために必要なすべてのツールを、高速かつコードフリーで提供します。
ユニバーサルAIプラットフォームは、生成AIアプリケーションを大規模に作成するために必要なすべてを提供します。
生成AIビルダーツールについてはこちら
