【その他メモ】
・AIエージェントの本質的な構造⇒LLM＋ツール＋ループ
・AIエージェント導入の課題
網羅的テストの不可能性、実行時制御の必要性、説明可能性の確保
⇒テスト手法、権限設計、監視基盤、組織体制へのアプローチで対応
・テスト
正確性＋安全性＋ハルシネーション検出＋バイアス検出、公平性＋ツール選択の妥当性＋一貫性
・ツールは一度作れば量産可能⇒システムプロンプト書き換えで異なるエージェントを作成可能
・１エージェントで使うツール数目安は10以下
・推論の向上は文脈の質に依存
関連情報の精選、情報の構造化、コンテキストの鮮度
・子エージェントができないときに沈黙やハルシネーションではなく理由付きエラーで返すように設計
・エージェントレジストリ
識別情報、機能定義、連携情報、運用メトリクス
・理想のエージェントを先に定義し、それに合わせて組織を見直す
⇒業務の再定義
・品質指標を自動検証するステップをジョブパイプラインに組み込みアラート検知
・当たる前提とせず、当たり外れを蓄積し制度を段階的に向上させる
・TCO
開発コスト、運用コスト、ガバナンスコスト、人的コスト
・エージェント使用不可時の迂回路を準備しておく
・プロンプトとコードを同等の厳格さで管理
・プロンプト改善はビジネス主導とすべき
・エージェント設計
ペルソナ定義、権限マトリクス、ツール一覧、ガードレール定義、駆動方式
⇒何故そうしたかも併せて残す
・運用しながら継続的にアップデートする