前回までの連載では、ＡＩエージェントが自ら判断し、必要な情報を収集し、場合によってはほかのＡＩと連携しながらタスクを進める「自律性」を持ち始めていることを紹介しました。さらに、保険募集の一部では、代理店側のＡＩと保険会社側のＡＩが協調することで、業務の前工程が滑らかになる、Ａ２Ａ（Agent To Agent）の可能性についても触れました。今回は、そうした動きが広がっていくときに避けて通れないテーマである「信頼」と「境界線」について考えてみたいと思います。

　保険は信頼の上に成り立つビジネスです。そのため、ＡＩが日常業務に関与する範囲が広がったとき、「どこまでＡＩに任せてよいのか」「どこからは人が判断すべきなのか」という線引きが、これまで以上に重要になります。

　たとえば、顧客の過去の相談内容や契約状況を整理したり、複数社の商品条件を比較したりすることは、ＡＩが得意とする領域です。一方で、お客様の意向を踏まえた最終的な提案や説明は、人が責任を持って行うべき業務です。ＡＩと人がそれぞれの強みを活かし、適切に役割分担することが、これからの“信頼の構造”を支えることにつながります。

　ＡＩが自動で提案文案を作成するようなケースでは、どこまでが準備行為で、どこからが募集行為なのか―。

　ＡＩが作成したアウトプットが「募集行為に当たるのか」という論点は避けられません。情報整理や比較結果を提示することは問題ありませんが、それが「特定の商品を推奨している」と判断されると、法的な位置づけは大きく変わります。

　ＡＩの判断プロセスが、どのデータに基づき、どのＡＩがどのような判断を行ったのかを追跡できるトレーサビリティは、Ａ２Ａ時代の信頼の前提条件です。ＡＩの思考プロセス自体がブラックボックス化せず、監査可能であることは、コンプライアンスの観点からも欠かせません。

　ここで重要になるのが、「Human-in-the-loop（ＨＩＴＬ）」という考え方です。ＡＩが作成した内容を、そのまま顧客に提示するのではなく、必ず人が確認し、必要に応じて修正し、最終判断を行うという仕組みです。

　ＡＩがどれだけ進化しても、最終的な責任を負うのは人間であるという前提を明確にし、募集行為に当たる部分には必ず人が介在する―。ＨＩＴＬは、ＡＩの活動結果に人間の最終判断を介在させることで、法的責任を担保するための重要な仕組みです。それは単なるチェック機能にとどまらず、ＡＩが処理した膨大な情報や論理を、人間が文脈に照らして統合し、最終的な意味や価値へと昇華させる「ラストワンマイル」の工程とも言えます。

　ＡＩエージェントが当たり前に使われる未来を見据え、募集プロセスの“信頼のあり方”をどのように再設計すべきか。こうした論点は、一社だけで結論を出せるものではありません。ＡＩエージェントが社会実装されるための「信頼のプロトコル（標準規格）」を定義するのは、私たち人間の役割です。

　ＧｕａｒｄＴｅｃｈ検討コミュニティでは、来年３月に主催するフラッグシップカンファレンス「ホケンのミライ２０２６」で、こうした論点を深く議論するキーノートセッション「募集コンプライアンス×生成ＡＩのミライ」を実施します。今回のコラムでは、その出発点となる問題意識を共有しました。

　（ＧｕａｒｄＴｅｃｈ検討コミュニティ代表）https://note.com/guardtech2024