カスタマーサポートの現場では、AIチャットボットによる自動応答が急速に普及している。まだ問い合わせ内容を理解できず、定型文を返すだけのチャットボットは以前から存在したが、いまは生成AIを組み込んだAIエージェントが、FAQの参照から返品手続きの案内までを自然な会話で処理するようになっている。その一方で、AIが答えた内容の根拠を顧客が確かめる手段は限られていた。この状況を変えるアップデートが、顧客対応プラットフォームを手がけるZendeskから発表された。Zendeskが公式コミュニティで公開したリリース概要によると、AIエージェントが回答を作る際に参照した情報源を、顧客が確認できる機能が追加された。Web Widgetとソーシャルチャネルで、AIが生成した返信のソースを別ビューで表示できるようになるという。
この機能の特徴は、チャットの会話を妨げずに透明性を確保する点にある。従来のチャットボットでは、回答の根拠となるヘルプセンター記事やFAQを画面内に埋め込もうとすると、表示が煩雑になりがちだった。Zendeskの新機能は、AIの返信に付随する形でソースを開けるようにし、必要なときだけ根拠を参照できる設計を採用している。AIエージェントの導入が進むほど、回答の裏付けを見せたいという顧客のニーズは高まる。
AIエージェントが「根拠を示す」仕組み
Zendeskが追加したのは、AIエージェントが参照した情報源を、顧客の操作で別ビューに開く仕組みだ。返品条件や契約内容の問い合わせに対して、AIがどの記事を参考に回答したのかを、顧客自身がクリックして確認できる。これまでAIチャットの回答をそのまま信じるしかなかったユーザーにとって、判断の手がかりを得られる変化になる。
企業担当者にとっても、この機能の意味は大きい。AIエージェントの回答に誤りがあった場合、どのナレッジを参照したのかを追跡できるからだ。Zendeskは今回のアップデートを「AIと知識」の領域に位置づけている。AIエージェントの精度を左右するのは、参照するナレッジの質と管理方法だからだ。回答の根拠を可視化することで、どの記事がAIに使われているのかを運用担当者が把握しやすくなり、情報の更新や削除といったメンテナンス作業にもつなげやすくなる。
なぜ今、透明性が求められるのか
カスタマーサポートAIの役割は、定型的な質問に答えるだけにとどまらない。注文状況の確認や契約変更の案内など、顧客の意思決定に影響する場面にもAIエージェントが登場している。顧客がAIと接する機会が増えれば増えるほど、その回答に誤りがあった場合の企業リスクも大きくなる。だからこそ、AIがどのような情報に基づいて回答したのかを説明できる仕組みが求められている。
とりわけ欧州では、AIシステムの透明性や説明可能性を求める規制の議論が続いており、企業が導入するAIの要件にも影響を与えつつある。AIの判断根拠を人間が確認できないシステムは、事業によっては利用が難しくなる可能性も指摘されている。国内企業でも、海外展開の際にAIシステムの判断根拠を説明できることが求められるケースが増えるとみられる。Zendeskの新機能は、そうした流れに沿って、エンドユーザーにも分かりやすくAIの根拠を示せるようにした点で注目されている。
AIが顧客と直接対話する場面では、回答の正確さに加えて、どうしてその回答に至ったのかを伝える「説明」が顧客体験の一部になる。購入前の問い合わせにAIが答えた内容が、購入後のトラブルまで左右することもある。説明責任は法規制の問題であると同時に、顧客との信頼関係を築くための実務上の課題としても捉えられるようになってきた。