ホームページにAIのチャット窓口を置くと、何ができる？

チャット窓口に任せられること

ホームページの右下などに置くチャット窓口は、お客さんが文字で質問し、その場で返事を受け取れる仕組みです。次は使い方のアイデアで、どれも効果を約束するものではありません。

決まった答えを返す型と生成AIの型

チャット窓口の中身は、大きく2つの作り方に分かれます。デジタル庁の「テキスト生成AI利活用におけるリスクへの対策ガイドブック（アルファ版）」は、従来のチャットボットでよく起きる問題として、返せる答えの数が少なく、どう入力しても必要な答えにたどり着けないことや、文中の単語の一部だけを拾って意味を無視することを挙げています。

生成AIは「探す」部分にだけ使う作り方もある

2つの型は、どちらか一方を選ぶものではありません。同じガイドブックは、事前に用意した答えの候補をもとにして、生成AIは質問の言い方の違いを吸収したり、合う候補を探したりする部分に使う方法を紹介しています。答えの候補が事前に決まっているので、原理的にはすべての答えを事前に試せる点を利点に挙げています。

ガイドブックは、生成AIの品質を保つ最も安全な方法は、試していない答えを使わないことだとも書いています。チャットボット以外でも、生成AIを使う範囲を絞ることは品質の安定や費用の抑制につながるとして、本当に生成AIが必要な処理かを先に検討するよう勧めています。

当社の考えでは、営業時間や料金のように間違えると困る答えは人が書いた文章を返し、生成AIには「どの答えが合うか探す」「答えが無いときに人への引き継ぎを案内する」ことを任せる作りが、小さな店や会社には始めやすい形です。生成AIが資料に無いことを答える理由は生成AIの答えが間違っているのはなぜ？で説明しています。

AIに答えさせず、人へ引き継ぐ質問

チャット窓口の返事は、お客さんから見れば店や会社の返事です。次のような質問は、窓口では「担当者から連絡します」「お電話でご確認ください」と案内し、人が答える作りにしておきます。どれを人に回すかは業種によって変わるため、ここに挙げたのは当社が考える目安です。

お客さんが書き込む個人情報と、指示を書き換えようとする入力

チャット窓口には、お客さんが名前や電話番号、相談の中身を書き込むことがあります。個人情報保護委員会の注意喚起（令和5年6月2日）は、事業者が本人の同意なく個人データを含む指示を生成AIサービスに入力し、それが応答の出力以外の目的で扱われる場合、個人情報保護法に違反するおそれがあるとしています。そのため、使うサービスが入力内容を機械学習に使わないことなどを十分に確認するよう求めています。

生成AIの型では、窓口への指示を無視させようとする文章を入力される場合があり、プロンプトインジェクションと呼ばれます。デジタル庁のガイドブックは、生成AIの出力の形式を決めておき、その中の必要な部分だけを利用者に返すことで、この攻撃に強くなると説明しています。ただし絶対ではないとも注意しています。答えさせてよい範囲を絞っておくことが、ここでも役に立ちます。

生成AIをホームページから呼び出すにはAPIという窓口を使い、料金は使った量で決まるのが一般的です。仕組みと契約の違いは生成AIのAPIとは？にまとめています。

置く前に、過去の問い合わせで試す

窓口が役に立つかは、実際に届いた質問で確かめるのが確実です。デジタル庁のガイドブックも、問い合わせ対応の一部を生成AIに置き換える場合、過去に実際にあった問い合わせとその回答を試すための材料に使えると説明しています。

まず、メール・電話・SNSで届いた問い合わせを1〜2か月分さかのぼり、質問と実際に返した答えを並べて書き出してください。名前や連絡先は消しておきます。同じ質問が何度も出てくるなら、窓口に任せられる候補です。毎回事情が違う質問が多いなら、窓口よりも問い合わせフォームの項目を見直すほうが効果があるかもしれません。

書き出した質問を窓口に入れ、返事が実際の答えと合っているか、人へ引き継ぐべき質問を引き継いでいるかを1件ずつ見ます。店の資料をもとに答える仕組みそのものは社内の資料をもとに答えるAIとは？で詳しく解説しています。