問い合わせ対応をAIチャットボットに任せる企業が増える一方で、AIの不適切な回答がSNSで拡散され、企業の評判を損なう事例が国内外で報告されている。便利さの裏にある落とし穴を理解し、事前に対策を講じておくことが重要だ。

よくある炎上パターン

代表的なのは、AIが規約にない内容を「できる」と断言してしまい、後から企業側が撤回することでユーザーの不信感を招くケースだ。AIは会話の流れの中で、ユーザーを満足させる方向に回答を寄せてしまう傾向があり、実際の社内ルールと矛盾する約束をしてしまうことがある。また、感情的な苦情に対して機械的な定型文で応答し続けることで、かえってユーザーの怒りを増幅させてしまう事例もある。

設計段階で防げること

第一に、AIが回答できる範囲を明確に制限し、料金・返品・法的な責任に関わる内容については必ず定型の免責文言を挟むか、人間の担当者にエスカレーションする設計にすること。第二に、ユーザーの感情が高ぶっていることを検知した場合、早い段階で人間のオペレーターに引き継ぐ仕組みを用意すること。多くのカスタマーサポートAIツールには、否定的な感情を検知してエスカレーションするための感情分析機能が搭載されており、これを積極的に活用すべきだ。

運用フェーズでのモニタリング

AIの回答をリリース後もサンプリングで定期的に確認し、意図しない回答をしていないかをチェックする体制を作ることが欠かせない。特に新商品の発売やキャンペーン開始など、問い合わせ内容が急増するタイミングでは、通常時とは異なる質問パターンにAIがうまく対応できているかを重点的に確認する必要がある。

エスカレーション先の準備

AIでは対応しきれないと判断された場合に、スムーズに人間の担当者へ引き継げる体制を整えておくことも重要だ。引き継ぎの際に、それまでの会話内容が正しく引き継がれず、ユーザーが同じ説明を何度もさせられるという不満も、炎上の火種になりやすい典型的な失敗パターンだ。

まとめ

AIによるサポート自動化は、コスト削減効果が大きい一方、失敗した際の炎上リスクも大きい。回答範囲の制限、感情検知によるエスカレーション、引き継ぎ時の情報連携という3点を最低限の設計基準として押さえておきたい。

炎上が起きた際の初動対応

万全の設計をしていても不適切な回答が発生する可能性はゼロにはならない。SNSで問題が指摘された際に、事実確認・謝罪・再発防止策の公表までをどれだけ早く行えるかが、企業への信頼への影響を左右する。事前に対応フローと責任者を決めておくことが、実際に問題が起きたときの被害を最小限に抑える。