Air Canada odpowiedzialna za to, co powiedział klientowi jej chatbot

Co się wydarzyło

Klient zapytał chatbota Air Canada o zasady taryfy żałobnej. Chatbot podał błędną informację, mówiąc, że klient może później ubiegać się o zwrot pieniędzy. Air Canada odmówiła zwrotu, powołując się na rzeczywiste zasady.

Sprawa trafiła do Civil Resolution Tribunal, który uznał Air Canada za odpowiedzialną za negligent misrepresentation i nakazał zapłatę łącznie około 812 CAD, w tym 650,88 CAD odszkodowania, odsetek i opłaty trybunału.

Problem biznesowy

Output AI może być błędny, klient zasadnie traktuje go jako oficjalną informację, a firma i tak odpowiada za to doświadczenie.

Co mogło pomóc

• Firma odpowiada za to, co jej AI mówi klientom - bez wyjątków
• QA i ewaluacja dla wszystkiego, co widzi klient, przed uruchomieniem
• Ścieżka eskalacji do człowieka dla pytań, na które chatbot nie odpowie pewnie
• Ciągła synchronizacja odpowiedzi chatbota z aktualną polityką firmy

Co z tego wynika