Case Study · Halucynacje AI
Firma straciła kontrakt na 15,5 mln zł przez zmyślone przez AI interpretacje podatkowe
Co się wydarzyło
Exdrog wygrał polski przetarg na utrzymanie dróg o wartości 15,5 mln zł, uzasadniając nietypowo niską stawkę VAT odwołaniami do interpretacji podatkowych rzekomo potwierdzających tę kalkulację. Konkurencyjny oferent, reprezentowany przez kancelarię BSJP, sprawdził te cytowania i wykazał, że nie istnieją - interpretacje zostały wymyślone przez narzędzie AI.
Krajowa Izba Odwoławcza (KIO) orzekła w październiku 2025 roku, że Exdrog nie zweryfikował informacji wygenerowanych przez AI przed złożeniem ich jako podstawy formalnej oferty, i wykluczyła firmę z przetargu. To uznawane za pierwszy taki wyrok w Polsce.
Problem biznesowy
Narzędzie generatywnej AI wymyśliło cytowania prawne, które wyglądały dokładnie tak samo wiarygodnie jak prawdziwe, a nikt w zespole nie sprawdził ich przed wysłaniem oferty.
Co mogło pomóc
- Traktuj cytowania, liczby i odniesienia prawne wygenerowane przez AI jako niezweryfikowane, dopóki ktoś nie sprawdzi ich w źródle pierwotnym
- Wbuduj obowiązkową weryfikację w każdy dokument opuszczający firmę, który ma wagę prawną lub finansową
- Nie zakładaj, że pewność siebie w odpowiedzi AI oznacza poprawność - zmyślone cytowania brzmią identycznie jak prawdziwe
- Przeszkol osoby piszące oferty i formalne dokumenty właśnie pod kątem tego rodzaju błędu, nie tylko ogólnej świadomości AI