Case Study · Halucynacje AI
NSA przyłapał pełnomocnika na cytowaniu zmyślonych przez AI orzeczeń
Co się wydarzyło
W polskim sporze dotyczącym VAT pełnomocnik złożył zażalenie o wstrzymanie wykonania decyzji podatkowej, powołując się na wcześniejsze orzeczenia sądów na poparcie argumentacji. Naczelny Sąd Administracyjny (NSA) ustalił, że przywołane orzeczenia albo nie dotyczyły spornej kwestii, albo nie istniały w opisanej postaci - zostały wymyślone przez narzędzie AI i złożone bez żadnej weryfikacji.
NSA oddalił zażalenie i w wyroku z sierpnia 2026 roku (sygn. I FZ 104/26) wprost skrytykował bezrefleksyjne korzystanie z narzędzi AI przez profesjonalnego pełnomocnika przy sporządzaniu pism procesowych, określając to jako naruszenie standardów zawodowych. Argumentacja nie pomogła sprawie klienta - wręcz jej zaszkodziła.
Problem biznesowy
Profesjonalista działający w imieniu klienta złożył w sądzie cytowania prawne wygenerowane przez AI bez ich weryfikacji, a fabrykacja trafiła do akt sprawy.
Co mogło pomóc
- Praca profesjonalna i prawna wymaga standardu weryfikacji, którego samo użycie AI nie spełnia
- Zmyślone cytowanie nie tylko nie pomaga sprawie - aktywnie szkodzi wiarygodności wobec sądu czy kontrahenta
- Weryfikacja przez człowieka nie jest opcjonalna tam, gdzie w grę wchodzą konsekwencje prawne lub regulacyjne
- Odpowiedzialność za pracę wspomaganą AI spoczywa na profesjonaliście, który ją podpisuje, nie na narzędziu