Prawnicy zacytowali w piśmie procesowym sprawy, które wymyślił ChatGPT

Co się wydarzyło

Prawnicy reprezentujący Roberto Matę wykorzystali ChatGPT przy przygotowaniu pisma procesowego. Model wygenerował nieistniejące sprawy i cytaty, które trafiły do pisma przedstawionego sądowi.

Sąd ustalił, że cytowane decyzje nie istniały. Prawnicy zostali ukarani grzywną 5 000 USD i zobowiązani do poinformowania klienta oraz sędziów, których nazwiska wykorzystano w fikcyjnych cytatach.

Problem biznesowy

Błędny research, brak weryfikacji, ryzyko reputacyjne, ryzyko prawne i nadszarpnięte zaufanie klienta.

Co mogło pomóc

• Obowiązkowa weryfikacja źródeł, nie opcjonalna
• Checklist weryfikacji outputu AI dla materiałów dla klienta
• Szkolenie zespołu, gdzie AI może się mylić
• Ograniczenie AI w zadaniach wysokiego ryzyka do czasu wdrożenia procesu weryfikacji

Co z tego wynika