Australian lawyer apologizes for AI-generated errors in murder case

Australian lawyer apologizes for AI-generated errors in murder case A senior lawyer in Australia has apologized to a judge for using AI-generated fake quotes and nonexistent case j…

 

MELBOURNE, Australia (AP) — Starszy prawnik w Australii przeprosił sędziego za złożenie w sprawie o morderstwo pism procesowych zawierających fałszywe cytaty i nieistniejące orzeczenia sądowe wygenerowane przez sztuczną inteligencję.

Wpadka w Sądzie Najwyższym stanu Wiktoria to kolejny z szeregu przypadków, w których AI spowodowała problemy w systemach wymiaru sprawiedliwości na całym świecie.

Obrońca Rishi Nathwani, posiadający prestiżowy tytuł King’s Counsel (radcy królewskiego), wziął „pełną odpowiedzialność” za złożenie błędnych informacji w pismach procesowych w sprawie nastolatka oskarżonego o morderstwo — wynika z dokumentów sądowych, do których w piątek dotarła Associated Press.

„Jest nam bardzo przykro i wstyd z powodu tego, co się wydarzyło” — powiedział Nathwani w środę sędziemu Jamesowi Elliottowi, występując w imieniu zespołu obrońców.

Błędy wygenerowane przez AI spowodowały 24-godzinne opóźnienie w rozstrzygnięciu sprawy, którą Elliott chciał zakończyć w środę. W czwartek sędzia orzekł, że klient Nathwaniego, którego tożsamości nie można ujawnić, ponieważ jest nieletni, nie jest winny morderstwa z powodu niepoczytalności.

„Ryzykując niedopowiedzenie, muszę stwierdzić, że sposób, w jaki rozwinęły się te wydarzenia, jest niezadowalający” — powiedział Elliott prawnikom w czwartek.

Sędzia dodał: „Możliwość polegania na dokładności materiałów przedstawianych przez obrońców jest fundamentalna dla należytego sprawowania wymiaru sprawiedliwości”.

Fałszywe pisma zawierały zmyślone cytaty z przemówienia w parlamencie stanowym i nieistniejące orzeczenia rzekomo wydane przez Sąd Najwyższy.

Błędy odkryli współpracownicy Elliotta, którzy nie mogli znaleźć wskazanych orzeczeń i poprosili obrońców o dostarczenie kopii.

Prawnicy przyznali, że cytowane orzeczenia „nie istnieją” i że pismo zawierało „fikcyjne cytaty” — wynika z dokumentów sądowych.

Prawnicy wyjaśnili, że sprawdzili poprawność pierwszych cytatów i błędnie założyli, że pozostałe również będą prawdziwe.

Pisma procesowe zostały także przesłane do prokuratora Daniela Porceddu, który również nie zweryfikował ich poprawności.

Sędzia zauważył, że Sąd Najwyższy już w zeszłym roku opublikował wytyczne dotyczące korzystania ze sztucznej inteligencji przez prawników.

„Nie jest dopuszczalne korzystanie ze sztucznej inteligencji, jeśli rezultat jej użycia nie został niezależnie i dokładnie zweryfikowany” — powiedział Elliott.

Dokumenty sądowe nie ujawniają, z jakiego systemu generatywnej sztucznej inteligencji korzystali prawnicy.

W porównywalnej sprawie w Stanach Zjednoczonych w 2023 roku federalny sędzia nałożył grzywny w wysokości 5000 dolarów na dwóch prawników i kancelarię po tym, jak ChatGPT został obwiniony o wytworzenie fikcyjnych badań prawniczych w sprawie o odszkodowanie za obrażenia w lotnictwie.

Sędzia P. Kevin Castel stwierdził, że działali w złej wierze. Jednak wziął pod uwagę ich przeprosiny i podjęte kroki naprawcze, tłumacząc, dlaczego surowsze sankcje nie były konieczne, aby upewnić się, że oni ani inni prawnicy ponownie nie pozwolą narzędziom AI skłonić się do tworzenia fałszywej historii prawniczej w swoich argumentach.

Później w tym samym roku kolejne fikcyjne orzeczenia sądowe wymyślone przez AI zostały przytoczone w pismach prawników Michaela Cohena, byłego osobistego adwokata prezydenta USA Donalda Trumpa. Cohen wziął winę na siebie, tłumacząc, że nie wiedział, iż narzędzie Google, którego używał do badań prawniczych, jest również zdolne do tzw. halucynacji AI.

Sędzia Victoria Sharp z brytyjskiego High Court ostrzegła w czerwcu, że przedstawianie fałszywych materiałów jako autentycznych może zostać uznane za obrazę sądu lub — w „najbardziej rażących przypadkach” — za utrudnianie wymiaru sprawiedliwości, co wiąże się z maksymalną karą dożywotniego więzienia.