29.08.2021

Nie jestem pewna, czy zrozumiałam ideę AI w sądownictwie, zawartą w artykule Waldemara Korczyńskiego pt. „Jak pogodzić wolne sądy z izbą dyscyplinarną”.
Owszem, AI przydałaby się bardzo na poziomie uładzenia milionów przepisów w przejrzysty i spójny system, nieobrażający ludzkiego rozsądku, nieoszukujący ludzi zasadą „nieznajomość prawa szkodzi”, a także na poziomie tworzenia nowego prawa, gdzie wystarczyłby jeden klik zamiast „opinii pięciu prawników”, aby sprawdzić, czy tworzone prawo ma sens, to jest czy naprawdę coś istotnego reguluje oraz, czy nie jest sprzeczne z tym, co już obowiązuje itd.
AI miałaby pole do popisu także w dziedzinie procedur postępowania, zarówno administracyjnych, jak i też cywilnych, czy karnych. Gdy chodzi o sprawy czysto administracyjne (prawo budowlane, środowiskowe, telekomunikacyjne, farmaceutyczne, sanitarne, ubezpieczeniowe, i tysiąc innych), na poziomie urzędniczym AI powinna umożliwiać „wypluwanie” decyzji przez system. Urzędnicy mogliby zająć się czym innym, z pożytkiem dla życia swego i współobywateli. Sądy administracyjne byłyby w zasadzie zbędne, gdyż nie byłoby czego skarżyć, albowiem błędy decyzji wydawanych przez urzędników sprowadzają się do błędów formalnych i błędnej reasumpcji, to znaczy błędnego zastosowania przepisów do danej sytuacji. Mógłby zostać jak przed 2004 r., jeden Naczelny Sąd Administracyjny na cały kraj.
Lecz AI zastępująca sędziego, to nie.
Istotą władzy sądzenia nie jest stosowanie przepisów, bo to robić może dowolny urzędnik, wspomagany np. przez AI. Władza sądzenia rozpoczyna się tam, gdzie kończą się przepisy i ich logika, a gdzie zaczynają mieć znaczenie tak nielogiczne zasady, jak: zasada słuszności, rażąca niesprawiedliwość, zasady współżycia społecznego, dobro / interes wymiaru sprawiedliwości, społeczna szkodliwość czynu, rozsądny termin itp. To są tzw. klauzule generalne w prawie, które pokolenia normodawców wprowadzały do systemu prawa w miarę rozwoju cywilizacji, na podstawie doświadczeń, łagodząc jego kazuistykę. Nowożytne państwo rozumiało bowiem, że nie da się unormować każdej sytuacji, że społeczeństwa rozwijają się, zmienia się wrażliwość na jedne kwestie, drugie inaczej się rozumie, oraz że może dojść do sytuacji, gdzie dosłowne zastosowanie prawa prowadzi do niesprawiedliwości (nawet Rzymianie posługiwali się maksymą: summum ius, summa iniuria; swoją drogą, ciekawe i pouczające, że oni odróżniali ius [prawo] od lex [ustawa]).
I w takim przypadku jedynym ratunkiem przed niesprawiedliwością ze strony państwa stosującego bezduszne prawo jest sędzia, który może zastosować właśnie klauzulę generalną, posługując się ponadto przy orzekaniu równie nieostrym kryterium, jak „doświadczenie życiowe”. Ale także tradycją orzeczniczą; jeśli pominąć orzeczenia powodowane politycznie teraz i w przeszłości, niektóre uchwały Sądu Najwyższego lub Trybunału Konstytucyjnego to poezja logiki prawniczej (swoją drogą, to chyba oksymoron).
W swojej długiej praktyce cywilistycznej dosłownie kilka razy zetknęłam się na sali sądowej z sytuacją, w której poczułam, że wykonywanie mego zawodu ma sens, właśnie dlatego, że sędzia odważył się wyjść poza sztywną literę prawa i zastosować klauzulę generalną lub zdrowy rozsądek, rozumiejąc swoją władzę tak, jak należy: że człowiek po to idzie do sądu, aby uzyskać sprawiedliwe rozstrzygnięcie swego problemu, i nie można wypuścić go z niczym, zasłaniając się prawem (lub brakiem unormowania danej kwestii), czy z rozstrzygnięciem zgodnym z literą prawa, które wyrządza mu krzywdę. Proszę mi wierzyć, że za każdym razem było to dla mnie wstrząsające przeżycie, w pewnym sensie transcendentne.
Jak zachowałaby się AI w takiej sytuacji?
Oczywiście, zanim wprowadzi się AI do administracji państwa, trzeba prawo odchudzić, a z kompetencji sądów wyrzucić wiele spraw i oddać je w tryby administracji (sprawy rejestracji tytułów prasowych, partii, spółek, księgi wieczyste, i kilka innych); małe wykroczenia i małe spory sąsiedzkie powinni sądzić sędziowie nieprofesjonalni, lokalni. Pozwoliłoby to odchudzić sądy i uzyskiwać rozstrzygnięcia w przyzwoitym terminie.
Lecz władzę sądzenia należy pozostawić ludziom, a nie algorytmom.
Znany jest incydent z doświadczeniem podawania leku, sterowanym przez AI, gdzie AI doszła po jakimś czasie do wniosku, że podawanie leku ciągle od nowa, gdy niczego to nie zmienia na dłuższą metę, a pacjent i tak za jakiś czas umrze, jest nielogiczne i nieekonomiczne, i podała śmiertelną dawkę leku. Logicznego błędu zarzucić tu AI nie sposób. Wiem, badania nad tymi kwestiami trwają. Przytaczam ten eksces w celu zobrazowania działania logiki algorytmu.
Logika to kategoria umysłu; tak jak logika nie ma czego szukać w relacjach międzyludzkich, tak nie da się nią zastąpić wymiaru sprawiedliwości.
No, chyba że z systemu prawa usuniemy klauzule generalne …
Ale ja tego czasu wolałabym nie dożyć.
Magdalena Ostrowska
Dwie sprawy; (1) w moim tekście pisałem o programach do weryfikacji rozumowań i ew. sprawdzania niesprzeczności zbiorów zdań (np. przepisów jakiegoś kodeksu lub opisu “stanu faktycznego”) i – naprawdę bardzo prostych – programach sprawdzających czy jakiś (być może “abstrakcyjny”, np. sytuacja) obiekt spełnia ustalone w definiensie odpowiedniej definicji warunki czy nie. Żaden z tych programów nie działa “autonomicznie” i żadnej decyzji, orzeczenia, wyroku, etc. wyprodukować nie może. Może tylko skontrolować formalną poprawność rozumowania jakiegoś człowieka (np. sędziego). (2) system, o którym w tekście mowa musiałby być otwarty na modyfikacje, bo i rodzajów/typów przestępstw przybywa i wyznaczające przepisy granice społecznej tolerancji są nieustannie zmieniane. OSTATECZNĄ DECYZJĘ PODEJMOWAŁBY ZAWSZE CZŁOWIEK, który uwzględniać by musiał np. wynikające z jego wiedzy okoliczności łagodzące/obciążające, nietypowość sytuacji, etc.. O żadnym pomijaniu/naruszaniu klauzuli generalnej nie ma mowy. Do przedyskutowania byłoby co najwyżej jej artykułowanie i umiejscowienie w tekście orzeczenia (czy np. “rozbijać” ją na części przypisywane do konkretnych kroków dowodowych, czy pisać na końcu orzeczenia, jakim to robić językiem, itp..) Klauzule generalne w tym przypadku “zyskałyby nawet na ważności”, bo wskazywałyby jasno zakres niezależnego od systemu uzasadniania orzeczenia i odpowiedzialności za nie. Nie pisałem o zastępowaniu ludzi (np. sędziów) lecz o narzędziu kontrolującym ich pracę. Z punktu widzenia sędziego, to po prostu taki formalny “pomocnik”, pyskujący gdy sędzia popełni błąd FORMALNY. To jednak tylko narzędzie kontroli, ale i obrony prawnika (np.sędziego) przed zarzutami o popełnianie błędów formalnych. Nie ma mowy o zastępowaniu sędziego przez algorytm. Władza sądzenia (i odpowiedzialność za orzeczenie) pozostaje w całości w rękach sędziego. A tak zupełnie “prywatnie” i w jakimś sensie “osobiście”; ja generalnie jestem przeciwnikiem poglądu, ze świat czy nawet tylko “większość rzeczywistości” jest mierzalny. W logice, a właściwie w metalogice znane są również twierdzenia mówiące o tym, że właściwie każda jakoś w miarę dobrze określona dziedzina zawiera zdania “nierozstrzygalne”. Temu pierwszemu (poglądowi o niemierzalności) dawałem wielokrotnie wyraz w rozmaitych dyskusjach o tzw. naukometrii, czyli np. ocenianiu dorobku naukowego liczbami. To drugie, m.in. wspomniane istnienie zdań nierozstrzygalnych, to cała masa tzw. tw. limitacyjnych pokazujących granice poznawalności świata i “artykułowalności” (to chyba kiepski termin, ale teraz nic lepszego nie przychodzi mi na myśl) twierdzeń na ten temat. Tak więc nie wpadłbym nigdy na pomysł, by oddawać jakąkolwiek władzę nad człowiekiem algorytmowi. Zaawansowane programy “orzekające” (np. wspomniany program działający na “Watsonie”), które rzeczywiście ferują samodzielnie wyroki (warto jednak pamiętać, że chodzi o kraj, gdzie mamy “common law” z precedensami) wykorzystują m.in sieci neuronowe, o których słyszałem opinie iż niekiedy sami ich twórcy nie wiedzą jak swoje (tych sieci) wyniki one generują. Tak zaawansowana AI jest na razie i chyba długo jeszcze będzie poza poziomem społecznej akceptowalności umożliwiającym jej “sądowe” upowszechnienia. Dziękuję za obszerną opinie i pozdrawiam.
PostSriptum. Zaciekawiły mnie Pani uwagi nt. “odchudzania” prawa i przesuwania części “tematyki’ poza sądy. Rozumiem, że takie opinie nie są wśród sędziów wyjątkowe.Czy tak?
Dziękuje za wyjaśnienie. Tak przypuszczałam, jednak na wszelki wypadek musiałam się nasrożyć 🙂 Wie Pan, ja obawiam się też sytuacji, kiedy sędzia otrzyma do ręki narzędzie, które będzie mu generować gotowe rozwiązanie, które on będzie musiał czy tylko mógł skorygować o imponderabilia w rodzaju niska szkodliwość społeczna czynu. Z moich obserwacji wynika, że mało kto się na to zdobędzie, czy to z lenistwa, czy z oportunizmu (po co korygować zgrabnie napisaną i uzasadnioną podpowiedź,a potem się z tego tłumaczyć ?).
Co do odchudzania prawa, to stara bolączka, a ostatnimi laty wprost nie do wytrzymania. Panuje jakiś szaleńczy pęd do regulowania wszystkiego, normodawca uważa, że jeśli coś nie zostało uregulowane, to jest to tzw. luka w prawie i trzeba ją zapełnić, byle czym. Nikt nie jest w stanie śledzić codziennie jakie prawo się zmieniło, a niemal codziennie ukazuje się dziennik ustaw z całą listą nowości, zmian, poprawek, poprawek do poprawek. Podejmowano fasadowe próby deregulacji (np. komisja Palikota), lecz nic z tego nie wyszło.
Nie jestem sędzią, staję po drugiej stronie, jednak, owszem, w środowiskach prawniczych od dawna mówi się o przeregulowaniu i przeciążeniu sądów w sensie kompetencyjnym. Najpierw, po ’89 roku, wszystko zaczęto przesuwać do sądów: wykroczenia (dawniej były kolegia), sprawy gospodarze (dawniej był państwowy arbitraż gospodarczy), księgi wieczyste (dawniej prowadzili je notariusze), itd. Potem pojawiały się coraz nowe dziedziny prawa, i wszystkie roszczenia siłą rzeczy kierowano do sądu. A i ludzie nauczyli się z każdą bzdurą lecieć do sądu i nie odpuszczać po wyroku I instancji. Nie pomogły zabiegi w rodzaju obowiązkowych mediacji; Polacy nie lubią się dogadywać. Natomiast wszystkie instytucje, które mają cokolwiek wspólnego z publicznymi środkami (krajowymi lub unijnymi) nie mogą odpuścić niczego, ani odsetek, ani kar umownych, ani zawrzeć ugody, ani nie wnieść apelacji od wyroku, a potem skargi kasacyjnej do Sądu Najwyższego. Bo jest sobie ustawa o odpowiedzialności za naruszenie dyscypliny finansów publicznych, która każdego szefa instytucji oraz księgowego, który by się odważył zrobić dłużnikowi jakieś tego rodzaju ustępstwo, stawia przed wysoką komisją, obciąża karami, wyrzuca z pracy. Oczywiście, prawo zawiera takie tam regułki, że “w uzasadnionych przypadkach…”, ale kto będzie ryzykował swoją głową ?
Nawet AI tego bagna nie przezwycięży.
Dzięki za tak szybką reakcję. Rzeczywiście myślałem, ze jest Pani sędzią, bo Pani wpis odebrałem jako trochę emocjonalny. Teraz jednak cieszy mnie fakt, ze ktoś związany z prawem, a bezpośrednio “dotknięty’ moim tekstem, do problemu się odniósł. Ja piszę (pisuję) o tym od wielu lat, ale – bardzo rzadkie – reakcje prawników są typu “żadnych formalizmów, ani innych ograniczeń naszej wolności w uzasadnianiu orzeczeń”, a klientów sądów typu ” jak to całkiem tych ??? (tu długi szereg epitetów) nie pogrąży i mojej sprawy (bez mojego wysiłku, po prostu DLA MNIE, ALE ZA MNIE) wygrać nie pomoże (jak to szło “Sąd sądem, ale sprawiedliwość musi być po naszej stronie”), to czytać o tym nawet nie warto”. I między tymi dwoma ścianami nie ma właściwie niczego. I tak to mamy. Nasza polska “Konopielka” ma się znakomicie i perspektywy na przyszłość widzę jej świetlane. Co do przerostu chęci kodyfikacji wszystkiego co się da, też złudzeń nie miałem. Zawsze to jednak lepiej usłyszeć/przeczytać to od kogoś, kto w tym siedzi. Mnie przypomina to przerabianie starego niemieckiego wierszyka “Uebunge treu und ..” tzn.”ćwicz się być wiernym (i coś tam jeszcze, zapomniałem już co, ale na pewno coś wzniosłego) na “Uebunge treu Paradeschritt”, tj “ćwicz wiernie (w znaczeniu pilnie) krok defiladowy” i teksty o “społeczeństwie spektaklu”, gdzie rządy dają ludowi do oglądania nieustający debilny spektakl, a społeczeństwo dobrze się w roli widza czuje. Pytanie czy poza kryzysami ekonomicznymi czy tematyką godnościowo – patriotyczną (z patriotyzmem pt. “szable w dłoń …”, my najlepsi i najbardziej pokrzywdzeni więc wszystko się nam należy) jest jeszcze jakiś mechanizm, który może nas jakoś “ruszyć”. Wydaje mi się, że raczej kontrowersyjna tematyka udziału AI w naszym życiu jakąś minimalną szansę może mieć. A to “Watson” leki na Covid-19 wyszuka, a to samochód autonomiczny kobietę zabije, a to znajoma robota mądrego do sprzątania kupi czy w Japonii roboty do umilania starszym ludziom czasu wymyślą itp. wiec ludziska czasem coś zauważą. Tematyka pracy wymiaru sprawiedliwości budzi spore emocje, więc warto chyba spróbować. Może ktoś w miarę “decyzyjny” uzna kiedyś, że lepiej dać sędziemu podobne do opisywanego wyżej narzędzie niż szukać mu lekarza (to chyba nie jest szczególnie bezstresowa robota) albo go wymieniać bo coś tam przekręcił.
Bardzo się cieszę, że na łamach SO pojawiają się takie teksty i to równocześnie. Dla mnie, trochę “technofila” jak mówi o mnie mój przyjaciel – duży profesor UW – to tylko zwiastun tego co będzie za trzydzieści lat. Nasze obawy budowane są w oparciu o doświadczenie tego co tu i teraz, wtedy te wszystkie obawy i zastrzeżenia są uzasadnione a nawet wskazane. Ale wystarczy pomyśleć o tym gdzie byliśmy trzydzieści lat temu w technikach łączności, jaka była moc obliczeniowa tamtych maszyn liczących a obecnych komputerów, pomyśleć o tempie rozwoju, rozwoju wykładniczego jaki widzimy w technice i narzędziach aby wiedzieć – za trzydzieści lat świat będzie zupełnie inny albo nie będzie go wcale. Załatwią to właśnie ludzie z ich emocjami, ograniczoną zdolnością do rozumienia całościowego tego co dzieje się wokół nas. Żadne ciało decyzyjne składające się z ludzi nie zapobiegnie katastrofie klimatycznej i związanych z nią masowych migracji setek milionów ludzi, żadna władza budowana przez ludzi nie potrafi podjąć optymalnych z punktu widzenia całości systemu decyzji.
Ta nasza dyskusja ma też jedną słabość która zarazem jest jej siłą – my tego nie sprawdzimy
“Załatwią to właśnie ludzie z ich emocjami, ograniczoną zdolnością do
rozumienia całościowego tego co dzieje się wokół nas. Żadne ciało
decyzyjne składające się z ludzi nie zapobiegnie katastrofie
klimatycznej i związanych z nią masowych migracji setek milionów ludzi,
żadna władza budowana przez ludzi nie potrafi podjąć optymalnych z
punktu widzenia całości systemu decyzji.
Ta nasza dyskusja ma też jedną słabość która zarazem jest jej siłą – my tego nie sprawdzimy” Ma Pan rację. W ostatnim zdaniu, niestety, też.