Sztuczna inteligencja w ochronie środowiska – granice dopuszczalności stosowania i zasady odpowiedzialności za błędy
Sztuczna inteligencja coraz śmielej wkracza do ochrony środowiska. Może analizować ogromne zbiory danych, wspierać monitoring środowiska, identyfikować potencjalne naruszenia prawa czy pomagać przy sporządzaniu raportów oddziaływania na środowisko. Jednocześnie jej wykorzystanie rodzi pytania o legalność stosowania AI przez organy administracji oraz o odpowiedzialność za błędy popełnione przez systemy AI. Wynika z nich jeden podstawowy wniosek: AI może wspierać człowieka, ale nie może zastąpić jego odpowiedzialności.
W jakich obszarach organy mogą korzystać z AI?
Organy ochrony środowiska mogą wykorzystywać AI przede wszystkim do analizowania danych, prognozowania zagrożeń środowiskowych, monitorowania stanu środowiska czy wspomagania procesów administracyjnych. Dopuszczalne jest także wykorzystywanie systemów AI do porządkowania dokumentacji, wyszukiwania informacji lub przygotowywania projektów uzasadnień decyzji. Granicą pozostaje jednak zasada legalizmu oraz obowiązek zachowania realnego nadzoru człowieka nad procesem decyzyjnym. Organ nie może bezrefleksyjnie zatwierdzać wyników wygenerowanych przez system, ponieważ odpowiedzialność za rozstrzygnięcie nadal ponosi człowiek.
Czego nie można zautomatyzować?
Szczególne ograniczenia dotyczą profilowania osób fizycznych na potrzeby kontroli środowiskowych. Obecnie przepisy nie pozwalają, aby decyzja o wszczęciu kontroli była oparta wyłącznie na automatycznej ocenie ryzyka wygenerowanej przez algorytm.
W przypadku postępowań administracyjnych nie można także całkowicie zautomatyzować ocen wymagających uznania administracyjnego, takich jak ocena znaczącego oddziaływania na środowisko czy analiza ryzyka wystąpienia szkody środowiskowej. AI może wspierać te czynności, ale nie może ich samodzielnie rozstrzygać.
AI w raportach środowiskowych – korzyści i ryzyka
Coraz częściej sztuczna inteligencja wykorzystywana jest również przy sporządzaniu raportów oddziaływania na środowisko. Algorytmy mogą pomagać w analizie dokumentów, przygotowywaniu opisów przedsięwzięcia, wizualizacjach, prognozach oddziaływania czy opracowaniu wariantów inwestycji. Korzyści są znaczące, jednak pojawia się ryzyko błędów wynikających z nieprawidłowych danych, wad działania modelu lub tzw. halucynacji AI.
Kto odpowiada za błędy sztucznej inteligencji?
Kluczowe znaczenie ma przy tym odpowiedzialność za takie błędy. Prawo nie zna pojęcia odpowiedzialności „sztucznej inteligencji”. Odpowiadają zawsze konkretne podmioty uczestniczące w procesie przygotowania i wykorzystania raportu.
W pierwszej kolejności odpowiada autor raportu. To on firmuje dokument i ponosi pełną odpowiedzialność za jego treść, niezależnie od zakresu wykorzystania AI. Wygenerowanie fragmentu raportu przez system nie zwalnia autora z obowiązku jego samodzielnej weryfikacji, oceny jakości danych i wykrywania ewentualnych błędów czy stronniczości algorytmu.
Istotne ryzyko ponosi również inwestor, który przedkłada raport jako dowód w postępowaniu środowiskowym i ponosi konsekwencje proceduralne oraz ekonomiczne ewentualnych błędów. Wadliwy raport może prowadzić do wzruszenia decyzji środowiskowej, opóźnienia inwestycji lub konieczności ponownego przeprowadzenia części procedury. Fakt, że raport przygotował zewnętrzny wykonawca korzystający z AI, nie eliminuje tych ryzyk.
Odpowiedzialność może ponosić także organ administracji. Jeżeli decyzja została wydana na podstawie błędnych ustaleń wygenerowanych przez AI i organ nie przeprowadził ich należytej weryfikacji, możliwe jest przypisanie odpowiedzialności Skarbowi Państwa za niezgodne z prawem działanie administracji. Organ ma obowiązek samodzielnej oceny materiału dowodowego i nie może bezkrytycznie akceptować wyników przedstawionych przez system informatyczny.
Osobnym zagadnieniem jest odpowiedzialność dostawcy systemu AI. Choć przepisy nie regulują jej wprost, dostawca może odpowiadać za nienależyte świadczenie usług związanych z utrzymaniem i funkcjonowaniem systemu. Nie odpowiada jednak automatycznie za każdy błędny wynik wygenerowany przez algorytm.
Człowiek pozostaje (jednak) odpowiedzialny
W praktyce oznacza to, że wykorzystanie AI w ochronie środowiska jest prawnie dopuszczalne i może znacząco zwiększyć efektywność działania zarówno organów administracji, jak i uczestników procesów inwestycyjnych. Warunkiem pozostaje jednak zachowanie rzeczywistego nadzoru człowieka, przejrzystości procesu oraz odpowiedzialności za podejmowane decyzje. AI może być narzędziem wspierającym, ale nie zastępuje ani urzędnika, ani autora raportu, ani inwestora.
Więcej na ten temat w komentarzu:
Czy organ ochrony środowiska może korzystać z AI przy kontroli i analizie danych?
