Audyt grantów i finansów w erze AI Act: dlaczego potrzebujemy systemów bez autonomii decyzyjnej?
Unijny AI Act zakazuje oddawania kluczowych decyzji w instytucjach publicznych i NGO nieprzejrzystym algorytmom. Jak więc przyspieszyć żmudny audyt grantów i dokumentów finansowych bez ryzyka błędów AI? Doświadczenia Fundacji BBS przy projektowaniu systemu LEO pokazują, że rozwiązaniem nie jest „inteligentny automat”, lecz narzędzie analityczne zaprojektowane w modelu ścisłej kontroli człowieka.
1. Dlaczego komercyjne modele AI zawodzą w rozliczaniu dotacji i zamówień?
W ostatnich dwóch latach wiele zespołów projektowych zaczęło eksperymentować z ogólnodostępnymi modelami językowymi przy analizie umów, regulaminów czy sprawozdań finansowych. Choć narzędzia te świetnie radzą sobie z redagowaniem tekstów, ich zastosowanie w audycie, księgowości czy kontroli wydatków grantowych niesie ze sobą fundamentalne ryzyko.
Komercyjne systemy generatywne działają na zasadzie prawdopodobieństwa, a nie twardego dowodu. Potrafią sformułować przekonująco brzmiący wniosek bez bezpośredniego odniesienia do konkretnej faktury, protokołu odbioru czy zapisu w budżecie projektu. Co więcej, w sytuacji braku danych często „dopowiadają” brakujący kontekst. W sektorze publicznym i trzecim sektorze – gdzie każda zakwestionowana pozycja kosztowa podlega kontroli instytucji finansującej, Krajowej Administracji Skarbowej lub sądu – takie podejście jest nie do przyjęcia. Urzędnik, księgowy ani koordynator grantu nie może uzasadnić decyzji słowami: „tak zasugerował algorytm”.
2. Wymogi EU AI Act a odpowiedzialność instytucjonalna
Unijny Akt o sztucznej inteligencji (AI Act) wprowadza rygorystyczne ramy dla systemów wykorzystywanych w obszarach wysokiego ryzyka, w tym w administracji publicznej, ocenie uprawnień do świadczeń czy nadzorze nad środkami publicznymi. Kluczowymi wymogami stają się dziś: pełna przejrzystość działania systemu, możliwość prześledzenia logiki każdego wyniku (auditability), wysoka jakość danych wejściowych oraz realny, a nie jedynie iluzoryczny nadzór człowieka (human oversight).
Oznacza to, że organizacje wdrażające narzędzia analityczne muszą odwrócić dotychczasową logikę rynkową. Zamiast budować systemy, które „zastępują człowieka i podejmują decyzje”, należy tworzyć infrastrukturę, która porządkuje materiał dowodowy, chroni przed błędami proceduralnymi i wzmacnia kompetencje osoby dokonującej oceny.
3. Architektura pod kontrolą człowieka: doświadczenia projektu LEO
W ramach działalności badawczo-rozwojowej Fundacji BBS – Better Balance System opracowujemy architekturę systemu LEO (Human-Controlled Institutional Integrity System), zaprojektowanego specjalnie z myślą o weryfikacji procesów instytucjonalnych, wydatków grantowych oraz dokumentacji księgowo-zakupowej.
Projektując ten model, przyjęliśmy kilka rygorystycznych granic architektonicznych:
- Zero autonomii decyzyjnej (Zero-Autonomy Boundaries): System nigdy nie generuje wiążących werdyktów prawnych ani finansowych. Nie blokuje płatności, nie odrzuca wniosków i nie przypisuje nikomu winy czy nadużycia. Wykryta niespójność jest traktowana wyłącznie jako sygnał analityczny wymagający weryfikacji przez upoważnionego człowieka.
- Nierozerwalna ścieżka dowodowa (Evidence Lineage & Provenance): Każdy sygnał wygenerowany przez system musi mieć bezpośrednie, weryfikowalne zakotwiczenie w dokumencie źródłowym. Jednocześnie system zachowuje pełną historię zmian i wcześniejszych stanów dokumentacji – nic nie jest po cichu nadpisywane ani usuwane.
- Uczciwe zarządzanie niepewnością: W tradycyjnych systemach brak dokumentu lub nietypowy zapis często uruchamia fałszywy alarm. W architekturze LEO rozróżniamy stany potwierdzone, sprzeczne oraz nieznane (UNKNOWN_REQUIRES_REVIEW). Brak danych nie prowadzi do automatycznego oskarżenia, lecz precyzyjnie wskazuje audytorowi miejsce, w którym dokumentacja wymaga uzupełnienia.
- Rozdzielenie reguł formalnych od osądu ludzkiego: System oddziela sprawdzenia czysto proceduralne i matematyczne (np. zgodność kwot, dat, limitów czy ciągłości podpisów w ścieżce akceptacji) od obszarów wymagających interpretacji merytorycznej i znajomości kontekstu projektu.
4. Praktyczne zastosowanie w trzecim sektorze i instytucjach publicznych
Aby pokazać, jak te założenia działają poza teorią, udostępniliśmy na portalu leonexus.org trzy otwarte środowiska demonstracyjne odzwierciedlające codzienne wyzwania instytucji i organizacji pozarządowych:
- Przegląd wydatków grantowych (Grant Expense Review): Wsparcie w weryfikacji kompletności dokumentacji rozliczeniowej, zgodności wydatków z zatwierdzonymi liniami budżetowymi oraz przygotowaniu przejrzystego pakietu dowodowego do kontroli.
- Analiza zakupów i dokumentacji księgowej (Procurement / Accounting Review): Wykrywanie rozbieżności w dokumentach zakupowych, oznaczanie ryzyk związanych z wiarygodnością źródeł danych oraz generowanie listy konkretnych pytań kontrolnych dla księgowego lub audytora.
- Kontrola ścieżek akceptacji (Institutional Approval Review): Weryfikacja, czy wewnętrzne procesy zatwierdzania decyzji w organizacji przebiegły zgodnie z przyjętymi procedurami i kompetencjami.
W każdym z tych obszarów technologia wykonuje najbardziej czasochłonną pracę porządkową – zestawia fakty, sprawdza spójność załączników i dokumentuje przebieg analizy – pozostawiając 100% władzy decyzyjnej i odpowiedzialności po stronie człowieka.
5. Podsumowanie: przejrzystość jako fundament zaufania
Cyfryzacja audytu i kontroli finansowej w organizacjach pozarządowych oraz instytucjach publicznych jest nieunikniona, ale jej sukces zależy od zaufania. Zarówno grantodawcy, jak i obywatele muszą mieć pewność, że za oceną projektów i wydatkowaniem środków stoją przejrzyste reguły oraz odpowiedzialni ludzie, a nie niekontrolowane algorytmy.
W Fundacji BBS traktujemy obecny etap rozwoju systemu LEO jako otwarty proces ewaluacji publicznej. Dokumentacja architektoniczna, repozytoria kodu oraz środowiska demonstracyjne są dostępne publicznie na stronie leonexus.org. Zapraszamy przedstawicieli organizacji pozarządowych, audytorów, księgowych oraz ekspertów ds. zgodności (compliance) do zapoznania się z naszym podejściem, zgłaszania uwag krytycznych oraz wspólnego wypracowywania standardów bezpiecznego wykorzystania technologii w służbie przejrzystości instytucjonalnej.
Nota o autorze:
Pavlo Martseniuk – Prezes Zarządu Fundacji BBS – Better Balance System, architekt systemów informatycznych zajmujący się projektowaniem narzędzi wsparcia analitycznego, integralności danych instytucjonalnych oraz architekturą systemów nadzorowanych przez człowieka.
Dodaj informację do portalu ngo.pl!
Czekamy na Twój artykuł, komentarz, wywiad czy relację. Dotrzyj ze swoją informacją do tysięcy osób, które czytają ngo.pl.
-
Anna Twardowska, Centrum PISOP
-
Anna Twardowska, Centrum PISOP