Co unijne przepisy o AI oznaczają dla modelu finansowego

Działy finansowe czytają zwykle unijne przepisy o sztucznej inteligencji na jeden z dwóch sposobów: jako cudzy problem albo jako powód, żeby w ogóle trzymać AI z dala od liczb. Żadne z tych podejść nie pomaga. Przepisy nabierają kształtu, a nawyki, dzięki którym model finansowy zasługuje na zaufanie, pozostają te same: dokumentacja tego, co model robi i na jakich danych, zapis tego, co do niego weszło i co z niego wyszło, dowody, że jest trafny, człowiek, który sprawdza liczby trafiające do decyzji, i jasno wskazany właściciel. Audytorzy, zarządy i regulatorzy coraz częściej oczekują właśnie tego — a poważna funkcja finansowa powinna tego chcieć niezależnie od przepisów.

Liczy się zastosowanie, nie dział

Ważne jest nie to, czy model działa w dziale finansowym, ale do czego służy i na czyją sytuację wpływa jego wynik. Model, który prognozuje pozycję gotówkową własnej firmy, wyjaśnia odchylenie od budżetu albo szacuje zapotrzebowanie na kapitał obrotowy, analizuje biznes. Jego przedmiotem jest rachunek wyników, a rachunek wyników nie jest osobą.

Pułapka leży gdzie indziej. „Agent CFO”, który punktuje produktywność pracowników, układa ranking do restrukturyzacji albo przydziela pracę na podstawie wykorzystania zasobów, przestał zajmować się kontrolingiem — nawet jeśli zespół, który go buduje, wciąż tak o nim myśli. Teraz ocenia ludzi, a to rodzi zupełnie inne pytania: zadają je pracownicy, zarząd i każdy, kto sprawdza, jak system jest używany. To samo dotyczy modelu, który przechodzi od oceny klientów biznesowych do oceny klientów indywidualnych. To, jakie zasady dotyczą konkretnego modelu, zależy od sposobu jego użycia; warto to sprawdzić z kimś, kto zna przepisy obowiązujące w Twojej branży.

Nawyki, które dotyczą każdego modelu

Dwa nawyki warto mieć niezależnie od tego, co robi model, i oba łatwo przeoczyć.

Ludzie, którzy rozumieją model. Osoby obsługujące system AI powinny rozumieć go na tyle, by interpretować wynik i rozpoznać, kiedy jest błędny. Dla działu finansowego to nie problem szkolenia na wideo; to znaczy, że kontroler korzystający z prognozy umie powiedzieć, co model dostał i gdzie zwykle się myli.

Oznaczanie tego, co napisała maszyna. Jeśli tekst albo liczby przygotował model i można je wziąć za pracę człowieka, zaznacz to wprost. Notatka na zarząd złożona przez model powinna być rozpoznawalna jako taka: czytelnik podchodzi do niej inaczej — i powinien.

Dlaczego warto to wbudować od początku

Jeśli zebrać to, o co coraz częściej pytają audytorzy, zarządy i regulatorzy, powstaje opis dobrze prowadzonego systemu analitycznego: dokumentacja tego, co model robi i na jakich danych, logowanie wejść i wyjść, dowody trafności, nadzór człowieka nad liczbami, które trafiają do decyzji, oraz jasno przypisana odpowiedzialność za każdy wynik.

Żadna z tych rzeczy nie potrzebuje uzasadnienia prawnego. Każdej z nich CFO powinien wymagać, zanim zaufa liczbie w materiałach na zarząd. Jeśli model koryguje prognozę, chcesz wiedzieć, co zmieniło się na wejściu. Jeśli oznacza klienta, chcesz zobaczyć dowody. Jeśli się myli, chcesz się o tym dowiedzieć z własnych logów, a nie od audytora. A gdy ktoś pyta, jak dobry jest model, odpowiedzią powinna być tabela błędów z miesięcy, które już zostały zamknięte, a nie zdanie z prezentacji sprzedażowej — według metody opisanej w tekście o testowaniu prognozy AI na zamkniętych miesiącach.

Jest też argument praktyczny: zastosowania z czasem się zmieniają. System, który zaczyna od wewnętrznego prognozowania, dostaje funkcję oceny dostawców, potem oceny klientów — i któraś z nich w końcu dotyka konkretnej osoby. Doklejanie logowania i dokumentacji do systemu, którego nigdy pod to nie zaprojektowano, kosztuje wielokrotnie więcej niż zbudowanie go tak od początku.

Minimalna poprzeczka dla modelu kontrolingowego

Jeśli taki model oceniasz albo budujesz, lista jest krótka:

• Zrozumiały opis. Co model robi, do czego nie służy, jakie dane czyta i na czym go testowano — napisany tak, żeby nowy kontroler albo audytor mógł się w nim odnaleźć.
• Pochodzenie danych. Każda liczba możliwa do prześledzenia do systemu źródłowego, tabeli i znacznika czasu.
• Logi decyzyjne. Nie tylko wynik, ale też wejścia i wersja modelu, która go wyprodukowała — przechowywane dłużej niż jeden cykl audytowy.
• Dowody trafności. Testy wsteczne na zamkniętych miesiącach na tle naiwnej prognozy bazowej, uzupełniane o każdy kolejny zamknięty miesiąc.
• Wyjaśnione korekty. Gdy prognoza się zmienia, system nazywa czynnik sprawczy.
• Wskazany nadzór człowieka. Osoba, która odpowiada za daną klasę rekomendacji, sprawdza liczby trafiające do decyzji i może je nadpisać, z zapisem nadpisania.
• Lokalizacja wdrożenia. Wiedza, w jakiej jurysdykcji odbyła się inferencja — bo w momencie, gdy w grę wchodzą dane osobowe, to pytanie przestaje być akademickie.

Zespoły, które spokojnie przejdą kolejny zakręt regulacyjny, to te, które już dziś generują te dowody jako produkt uboczny działania systemu — a nie te, które planują projekt compliance na kwartał przed audytem.