Kto w spółce odpowiada za decyzję podjętą z użyciem AI?

Na szkoleniach dla zarządów i rad nadzorczych słyszę to pytanie w kilku wersjach: „kto odpowiada, jeśli AI się pomyli”, „czy możemy oprzeć decyzję na analizie z czatu”, „czy rada nadzorcza musi się tym zajmować”. Odpowiedź w skrócie: odpowiada ten, kto decyduje. Algorytm nie jest podmiotem odpowiedzialności. Zmienia się natomiast materiał, który oceniamy, gdy rozważamy, czy decydent zachował należytą staranność.

Punkt wyjścia: zasady odpowiedzialności członków zarządu

W spółce z ograniczoną odpowiedzialnością członkowie zarządu odpowiadają wobec spółki za szkodę wyrządzoną działaniem lub zaniechaniem sprzecznym z prawem lub umową spółki, chyba że nie ponoszą winy (art. 293 § 1 KSH). Staranność ocenia się z uwzględnieniem zawodowego charakteru działalności (art. 293 § 2 KSH). Od 2022 r. kodeks zawiera także tzw. regułę biznesową. W uproszczeniu: członek zarządu nie ponosi odpowiedzialności, jeżeli w dobrej wierze, w interesie spółki działał w granicach uzasadnionego ryzyka gospodarczego, w tym na podstawie informacji, analiz i opinii, które w danych okolicznościach powinny być uwzględnione przy ocenie z należytą starannością (art. 293 § 3 KSH). Analogiczne zasady obowiązują w spółce akcyjnej. W spółkach z udziałem jednostek samorządu terytorialnego dochodzą do tego przepisy szczególne i oczekiwania właściciela, ale podstawą pozostają zasady kodeksowe.

To zdanie o „informacjach, analizach i opiniach” jest tu kluczowe.

AI jako źródło informacji i analiz

Moim zdaniem analiza przygotowana z użyciem AI nie jest niczym nadzwyczajnym: to kolejne źródło informacji, które zarząd wykorzystuje. Ocena jego użycia będzie więc sprowadzać się do pytań, które znamy z innych sytuacji:

• Czy zarząd miał podstawy, aby zaufać tej analizie? Wynik narzędzia, którego nikt nie sprawdził, trudno uznać za wiarygodną podstawę istotnej decyzji. Opinia wyspecjalizowanego podmiotu lub analiza zweryfikowana przez kompetentną osobę ma inną wagę.
• Czy decyzja była udokumentowana? Z dokumentacji powinno wynikać, na jakich informacjach oparto decyzję i jak je sprawdzono.
• Czy ryzyko mieściło się w granicach uzasadnionego ryzyka gospodarczego? Im większa skala decyzji, tym wyższe oczekiwania co do weryfikacji.

Na tym tle widać, dlaczego „AI tak powiedziało” nie wystarczy jako uzasadnienie. Nie dlatego, że AI jest zakazana, lecz dlatego, że staranność dotyczy sposobu wykorzystania źródła, a nie samego źródła.

Rola rady nadzorczej

Rada nadzorcza sprawuje stały nadzór nad działalnością spółki. W praktyce oznacza to, że przy decyzjach i procesach opartych na AI warto pytać, czy w spółce istnieją podstawowe zasady korzystania z niej. Pięć pytań, które może zadać rada nadzorcza (lub kierownik jednostki):

1. Czy mamy wykaz narzędzi AI używanych w spółce, także tych, z których pracownicy korzystają z własnej inicjatywy?
2. Kto zatwierdza nowe narzędzia i według jakich kryteriów (dane, umowa z dostawcą, bezpieczeństwo)?
3. Jakich danych nie wolno wprowadzać do narzędzi AI i skąd pracownicy o tym wiedzą?
4. Kto odpowiada za sprawdzenie wyniku, zanim posłuży do decyzji lub wyjdzie na zewnątrz?
5. Co zrobimy, gdy dane trafią do nieautoryzowanego narzędzia?

Brak odpowiedzi na te pytania sam w sobie jest informacją o poziomie ryzyka.

A co z AI Act?

Rozporządzenie o sztucznej inteligencji nakłada na podmioty stosujące AI własne obowiązki, które zależą od rodzaju systemu i sposobu jego użycia. Nie zastępuje ono jednak ogólnych zasad odpowiedzialności za zarządzanie spółką: te działają niezależnie od niego. Szczegółowe terminy i zakres obowiązków omawiam na szkoleniach i w osobnych artykułach, z oznaczeniem stanu prawnego.

Co warto zrobić

• Spisać zasady: krótka polityka korzystania z AI, wprowadzona zarządzeniem lub uchwałą. Wzór znajdziesz w materiałach po wykładzie.
• Prowadzić wykaz narzędzi i wskazać osobę odpowiedzialną.
• Wymagać weryfikacji wyników przez człowieka, zanim posłużą do decyzji (lista kontrolna).
• Dokumentować decyzje: jakie źródła, w tym narzędzia AI, wykorzystano i jak sprawdzono wynik.
• Przeszkolić zarząd, radę nadzorczą i pracowników.

Jeśli Twoja spółka lub jednostka chce uporządkować te zagadnienia, mogę przygotować audyt, politykę lub szkolenie dla zarządu i rady nadzorczej.