Co się dzieje, gdy system informatyczny sam podejmuje decyzję, która odcina człowieka od pracy? Punktem wyjścia artykułu Michała Duszczyka w „Rzeczpospolitej” (2 września 2026 r., dodatek „AI. Sztuczna inteligencja w biznesie”) jest kara, którą holenderski organ ochrony danych nałożył na Ubera za automatyczne blokowanie kont kierowców bez wystarczającej kontroli człowieka.
W tekście wypowiada się dr Przemysław Sołdacki, CEO AMODIT.
Problem rzadko leży w technologii
– Od ponad 20 lat obserwujemy, że największe problemy organizacji rzadko wynikają z technologii. Najczęściej wynikają z niejasnej odpowiedzialności, rozproszonych informacji i procesów, które z czasem przestały nadążać za rozwojem firmy. AI pokazuje te problemy szybciej – mówi Przemysław Sołdacki.
Artykuł opisuje zjawisko czarnej skrzynki AI: sytuację, w której nie da się odtworzyć, jak algorytm doszedł do wniosku. Jeśli system rozstrzyga sprawy prawne, finansowe lub kadrowe, organizacja musi umieć wykazać, jakie dane przetworzono i kto zatwierdził wynik.
Człowiek w pętli, ale w przemyślanych miejscach
Odpowiedzią ekspertów jest podejście human in the loop. Nie oznacza ono mechanicznego zatwierdzania każdego kroku AI, które zatrzymałoby pracę, lecz świadome wyznaczenie momentów wymagających oceny człowieka, na przykład przy weryfikacji umów czy niestandardowych faktur w obiegu dokumentów.
– W wielu procesach AI może wykonać 90 proc. pracy, ale odpowiedzialność za decyzję powinna pozostać po stronie człowieka. Firmy, które wygrają wyścig AI, nie będą miały wyłącznie najlepszych modeli, będą miały najlepiej zaprojektowane procesy – to one pozwolą wykorzystać potencjał sztucznej inteligencji bez utraty kontroli nad decyzjami i odpowiedzialnością – podsumowuje Sołdacki.
Co z tego wynika dla firm
Agent AI z dostępem do poczty, dokumentów i systemów firmowych powinien mieć tylko te uprawnienia, których potrzebuje do zadania, tak jak każdy użytkownik. Proces musi wskazywać, w którym miejscu wynik trafia do akceptacji i kto za nią odpowiada, a każda operacja powinna zostawiać ślad w historii sprawy.
Tak projektujemy rozwiązania AI dla biznesu i automatyzację procesów w AMODIT: agent przygotowuje dane i propozycję, a decyzję z pełną historią podejmuje osoba z odpowiednimi uprawnieniami.
Pełny artykuł „Gdy algorytm wręczy wypowiedzenie. Gdzie kończy się autonomia AI?” ukazał się w wydaniu papierowym i serwisie ekonomia.rp.pl.
Chcesz wdrożyć agentów AI bez utraty kontroli nad decyzjami? Zaprojektujemy uprawnienia, punkty akceptacji i historię działań w Twoim procesie. Porozmawiaj z nami →
