Gdy rekomendacja AI wpływa na klienta, pracownika albo wydatek, odpowiedź „tak wskazał system” nie wystarcza. Firma powinna wiedzieć, jakie dane wykorzystano, kto sprawdził wynik i kto zatwierdził decyzję. Bez tych informacji automatyzacja tworzy ryzyko organizacyjne zamiast przewidywalnego procesu.
O potrzebie Human in the Loop mówi dr Przemysław Sołdacki, CEO AMODIT, w artykule publikowanym w kilku serwisach biznesowych i branżowych. Linki do wszystkich publikacji są na końcu wpisu.
„Czarna skrzynka” zaczyna się w organizacji
Problem nie zawsze leży w samym modelu. Firma może nie mieć uporządkowanych źródeł danych, formalnego właściciela procesu ani zapisu decyzji podejmowanych przez ludzi. Włączenie AI szybciej ujawnia te braki.
„AI po prostu pokazuje te problemy szybciej” – podsumowuje Przemysław Sołdacki w materiale opublikowanym między innymi przez Manager+ i ERP-view.pl. Żeby rezultat był możliwy do wyjaśnienia, trzeba połączyć rekomendację z konkretną sprawą, danymi oraz osobą zatwierdzającą.
Human in the Loop jako część procesu
Człowiek w pętli nie powinien oznaczać przypadkowego kliknięcia „akceptuję”. Osoba zatwierdzająca musi dostać potrzebny kontekst, widzieć rekomendację systemu i znać kryteria decyzji. Organizacja powinna też wskazać sytuacje, w których sprawa wymaga dodatkowej kontroli albo przekazania do innej roli.
AI może klasyfikować dokumenty, analizować treść, wskazywać ryzyko i przygotowywać propozycję. Człowiek ocenia wynik, uwzględnia szerszy kontekst i zatwierdza decyzję. Historia procesu zapisuje oba kroki.
Trzy pytania przed wdrożeniem
- Jakie dane zasilały rekomendację? Potrzebne są znane źródła, właściwe uprawnienia i kontrola jakości.
- Kto jest właścicielem procesu? Ta osoba odpowiada za reguły, wyjątki i rezultat biznesowy.
- Kto zatwierdza wynik AI? Akceptacja powinna wynikać z roli i wartości sprawy, a nie z tego, kto akurat odczytał wiadomość.
Tak projektujemy rozwiązania łączące AI z automatyzacją procesów. Korzystamy z istniejących modeli i konfigurujemy je do zadania. AI rekomenduje, człowiek zatwierdza.
Co powinien zobaczyć użytkownik
Osoba zatwierdzająca potrzebuje krótkiego podsumowania, wskazania danych użytych przez AI oraz informacji o wykrytych wyjątkach. Powinna móc poprawić propozycję, odrzucić ją albo przekazać sprawę do dodatkowej kontroli. Interfejs ma wspierać ocenę, a nie tylko przyspieszać kliknięcie.
Zarząd potrzebuje z kolei widoku zbiorczego: liczby spraw, przyczyn ręcznych zmian, najczęstszych wyjątków i miejsc, w których rekomendacje są odrzucane. Te dane pomagają doskonalić proces oraz ocenić, czy zastosowanie AI rzeczywiście poprawia rezultat biznesowy.
Gdzie ukazała się publikacja
- Manager+
- eGospodarka.pl
- ERP-view.pl
- IK Magazine
- Szczypta Luksusu
- Magazyn LBQ
- Główny Mechanik
- TeleInfo24
- Komercja24
AI uczestniczy w decyzjach, ale ścieżka odpowiedzialności jest niejasna? Pomożemy połączyć dane, rekomendację i akceptację w jednym procesie. Skontaktuj się z nami →
