Definicja
Human in the loop to sposób projektowania procesu, w którym człowiek uczestniczy w kluczowym momencie działania systemu AI. Może sprawdzić dane wejściowe, ocenić rekomendację, poprawić wygenerowany materiał albo zatwierdzić decyzję przed wykonaniem dalszej akcji. Punkt kontroli powinien odpowiadać ryzyku procesu: innej weryfikacji wymaga streszczenie dokumentu, a innej decyzja wpływająca na klienta, pracownika lub zobowiązanie finansowe. Skuteczny nadzór wymaga pokazania użytkownikowi kontekstu i podstawy rekomendacji, nie tylko przycisku akceptacji. W Astrafox obowiązuje zasada: AI rekomenduje, człowiek zatwierdza. Zobacz, jak podchodzimy do AI.