Zatwierdzanie akcji AI przez człowieka — jak to wygląda w praktyce

„Human-in-the-loop" to jedno z tych określeń, które w prezentacjach znaczą wszystko i nic. W praktyce oznacza jeden konkretny mechanizm: agent AI proponuje działanie, człowiek je zatwierdza albo odrzuca, i dopiero wtedy coś się dzieje.

Diabeł siedzi w tym, jak dokładnie to zrobione. Poniżej — co odróżnia mechanizm, który realnie chroni, od takiego, który wygląda dobrze na slajdzie.

Dlaczego zbiorcze zatwierdzanie nie działa#

Najczęstsza implementacja: agent pracuje, wykonane akcje trafiają na listę, człowiek raz dziennie przegląda i zatwierdza.

To nie jest kontrola. To jest rytuał.

Po tygodniu lista ma czterdzieści pozycji, po dwóch — sto. Nikt nie czyta stu pozycji. Wszyscy klikają „zatwierdź wszystko", bo dziewięćdziesiąt osiem razy na sto jest w porządku. Te dwa razy przechodzą razem z resztą.

Gorzej: jeżeli akcje zostały już wykonane, a zatwierdzenie jest tylko formalnym potwierdzeniem po fakcie, to nie jest nawet rytuał — to jest dziennik zdarzeń z przyciskiem.

Kontrola działa wtedy, gdy dotyczy jednej akcji, przed jej wykonaniem, w momencie, w którym ma się wydarzyć. Wtedy pytanie brzmi „czy zgadzam się na to", a nie „czy chce mi się przejrzeć sto pozycji".

Co musi być na ekranie zatwierdzenia#

Cztery rzeczy. Brak którejkolwiek sprawia, że decyzja jest podejmowana w ciemno.

Co konkretnie się stanie. Nie „agent zaktualizuje rekord", tylko „status zlecenia 4821 zmieni się z w realizacji na zakończone". Nazwa akcji bez wartości to prośba o kliknięcie w ciemno.

Na czym. Który rekord, który klient, który dokument — z możliwością wejścia i sprawdzenia.

Dlaczego. Uzasadnienie agenta. To jest część, którą najłatwiej pominąć, a która najbardziej pomaga: człowiek widzi tok rozumowania i wychwytuje moment, w którym agent oparł się na złej przesłance.

Co się stanie potem. Jeżeli to krok trzeci z sześciu, trzeba to widzieć. Zatwierdzanie kroku bez wiedzy o tym, że uruchamia pięć kolejnych, jest zatwierdzaniem czegoś innego, niż się wydaje.

Trzy mechanizmy, które muszą działać razem#

Zatwierdzanie samo w sobie nie wystarczy. Pełny zestaw to trzy rzeczy:

Zatwierdzenie przed akcją#

Opisane wyżej. Bramka przed wykonaniem.

Zatrzymanie w trakcie#

Agent w połowie serii kroków musi dać się przerwać — natychmiast, nie po zakończeniu bieżącego kroku.

To jest mechanizm potrzebny w sytuacji, w której zatwierdziłeś krok pierwszy w dobrej wierze i dopiero przy trzecim widzisz, że całość idzie w złą stronę. Bez zatrzymania jedyną opcją jest patrzenie, jak się dzieje.

Cofnięcie każdej zmiany#

Dziennik wszystkich zmian — ludzkich i maszynowych — z informacją kto, co i kiedy, oraz z możliwością odwrócenia pojedynczego wpisu.

To jest mechanizm, który najbardziej zmienia sposób, w jaki firma korzysta z AI. Gdy błąd jest kliknięciem wstecz, a nie awarią, zespół przestaje bać się testować. Wdrożenia idą szybciej, bo nikt nie musi zabezpieczać się przed każdym scenariuszem z góry.

Warto sprawdzić jedną rzecz: czy cofanie obejmuje zmiany ludzi, czy tylko AI. Dziennik obejmujący wyłącznie działania agenta jest połowiczny — to człowiek pomyłkowo nadpisujący kolumnę jest częstszym źródłem problemów.

Kiedy poluzować, a kiedy nigdy#

Zatwierdzanie każdej akcji kosztuje kilka sekund. Przy dwudziestu akcjach dziennie to minuta. Przy dwustu — dziesięć minut i rosnąca irytacja.

Po dwóch tygodniach masz dane, żeby to skalibrować: które typy akcji akceptujesz zawsze bez zmian, a przy których faktycznie coś poprawiasz.

Kandydaci do poluzowania: akcje wewnątrz systemu, odwracalne jednym kliknięciem, o niskiej stawce. Zmiana statusu, dopisanie notatki, przypisanie etykiety.

Nigdy bez zatwierdzenia:

• Wiadomości wychodzące do klientów. Wysłanego maila nie da się cofnąć po drugiej stronie.
• Dokumenty wychodzące — faktury, oferty, umowy.
• Cokolwiek finansowego.
• Zmiany w systemach zewnętrznych, nad którymi nie masz dziennika zmian.
• Usunięcia bez kosza.

Reguła, która to porządkuje: zatwierdzanie zostaje wszędzie tam, gdzie nie masz mechanizmu cofnięcia. Gdzie masz — możesz je zdjąć, bo ochronę zapewnia druga warstwa.

Efekt uboczny, o którym warto wiedzieć#

Zatwierdzanie akcji zmienia rozmowę o AI wewnątrz firmy — i to jest efekt większy, niż się spodziewaliśmy.

Zdanie „wpuszczamy AI do naszych danych" budzi opór, i słusznie. Zdanie „AI zaproponuje, ty klikniesz" — nie budzi. Ten sam mechanizm, który chroni dane, jest jednocześnie tym, który przekonuje zespół, żeby w ogóle spróbować.

Dodatkowo pierwsze dwa tygodnie zatwierdzania są najlepszym możliwym szkoleniem. Człowiek widzi czterdzieści propozycji agenta razem z uzasadnieniami i uczy się, gdzie agent jest dobry, a gdzie zgaduje — szybciej niż z jakiegokolwiek kursu.

Podsumowanie#

Human-in-the-loop nie jest funkcją do odhaczenia na liście. To trzy mechanizmy działające razem: zatwierdzanie pojedynczych akcji przed wykonaniem, zatrzymanie agenta w trakcie i cofanie każdej zmiany. Brak któregokolwiek zamienia kontrolę w pozór.

Szerszy kontekst — czym agenci różnią się od czatu i gdzie zawodzą — w przewodniku o agentach AI w firmie.