DefinicjaHuman-in-the-loop (człowiek w pętli) to sposób projektowania automatyzacji i systemów AI, w którym w wybranych miejscach procesu decyzję podejmuje albo zatwierdza człowiek. AI wykonuje powtarzalną pracę, np. czyta zgłoszenie i przygotowuje odpowiedź, a człowiek akceptuje, poprawia lub odrzuca krok, który dotyczy klienta, pieniędzy albo danych.
Na czym polega human-in-the-loop?
AI robi pracę, a człowiek ma ostatnie słowo tam, gdzie pomyłka kosztuje. Proces zatrzymuje się w ustalonym miejscu i czeka na akceptację, zanim pójdzie dalej.
Przykład: do biura rachunkowego przychodzi mail z pytaniem o termin rozliczenia. Automatyzacja rozpoznaje temat, wyszukuje odpowiedź w procedurach i przygotowuje szkic. Księgowa widzi go w skrzynce, poprawia jedno zdanie i klika „wyślij”. Nie pisze odpowiedzi od zera, a jednocześnie nic nie wychodzi do klienta bez jej wiedzy.
Gdzie człowiek powinien zatwierdzać?
- Wszystko, co trafia do klienta. Odpowiedzi, oferty, przypomnienia o płatności.
- Pieniądze. Rabaty, zmiany cen, faktury, zwroty, płatności.
- Zmiany i usuwanie danych. Szczególnie w CRM i systemie księgowym.
- Decyzje o ludziach. Odrzucenie zgłoszenia, reklamacji czy kandydata.
Proste, odwracalne kroki, jak dopisanie zgłoszenia do arkusza czy nadanie etykiety, mogą iść bez akceptacji. Granice dla agentów AI opisuję szerzej w artykule Chatbot czy agent AI.
Czy to nie spowalnia automatyzacji?
Trochę tak, i właśnie o to chodzi przy ważnych krokach. Kliknięcie „zatwierdź” zajmuje sekundy, a cała żmudna część pracy i tak jest zrobiona. Do tego każda poprawka człowieka pokazuje, gdzie AI się myli, więc wiadomo, co ulepszyć w poleceniu albo w danych. Dobrze zaprojektowany proces pokazuje osobie zatwierdzającej wszystko w jednym miejscu: co AI proponuje i na jakiej podstawie.
Z czasem można luzować kontrolę. Gdy przez kilka tygodni dana kategoria spraw przechodzi bez poprawek, wystarczy sprawdzać ją wyrywkowo. Warto też zapisywać każdą akcję automatyzacji, żeby dało się odtworzyć, kto i co zatwierdził.
Nadzór człowieka jest też wymogiem prawa przy części zastosowań: unijny AI Act (art. 14) wymaga go dla systemów AI wysokiego ryzyka.
Najczęstsze pytania
Czy human-in-the-loop oznacza, że ktoś musi sprawdzać każdą odpowiedź AI?
Nie. Zatwierdzanie ustawia się tylko przy ważnych krokach, a resztę sprawdza się wyrywkowo. Proporcje dobiera się do ryzyka danej sprawy.
Czy narzędzia do automatyzacji to obsługują?
Tak, krok akceptacji da się zbudować w popularnych narzędziach, np. jako wiadomość z przyciskami w komunikatorze albo szkic maila czekający w skrzynce.
Zobacz też
Źródła