Human in the loop (HITL) – co to jest i jak wygląda w praktyce
Human in the loop (HITL), po polsku „człowiek w pętli”, to model pracy z AI, w którym człowiek pozostaje aktywnym elementem pętli decyzyjnej systemu – weryfikuje wyniki, poprawia błędy i podejmuje decyzje końcowe, zamiast pozwalać systemowi działać bez nadzoru. AI wykonuje pracę, człowiek decyduje, co z niej wychodzi na zewnątrz.
To pojęcie ma dziś trzy życia naraz. W inżynierii opisuje, gdzie w systemie potrzebny jest ludzki osąd. W agentach AI oznacza konkretny mechanizm: pauzę przed działaniem o realnych skutkach. W prawie Unii Europejskiej stało się wymogiem – AI Act wylicza, co osoba nadzorująca system wysokiego ryzyka musi umieć zrobić. Na końcu tekstu pokazujemy czwarte życie: jak wygląda człowiek w pętli w codziennej produkcji treści z AI, na przykładzie procesu, w którym powstają artykuły Forum AI.
Co to jest human in the loop (HITL)
Human in the loop to podejście do projektowania i stosowania systemów zautomatyzowanych, w którym człowiek jest integralnym elementem pętli sprzężenia zwrotnego – weryfikuje wyniki, koryguje błędy i podejmuje decyzje końcowe. System może liczyć, klasyfikować i proponować, ale decyzja o tym, co się wydarzy, należy do człowieka.
Źródła z trzech różnych światów definiują HITL niemal tak samo:
| Źródło | Definicja |
|---|---|
| IBM (dostawca technologii) | system lub proces, w którym człowiek aktywnie uczestniczy w działaniu, nadzorze lub podejmowaniu decyzji systemu zautomatyzowanego |
| Stanford HAI (ośrodek akademicki) | „Humans are in charge; AI is in the loop” – to człowiek zarządza, a AI jest elementem pętli, nie odwrotnie |
| Encyklopedia (polska definicja) | podejście do projektowania i stosowania systemów zautomatyzowanych, w którym człowiek jest integralnym elementem pętli sprzężenia zwrotnego lub pętli decyzyjnej |
To nie jest spór definicyjny, tylko zbieżność ujęć. Wszystkie trzy mówią o tym samym: o miejscu, w którym system się zatrzymuje i oddaje głos człowiekowi.
Pojęcie ma też rygorystyczne, recenzowane korzenie. W inżynierii systemów HITL jest jedną z zasad odporności: w systemie zawsze powinien być człowiek tam, gdzie potrzebne jest ludzkie poznanie – ocena, interpretacja, osąd (Jackson i Ferris, „Resilience Principles for Engineered Systems”, 2013). Badania nad autonomicznymi systemami cyberfizycznymi mówią to samo wprost: takie systemy wymagają człowieka w pętli do zadań, których nie da się wykonać autonomicznie (Gil i in., 2019).
Skąd pochodzi pojęcie human in the loop
Pojęcie human in the loop wywodzi się z inżynierii systemów oraz z modelowania i symulacji – używano go w symulatorach lotniczych i badaniach czynników ludzkich, zanim trafiło do słownika AI. Nie ma jednej osoby ani jednej daty, którą dałoby się uczciwie wskazać jako moment narodzin terminu. Da się za to wskazać obszar, w którym się ukształtował.
- Symulacje i lotnictwo. Amerykańska FAA prowadziła symulacje z udziałem człowieka w badaniach czynników ludzkich, a NASA stosuje określenie „human-in-the-loop evaluations” dla iteracyjnych testów z udziałem reprezentatywnych użytkowników, sprzętu i procedur. Chodziło o sprawdzenie, jak system zachowuje się wtedy, gdy steruje nim prawdziwy człowiek, a nie model człowieka.
- Podział pracy człowiek-maszyna. Parasuraman i współautorzy (2000) opisali cztery klasy funkcji, które można rozdzielać między człowieka i automat: pozyskiwanie informacji, jej analizę, wybór decyzji i wykonanie działania. W każdej z nich automatyzacja może mieć inny poziom – i to jest sedno HITL: człowiek nie musi kontrolować wszystkiego, ale musi wiedzieć, które ogniwo zostawia sobie.
- Systemy AI. Stąd pojęcie przeszło do uczenia maszynowego (człowiek oznacza dane i koryguje model), a dziś do agentów AI i procesów, w których model generuje treść lub wykonuje działania.
Human in the loop a human on the loop i human out of the loop
Human in the loop, human on the loop i human out of the loop opisują trzy poziomy udziału człowieka w decyzji systemu – od zgody na każde działanie po całkowity brak udziału. Rozróżnienie upowszechniło się w literaturze o systemach autonomicznych w obronności, ale świetnie przenosi się na zwykłe wdrożenia AI w firmie.
| Model | Kto decyduje o wykonaniu działania | Przykład w pracy z AI |
|---|---|---|
| Human in the loop (HITL) | system proponuje, działanie następuje dopiero na polecenie człowieka | agent przygotowuje przelew albo wysyłkę maila, ale czeka na „zatwierdź” |
| Human on the loop (HOTL) | system działa sam, człowiek nadzoruje i może przerwać lub nadpisać decyzję | chatbot obsługi klienta odpowiada samodzielnie, a konsultant śledzi rozmowy i przejmuje trudne przypadki |
| Human out of the loop (HOOTL) | system działa bez człowieka w pętli decyzyjnej | filtr antyspamowy, który sam przenosi wiadomości do kosza |
Wybór modelu zależy od kosztu błędu, a nie od możliwości technologii. Filtr spamu może działać bez człowieka, bo pomyłka kosztuje jedną zagubioną wiadomość. Wysyłka oferty do klienta albo decyzja kredytowa takiej swobody już nie mają.
Najbardziej znany przykład stopniowania kontroli człowieka pochodzi z motoryzacji. Norma SAE J3016 dzieli automatyzację jazdy na poziomy od 0 (brak automatyzacji) do 5 (pełna automatyzacja). Na poziomach 3-5 system prowadzi pojazd sam, a od człowieka nie zawsze oczekuje się prowadzenia – to przejście od człowieka w pętli do człowieka na pętli, a w końcu poza nią.
Ten sam podział pojawił się w polityce UE jeszcze przed AI Act. „Wytyczne w zakresie etyki dotyczące godnej zaufania sztucznej inteligencji” Grupy Eksperckiej Wysokiego Szczebla ds. AI przy Komisji Europejskiej (2019) wymagają, by nadzór nad systemem AI dało się zrealizować przez podejścia human-in-the-loop, human-on-the-loop i human-in-command – niemal ten sam trójpodział, tylko nazwany kilka lat wcześniej i w innym dokumencie niż wojskowa literatura cytowana wyżej.
Human in the loop w agentach AI
Agenci AI wdrażają human in the loop jako punkt zatwierdzenia – agent zatrzymuje działanie przed krokiem o realnych skutkach i czeka na decyzję człowieka. W zwykłym czacie człowiek jest w pętli z definicji, bo sam czyta odpowiedź. Agent, który samodzielnie klika, wysyła i zapisuje, potrzebuje tej pętli zaprojektowanej wprost. Jak zbudowany jest taki agent, opisuje tekst o architekturze agenta AI.
Trzej główni dostawcy narzędzi agentowych rozwiązują to podobnie, choć innymi środkami:
| Dostawca / narzędzie | Mechanizm | Co się dzieje bez decyzji człowieka |
|---|---|---|
| OpenAI Agents SDK | zatwierdzenia (approvals) przy wywołaniach narzędzi | model może uznać, że działanie jest potrzebne, ale uruchomienie się zatrzymuje, dopóki człowiek go nie zatwierdzi albo nie odrzuci |
| Anthropic (Claude, computer use) | zalecenie potwierdzenia przed decyzjami o realnych skutkach | agent pyta przed transakcją finansową, wyrażeniem zgody czy akceptacją regulaminu; kontrola przed każdym blokiem akcji, bo jedna tura może wykonać wieloetapowe działanie |
| LangGraph | funkcja interrupt() | wykonanie grafu staje w wybranym punkcie, stan zapisuje się w warstwie trwałości, a praca wraca dopiero po odpowiedzi człowieka |
Pojawiają się też gotowe produkty, które dokładają warstwę HITL do istniejących agentów. Przykładem jest serwer MCP „Human-In-the-Loop” od FlowHunt: łączy agenta (także Claude’a) z okienkami dialogowymi – polem tekstowym, wyborem wielokrotnym i potwierdzeniem przed krytycznymi czynnościami, takimi jak wdrożenie albo modyfikacja danych.
Im więcej autonomii dostaje agent, tym ważniejsze jest, gdzie dokładnie stoi punkt zatwierdzenia. Agent pytający o wszystko jest bezużyteczny, agent niepytający o nic jest niebezpieczny. Kierunek, w którym rozwija się autonomiczna praca agentów AI, sprawia, że to projektowanie punktów zatwierdzenia, a nie sam model, decyduje o bezpieczeństwie wdrożenia.
Czy ChatGPT jest human in the loop
Nie – ChatGPT sam w sobie nie jest systemem human in the loop, tylko narzędziem, które może być częścią takiego procesu. Człowiek w pętli to cecha procesu, a nie modelu. Jeśli wklejasz odpowiedź czatu do umowy bez czytania, pętli nie ma. Jeśli sprawdzasz fakty, poprawiasz i dopiero wtedy używasz tekstu – to ty zamykasz pętlę. W trybach agentowych, w których model sam wykonuje działania, dostawcy dokładają do tego mechanizm zatwierdzeń, taki jak opisany wyżej.
Human in the loop w prawie Unii Europejskiej
W prawie UE nadzór człowieka nad systemami zautomatyzowanymi jest wymogiem wprost – od ogólnego prawa do interwencji ludzkiej w RODO po szczegółowy katalog zdolności osoby nadzorującej w AI Act. Trzy przepisy układają się w linię: od ochrony człowieka przed automatyczną decyzją, przez obowiązek zaprojektowania nadzoru, po odpowiedzialność redakcyjną za tekst.
RODO art. 22 – poprzednik prawny
RODO od 25 maja 2018 roku daje prawo do tego, by nie podlegać decyzji opartej wyłącznie na zautomatyzowanym przetwarzaniu, jeśli wywołuje ona skutki prawne albo w podobny sposób istotnie wpływa na osobę. Dotyczy to na przykład automatycznej odmowy kredytu. Przepis zna trzy wyjątki: decyzja jest niezbędna do zawarcia lub wykonania umowy, dopuszcza ją prawo albo osoba wyraziła wyraźną zgodę. Przy umowie i zgodzie administrator musi zapewnić co najmniej prawo do uzyskania interwencji ludzkiej, wyrażenia własnego stanowiska i zakwestionowania decyzji. To jest human in the loop zapisany w prawie, zanim to określenie weszło do codziennego słownika.
AI Act art. 14 – nadzór ze strony człowieka
AI Act wymaga, by systemy AI wysokiego ryzyka były projektowane tak, żeby mogły być skutecznie nadzorowane przez osoby fizyczne, a osoba nadzorująca miała pięć konkretnych zdolności. Środki nadzoru mają być współmierne do ryzyka, poziomu autonomii i kontekstu – wbudowane przez dostawcę albo przewidziane do wdrożenia przez podmiot, który system stosuje.
Art. 14 ust. 4 wymienia, co osoba nadzorująca ma móc zrobić:
- Rozumieć odpowiednie możliwości i ograniczenia systemu oraz należycie monitorować jego działanie.
- Pozostawać świadomą skłonności do automatycznego polegania na wyniku systemu – tak zwanego błędu automatyzacji (automation bias), zwłaszcza gdy system dostarcza informacji lub zaleceń do decyzji podejmowanych przez ludzi.
- Prawidłowo interpretować wynik systemu.
- Zdecydować o niekorzystaniu z systemu albo zignorować, zmienić lub odwrócić jego wynik.
- Przerwać działanie systemu przyciskiem „stop” lub podobną procedurą, która pozwala zatrzymać go w stanie bezpiecznym.
Dla jednej kategorii systemów AI Act idzie dalej niż same „zdolności” osoby nadzorującej. Przy zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw (załącznik III pkt 1 lit. a) art. 14 ust. 5 zakazuje podjęcia jakiejkolwiek decyzji na podstawie samego wyniku systemu, dopóki nie zweryfikują go niezależnie od siebie co najmniej dwie osoby fizyczne o wymaganych kompetencjach. To najbardziej dosłowna wersja human in the loop, jaką przewiduje prawo UE – nie wystarczy nadzór jednej osoby, potrzebne są dwie.
Art. 14 to obowiązek po stronie projektu systemu – dostawca musi wbudować w niego zdolność do nadzoru. Art. 26 ust. 2 AI Act nakłada równoległy obowiązek po stronie wdrożenia: to podmiot stosujący musi powierzyć sprawowanie tego nadzoru osobom fizycznym, które mają do tego niezbędne kompetencje, przeszkolenie i uprawnienia, a także odpowiednie wsparcie. Innymi słowy, dostawca projektuje przycisk „stop” i sposób zrozumienia wyniku systemu, a firma, która ten system wdraża, musi wyznaczyć do jego obsługi konkretnych, przeszkolonych ludzi – sam mechanizm nadzoru bez kompetentnego nadzorcy nie spełnia wymogu żadnej ze stron.
Obowiązki dla systemów wysokiego ryzyka zaczną się stosować 2 grudnia 2027 roku (systemy z załącznika III, np. rekrutacja, ocena zdolności kredytowej, edukacja) i 2 sierpnia 2028 roku (systemy z załącznika I, czyli AI w produktach objętych unijnymi przepisami harmonizacyjnymi). Pierwotnie wyznaczony termin 2 sierpnia 2027 roku przesunęło rozporządzenie (UE) 2026/1744, tzw. Digital Omnibus, które weszło w życie 27 lipca 2026 roku.
AI Act art. 50 ust. 4 – oznaczanie tekstu AI i wyjątek redakcyjny
Od 2 sierpnia 2026 roku AI Act wymaga ujawniania, że tekst publikowany w celu informowania społeczeństwa o sprawach interesu publicznego został wygenerowany lub zmanipulowany przez AI – chyba że przeszedł weryfikację przez człowieka lub kontrolę redakcyjną, a odpowiedzialność redakcyjną ponosi konkretna osoba. Wyjątek brzmi w przepisie tak: obowiązek nie ma zastosowania „w przypadku gdy treści wygenerowane przez AI zostały poddane weryfikacji przez człowieka lub kontroli redakcyjnej i gdy za publikację treści odpowiedzialność redakcyjną ponosi osoba fizyczna lub prawna”.
To miejsce, w którym human in the loop wprost zmienia zakres obowiązku: weryfikacja przez człowieka nie jest tu tylko dobrą praktyką, ale warunkiem wyjątku. Szerszy obowiązek – znakowanie treści generowanych przez AI w formacie odczytywalnym maszynowo, techniki takie jak C2PA i SynthID – opisuje tekst o obowiązku oznaczania treści AI.
Uwaga praktyczna: to, czy konkretny tekst w ogóle podlega art. 50 ust. 4, zależy od tego, czy informuje o sprawach interesu publicznego. Poradnik o obsłudze arkusza kalkulacyjnego raczej nie, tekst o wyborach czy zdrowiu publicznym – tak. Proces redakcyjny z człowiekiem w pętli jest więc dobrą praktyką zawsze, a w części przypadków także warunkiem skorzystania z wyjątku.
Ograniczenia human in the loop – kiedy nadzór człowieka zawodzi
Sama obecność człowieka w pętli nie gwarantuje skutecznego nadzoru – badania opisują błąd automatyzacji oraz „out-of-the-loop performance problem”, w którym osoba nadzorująca traci orientację w sytuacji. HITL działa wtedy, gdy człowiek naprawdę sprawdza, a nie tylko klika „zatwierdź”.
- Błąd automatyzacji (automation bias). Ludzie mają skłonność ufać wynikowi systemu bardziej niż własnej ocenie, szczególnie gdy system zwykle ma rację. AI Act nazywa to zjawisko wprost w art. 14 ust. 4 lit. b i wymaga, by osoba nadzorująca była go świadoma. W praktyce: dziesiąty z rzędu poprawny wynik usypia czujność przy jedenastym, błędnym.
- Problem wypadnięcia z pętli. Mica Endsley i Esin Kiris (1995) opisały, że operator nadzorujący silnie zautomatyzowany system traci orientację sytuacyjną i zdolność sprawnego przejęcia sterowania, gdy system zawiedzie albo zachowa się nieoczekiwanie. Im rzadziej człowiek musi interweniować, tym gorzej mu to wychodzi, kiedy w końcu musi.
Z tych dwóch zjawisk wynikają trzy warunki skuteczności HITL. Punkt zatwierdzenia musi stać tam, gdzie błąd jest kosztowny, a nie wszędzie. Człowiek musi dostać informację, na podstawie której da się ocenić wynik – źródło, uzasadnienie, dane wejściowe – a nie sam wynik. I musi mieć realne prawo powiedzieć „nie”, bez presji, że zatrzymanie procesu jest porażką.
Te trzy warunki to w praktyce definicja „znaczącej kontroli człowieka” (meaningful human control) – pojęcia, które w unijnej refleksji nad AI pojawiło się już we wspomnianych wcześniej Wytycznych z 2019 roku, zanim AI Act skodyfikował je w postaci konkretnych zdolności z art. 14 ust. 4. Nadzór, który nie spełnia tych warunków, jest nadzorem formalnym – istnieje na papierze, ale nie działa w momencie, w którym jest naprawdę potrzebny.
Jak redakcja Forum AI produkuje treści z AI z człowiekiem w pętli
Artykuły Forum AI powstają w siedmioetapowym procesie, w którym AI robi research, pisze i sprawdza, a człowiek wyznacza temat, rozstrzyga wątpliwości i zatwierdza publikację – trzy typy bram zatrzymują pracę, dopóki człowiek nie podejmie brakującej decyzji. To przykład HITL nie w teorii, tylko w procesie, który działa na co dzień – i przez który przeszedł także ten tekst.
Punkt wyjścia jest prosty: model językowy pisze szybko i płynnie, ale nie odróżnia faktu od zdania, które tylko brzmi wiarygodnie. Dlaczego AI halucynuje i skąd bierze pewnie podane zmyślenia, to osobny temat – tu ważne jest, że cały proces jest zbudowany wokół tego ograniczenia.
| Etap | Co robi AI | Co robi człowiek | Co zatrzymuje proces |
|---|---|---|---|
| 1. Research i grounding | wykonuje od trzech do sześciu ukierunkowanych poszukiwań i pobiera fakty zmienne wyłącznie ze źródeł pierwotnych: aktów prawnych, oficjalnej dokumentacji dostawców, komunikatów | wskazuje temat i akceptuje dobór źródeł | brak źródła pierwotnego dla faktu |
| 2. Brief jako kontrakt | kompiluje bazę faktów – każdy z wartością, źródłem i przypisaniem do konkretnej sekcji | sprawdza kompletność i zamyka brief | fakt bez wartości albo bez linku |
| 3. Bramy decyzyjne | sygnalizuje brak danych albo wynik poniżej progu i staje | podejmuje brakującą decyzję | proces nie zgaduje – czeka na człowieka |
| 4. Pisanie | pisze z briefu, nie z pamięci: odpowiedź w pierwszym zdaniu sekcji, każda sekcja odpowiada na jedno pytanie | czyta i akceptuje strukturę | fakt spoza briefu trafia do kontroli |
| 5. Korekta językowa | poprawia ortografię, interpunkcję, fleksję i typografię | sprawdza, że nie zmieniła się treść | zmiana merytoryczna zamiast językowej |
| 6. Fact-check | wypisuje z gotowego tekstu 5-10 najbardziej ryzykownych faktów zmiennych i weryfikuje każdy u źródła | rozstrzyga fakty niepewne | fakt oznaczony „do weryfikacji” |
| 7. Przegląd ekspercki | przy tematach technicznych i prawnych ocenia, czy tekst dobrze rozumie mechanizm, a nie tylko czy liczby się zgadzają | ocenia wnioski i poprawki | błąd konceptualny |
| Publikacja | – | zatwierdza tekst i ponosi za niego odpowiedzialność redakcyjną | bez zgody człowieka tekst nie trafia do serwisu |
Trzy typy bram – gdzie proces sam się zatrzymuje
Brama to warunek blokujący: dopóki nie jest spełniony, następny krok nie startuje. Proces rozróżnia trzy rodzaje:
| Typ bramy | Kiedy się zamyka | Co wtedy dzieje się dalej |
|---|---|---|
| Brama danych | brakuje źródła, eksportu albo odpowiedzi | proces wypisuje, czego brakuje, i pyta |
| Brama jakości | wynik jest poniżej progu, np. za mało źródeł do porównania | proces raportuje wynik i proponuje naprawę |
| Brama decyzyjna | potrzebne jest rozstrzygnięcie, którego nie da się wyliczyć | proces staje i czeka na decyzję człowieka |
Najważniejsza zasada brzmi: proces nie zgaduje. Jeśli brakuje choćby informacji, dla którego serwisu powstaje tekst, praca staje i pada pytanie. Fakt, którego nie udało się potwierdzić u źródła, nie trafia do tekstu jako pewnik – zostaje oznaczony do weryfikacji albo podany ze źródłem i zastrzeżeniem.
Zasady stałe, niezależne od etapu
- Każdy zweryfikowany fakt ma w źródłach link do konkretnej strony, a nie do samej domeny. Czytelnik może sprawdzić przepis albo dokumentację jednym kliknięciem.
- W treści nie ma dopisków „stan na dzień”. Konkretne daty zdarzeń pojawiają się w zdaniach („obowiązek stosuje się od 2 sierpnia 2026 roku”), a świeżość danych niesie link do źródła.
- Fact-check sprawdza fakty zmienne, czyli te, które starzeją się najszybciej: ceny i limity planów, wersje modeli, terminy prawne, dostępność funkcji. Do samego sprawdzania model może stosować techniki weryfikacji własnych odpowiedzi, takie jak metoda Chain-of-Verification.
- Publikację zawsze zatwierdza człowiek. To on ponosi odpowiedzialność redakcyjną – dokładnie w tym sensie, w jakim używa tego pojęcia art. 50 ust. 4 AI Act.
Co z tego przenieść do własnej firmy
Największym ryzykiem nie jest AI, które się myli, tylko proces, w którym nikt nie jest wyznaczony do sprawdzania. Zespół, który pisze z AI bez ustalonych punktów kontroli, publikuje błędy szybciej niż kiedykolwiek – a gdy pracownicy sięgają po narzędzia na własną rękę, problem nazywa się shadow AI i dotyczy także danych firmowych.
Trzy rzeczy wystarczą na start:
- Nazwij fakty zmienne w swojej branży – ceny, terminy, parametry techniczne, nazwiska – i ustal, że każdy z nich wymaga źródła przed publikacją.
- Rozdziel pisanie od sprawdzania. Osoba albo etap, który weryfikuje, nie powinien być tym samym, który pisał – inaczej błąd automatyzacji działa podwójnie.
- Wyznacz jedną osobę, która zatwierdza publikację i podpisuje się pod nią. Bez tego pętla jest otwarta, nawet jeśli wszyscy „coś sprawdzali”.
FAQ – najczęstsze pytania o human in the loop
W części przypadków tak. RODO daje prawo do interwencji ludzkiej przy decyzjach opartych wyłącznie na automatycznym przetwarzaniu, które istotnie wpływają na człowieka. AI Act wymaga zaprojektowania nadzoru ze strony człowieka dla systemów wysokiego ryzyka – z terminem stosowania od 2 grudnia 2027 roku dla systemów z załącznika III i od 2 sierpnia 2028 roku dla systemów z załącznika I.
RLHF (uczenie przez wzmacnianie na podstawie ludzkiej informacji zwrotnej) to technika trenowania modelu: ludzie oceniają odpowiedzi, a model uczy się preferować lepsze. Działa przed wdrożeniem i zmienia sam model. Human in the loop to zasada działania procesu już po wdrożeniu – człowiek zatwierdza albo poprawia konkretne wyniki, a model się od tego nie zmienia.
Spowalnia pojedyncze działanie, ale nie cały proces, jeśli punkty zatwierdzenia stoją tylko tam, gdzie błąd jest kosztowny. Zatwierdzanie wszystkiego prowadzi do klikania bez czytania, czyli do błędu automatyzacji. Dobrze zaprojektowany HITL zatrzymuje proces rzadko, ale zawsze z konkretnego powodu.
Systemy wysokiego ryzyka. Załącznik III wymienia m.in. systemy używane w rekrutacji i zarządzaniu pracownikami, w ocenie zdolności kredytowej, w edukacji, w dostępie do usług publicznych i w wymiarze sprawiedliwości. Załącznik I obejmuje AI w produktach objętych unijnymi przepisami harmonizacyjnymi, np. w maszynach czy wyrobach medycznych.
Nie sam w sobie. Staje się częścią procesu human in the loop wtedy, gdy człowiek świadomie weryfikuje jego wynik, zanim go użyje. W trybach, w których model sam wykonuje działania, dostawcy dodają mechanizmy zatwierdzania – agent zatrzymuje się i czeka na decyzję przed krokiem o realnych skutkach.
Źródła
- Rozporządzenie (UE) 2024/1689 (AI Act), tekst skonsolidowany – art. 14 (nadzór ze strony człowieka, w tym ust. 5 o podwójnej weryfikacji przy biometrii), art. 26 ust. 2 (obowiązek podmiotu stosującego w zakresie nadzoru), art. 50 ust. 4 (wyjątek redakcyjny), art. 113 (terminy stosowania po zmianie rozporządzeniem 2026/1744), EUR-Lex
- Ethics Guidelines for Trustworthy AI – nadzór człowieka przez podejścia human-in-the-loop, human-on-the-loop i human-in-command, Grupa Ekspercka Wysokiego Szczebla ds. AI, Komisja Europejska
- RODO art. 22 – zautomatyzowane podejmowanie decyzji w indywidualnych przypadkach, w tym profilowanie, gdpr.pl
- What is human-in-the-loop? – definicja HITL, IBM
- What is human-in-the-loop? – „Humans are in charge; AI is in the loop”, Stanford HAI
- Human in the loop (glossary) – zasada odporności systemów za Jackson i Ferris (2013), SEBoK
- Designing human-in-the-loop autonomous Cyber-Physical Systems, Gil, Albert, Fons, Pelechano, International Journal of Human-Computer Studies 130 (2019)
- Człowiek w pętli – definicja, modelowanie i symulacja (FAA, NASA), podział HITL/HOTL/HOOTL, Parasuraman (2000), Endsley i Kiris (1995), SAE J3016, Wikipedia
- Human-in-the-loop – zatwierdzenia wywołań narzędzi w OpenAI Agents SDK, OpenAI
- Computer use tool – potwierdzenie przez człowieka przed działaniami o realnych skutkach, Anthropic
- Interrupts – wstrzymanie grafu i wznowienie po decyzji człowieka, LangGraph, LangChain
- Human-In-the-Loop MCP Server – okna dialogowe dla agentów AI, FlowHunt
Ostatnia aktualizacja: · Zgłoś poprawkę

