Jak Anthropic pilnuje 30 000 agentów AI i czego może się z tego nauczyć Twoja firma
Anthropic, twórca modeli Claude, opublikował dane o tym, jak nadzoruje agentów AI pracujących wewnątrz firmy. Według tej publikacji na najczęściej używanej wewnętrznej platformie w każdej chwili działa około 30 000 agentów wykonujących prace badawcze i inżynierskie. To inna skala niż firma z 20 pracownikami, ale zasady przenoszą się zaskakująco dobrze.
- agentów pracujących jednocześnie
- ~30 000
- działań sprawdzanych przed wykonaniem
- 100%
- przypadków tygodniowo trafia do człowieka
- ~50
- decyzji zablokowanych w sierpniu 2026
- 0,002%
Dwie warstwy kontroli
Pierwsza warstwa działa na bieżąco. Każde działanie agenta przechodzi przez automatyczny monitor, zanim zostanie wykonane, zwykle w ciągu kilku sekund. Niebezpieczne kroki są blokowane albo agent dostaje sygnał, żeby zmienić kurs.
Druga warstwa działa po fakcie. Monitor przegląda historię działań i szuka problemów, które narastają powoli albo które da się jeszcze odwrócić. Do tej analizy trafia każde działanie.
Człowiek ogląda wyjątki, nie rutynę
Monitor oznacza mniej więcej jeden lub dwa przebiegi na tysiąc, czyli około 100 000 tygodniowo. Przechodzą one przez kolejne klasyfikatory, a do ludzi trafia około 50 tygodniowo. Zablokowane działania człowiek przegląda w ciągu tygodnia. W sierpniu 2026 roku na ponad miliard decyzji zablokowano 0,002%, mniej więcej jedną na 47 000.
Wniosek jest prosty: człowiek nie musi i nie powinien patrzeć na każde kliknięcie agenta. Automat odsiewa rutynę, a człowiek zajmuje się wyjątkami.
Zatwierdzanie każdego kroku nie działa
W kwietniowym tekście o godnych zaufania agentach Anthropic zwraca uwagę na zjawisko znane z każdego biura. Gdy zadanie wymaga dziesiątek akceptacji, ludzie przestają je czytać i klikają odruchowo. Odpowiedzią jest akceptacja planu z góry, a nie każdego ruchu z osobna, z możliwością przerwania w trakcie.
Co z tego wynika dla Twojej firmy
- Każde działanie agenta jest zapisane: co zrobił, w jakim systemie, z jakim wynikiem i ile to kosztowało. Bez dziennika nie ma czego monitorować.
- Twarde limity sprawdzane przed wykonaniem: kwota, rabat, liczba maili na godzinę, lista dozwolonych odbiorców. Prosta reguła działa szybciej i pewniej niż kolejny model AI.
- Kroki nieodwracalne i kosztowne zawsze czekają na człowieka: płatności, rabaty ponad limit, usuwanie danych, wysyłka do nowego klienta.
- Akceptujesz plan albo gotowy wynik, a nie każde kliknięcie. Jedna decyzja zamiast dwudziestu powiadomień.
- Przegląd po fakcie raz w tygodniu: wszystkie wyjątki i losowa próbka. Tu wychodzą powolne błędy, na przykład rosnący odsetek źle dopasowanych produktów.
- Alerty, zanim zauważy klient: nagły wzrost liczby błędów, kosztów albo czasu odpowiedzi.
- Minimalne uprawnienia: agent ma dostęp tylko do tego, czego potrzebuje do zadania.
Jak projektujemy to w BrodaFlow
Agent działa w n8n, a każde jego działanie trafia do dziennika. Limity są sprawdzane regułami, zanim krok zostanie wykonany. Wyjątki trafiają do osoby odpowiedzialnej na Slacku, w Teams albo mailem. Raz w tygodniu dostajesz krótkie podsumowanie: ile spraw agent obsłużył, gdzie się zatrzymał i ile to kosztowało.
Zastrzeżenie
Liczby pochodzą z publikacji Anthropic i dotyczą jednej wewnętrznej platformy tej firmy, co Anthropic sam zaznacza. To nie benchmark do skopiowania, tylko dobrze opisany wzór, z którego warto brać zasady.
Czytaj teżCzym jest agent AI? Cztery elementy, od których zależy, czy zadziała w firmie