Przejdź do treści

Gradient autonomii agentów DIA

Status dokumentu

Pole Wartość
policy-id DIA-AUTON-LEVELS-001
typ Ustawa wykonawcza (Poziom 3 hierarchii normatywnej)
wersja 0.1.0-draft
podstawa Art. II.3-4, II.8, V.10, V.13 Konstytucji DIA

1. Cel dokumentu

Konstytucja (Art. II.3) wymaga, aby "największa moc systemu przechodziła przez człowieka". Jednocześnie Art. V.10 wymaga od agenta wyłącznika awaryjnego (ang. kill-switch), limitów i jawnego trybu zaufania. Niniejszy dokument definiuje cztery poziomy autonomii agenta, które operacjonalizują te zasady bez tworzenia wąskiego gardła wymagającego człowieka w pętli decyzyjnej (ang. human-in-the-loop) na każdej operacji.

Gradient autonomii pozwala człowiekowi ustawić ramy, a nie klikać "OK" na każdym kroku. Moc przechodzi przez człowieka, bo to człowiek definiuje gradient.


2. Poziomy autonomii

A0 - Propozycja (Propose & Wait)

Parametr Wartość
Opis Agent przygotowuje propozycję. Nie podejmuje żadnej akcji bez jawnego zatwierdzenia przez operatora.
Kiedy domyślny Decyzje zmieniające polityki, kontrakty, uprawnienia, publikacje, dane wrażliwe. Każda akcja o nieodwracalnych lub trudno odwracalnych skutkach.
Raportowanie Propozycja jest prezentowana operatorowi z uzasadnieniem, wariantami i oceną ryzyka.
Cofanie Nie dotyczy - akcja nie została podjęta.
Przykłady Redakcja dokumentu publicznego; zmiana polityki węzła; wysłanie komunikatu w imieniu użytkownika; eskalacja sprawy; modyfikacja kontraktu agenta.

A1 - Działaj i informuj (Act & Notify)

Parametr Wartość
Opis Agent podejmuje akcję, ale natychmiast informuje operatora. Operator może cofnąć akcję w zdefiniowanym oknie czasowym.
Kiedy domyślny Akcje o niskim ryzyku i wysokiej odwracalności, które wymagają szybkości, ale nie są rutynowe.
Raportowanie Natychmiastowe powiadomienie z opisem akcji, uzasadnieniem i instrukcją cofnięcia.
Cofanie Możliwe w zdefiniowanym oknie (domyślnie: parametr federacji, np. 15 minut). Po upływie okna akcja jest traktowana jako zatwierdzona.
Przykłady Trasowanie (ang. routing) zadania do innego węzła; aktualizacja pamięci podręcznej (ang. cache) memarium; odpowiedź na zapytanie sieciowe o niskiej stawce; logowanie zdarzenia sensorium.

A2 - Działaj w ramach budżetu (Act Within Budget)

Parametr Wartość
Opis Agent działa autonomicznie w ramach jawnie zdefiniowanego budżetu: limitów czasu, kosztu tokenowego, zakresu operacji i liczby akcji. Raportuje po fakcie.
Kiedy domyślny Operacje rutynowe, powtarzalne, o przewidywalnym zakresie i niskim ryzyku jednostkowym.
Raportowanie Raport zbiorczy (okresowy lub po wyczerpaniu budżetu) z metrykami: liczba akcji, koszt, odstępstwa od normy.
Cofanie Poszczególne akcje mogą być trudne do cofnięcia, ale budżet ogranicza skalę szkody.
Limity budżetu Definiowane w kontrakcie agenta: max_cost, max_time, max_actions, scope_whitelist, scope_blacklist. Przekroczenie dowolnego limitu -> automatyczny stop i powiadomienie operatora.
Przykłady Odpowiadanie na rutynowe zapytania; agregacja danych sensorium; utrzymanie indeksu memarium; monitorowanie metryk zdrowia węzła.

A3 - Tryb kryzysowy (ang. Emergency Mode)

Parametr Wartość
Opis Agent działa z maksymalną szybkością w sytuacji bezpośredniego zagrożenia życia lub nagłej poważnej krzywdy. Zostawia pełny ślad. Rewizja post-hoc jest obligatoryjna.
Kiedy aktywowany Wyłącznie gdy spełnione są warunki Art. II.8: bezpośrednie zagrożenie życia lub nagła, bezpośrednia i poważna krzywda zdrowotna.
Raportowanie Pełny, neredagowany ślad wszystkich akcji (ang. trace), zapisywany lokalnie i (jeśli możliwe) replikowany.
Cofanie Nie jest priorytetem w trakcie kryzysu. Po zakończeniu kryzysu -> obligatoryjna rewizja i ewentualna korekta.
Limity czasowe Tryb A3 ma zdefiniowany maksymalny czas trwania (parametr federacji). Po jego upływie agent automatycznie wraca do poziomu A0 w trybie bezpiecznego domknięcia (ang. fail-closed).
Aktywacja Automatyczna (na podstawie sygnałów sensorium lub detekcji wzorca kryzysowego) lub ręczna (operator). Aktywacja automatyczna wymaga oddzielnego potwierdzenia w logu.
Przykłady Koordynacja pomocy w awarii zasilania lub łączności (ang. blackout); alert o zagrożeniu życia; wstępna kategoryzacja (ang. triage) medyczna pierwszego kontaktu; zabezpieczenie kanału komunikacji sygnalisty pod bezpośrednim zagrożeniem.

3. Zasady przypisywania poziomów

3.1. Kontrakt agenta

Każdy agent w swoim kontrakcie (Art. V.10) deklaruje:

autonomy:
  max_level: A2           # Maksymalny poziom, do jakiego agent jest zaprojektowany
  default_level: A1       # Poziom domyślny przy starcie
  emergency_capable: true # Czy agent ma zdolność A3
  budget:
    max_cost_tokens: 1000
    max_time_seconds: 3600
    max_actions_per_cycle: 50
    scope_whitelist:
      - "memarium.read"
      - "memarium.index"
      - "sensorium.aggregate"
    scope_blacklist:
      - "policy.modify"
      - "reputation.vote"
      - "publish.*"

3.2. Operator może obniżyć, nigdy podwyższyć

Operator węzła może ustawić agentowi niższy poziom niż max_level z kontraktu. Nie może ustawić wyższego. Przykład: agent z max_level: A2 może być ograniczony do A0, ale agent z max_level: A1 nie może otrzymać A2.

Uzasadnienie: poziom autonomii jest ograniczeniem architektonicznym, nie parametrem wygody. Agent zaprojektowany na A1 nie ma mechanizmów budżetowych wymaganych przez A2.

3.3. Federacja może zaostrzać

Federacja może narzucić max_level niższy niż kontrakt agenta (np. w trybie CORP_COMPLIANT wszystkie agenty na A0). Nie może osłabiać limitów z kontraktu.

3.4. Eskalacja poziomu w górę

Agent nie może sam eskalować swojego poziomu autonomii (zakaz samonadawania uprawnień, ang. zero self-authorize, zgodnie z Art. V.13). Eskalacja wymaga:

  • A0 -> A1 lub A2: decyzja operatora.
  • Dowolny -> A3: operator lub automatyczna detekcja kryzysu z jawnym wpisem w logu i obowiązkową rewizją post-hoc.
  • A3 -> powrót: automatyczny po upływie limitu czasowego (bezpieczne domknięcie, ang. fail-closed, do A0).

4. Matryca: typ operacji × poziom autonomii

Poniższa tabela jest domyślna. Federacje mogą ją zaostrzać (przesuwać w lewo), nie mogą rozluźniać (przesuwać w prawo).

Kategoria operacji Minimalny poziom Uzasadnienie
Zmiana polityki / kontraktu A0 Nieodwracalne, wpływ na ład organizacyjny (ang. governance)
Publikacja / komunikat zewnętrzny A0 Wysoka stawka reputacyjna
Głosowanie reputacyjne A0 Wpływ na kierowanie zaufaniem (ang. trust routing)
Modyfikacja danych wrażliwych A0 Prywatność, godność
Trasowanie (ang. routing) zadania do innego węzła A1 Odwracalne, ale wymaga świadomości
Aktualizacja pamięci podręcznej (ang. cache) / indeksu A2 Rutynowe, budżetowalne
Odpowiedź na zapytanie rutynowe A2 Rutynowe, budżetowalne
Agregacja sensorium A2 Rutynowe, budżetowalne
Ochrona życia / kryzysowa wstępna kategoryzacja (ang. triage) A3 Art. II.8

5. Audyt i monitoring

5.1. Ślady decyzji (ang. trace)

Każda akcja agenta, niezależnie od poziomu, generuje wpis w logu z co najmniej:

  • timestamp,
  • autonomy_level w momencie akcji,
  • action_type,
  • scope (jakie zasoby były użyte),
  • cost (jeśli mierzalne),
  • justification (dla A1, A3 - jawne; dla A2 - dostępne na żądanie).

5.2. Przegląd budżetowy (dla A2)

Agent działający na A2 generuje raport budżetowy zawierający:

  • wykorzystanie limitu kosztowego (%),
  • wykorzystanie limitu czasowego (%),
  • liczbę akcji vs. limit,
  • odstępstwa od normy (anomalie).

Raport jest dostępny dla operatora na żądanie i generowany automatycznie przy wyczerpaniu >=80% dowolnego limitu.

5.3. Rewizja post-hoc (dla A3)

Po zakończeniu trybu A3 obligatoryjna jest rewizja obejmująca:

  • pełny ślad akcji,
  • ocenę adekwatności aktywacji A3 (czy zagrożenie było realne),
  • ocenę proporcjonalności podjętych akcji,
  • identyfikację skutków ubocznych,
  • rekomendacje dotyczące kalibracji progów aktywacji.

Rewizja jest dokumentowana i dostępna do audytu.


6. Relacja z innymi dokumentami

  • Konstytucja Art. II.3-4: Gradient autonomii jest operacjonalizacją zasady "moc przechodzi przez człowieka".
  • Konstytucja Art. V.10: Poziomy autonomii rozszerzają kontrakt agenta o jawny parametr autonomy_level.
  • Konstytucja Art. V.13: Dokument konkretyzuje zakaz samodzielnej eskalacji uprawnień przez agentów.
  • Konstytucja Art. IX: Tryb A3 jest formalizacją Art. II.8 i Art. IX.3.
  • Konstytucja Art. XIV: Każde użycie A3 jest wyjątkiem konstytucyjnym, nawet jeśli ma uproszczoną ścieżkę aktywacji ze względu na presję czasową.