Identita a odpovědnost
Přiřaďte připojeným agentům identitu a odpovědnou osobu. Jasně určete, kdo odpovídá za jejich provoz.
Platforma / Řízení agentů
Dejte agentům úkol. A jasné hranice.
Řiďte nástroje, oprávnění a akce v autonomních procesech. U kroků se závažnými dopady ponechte rozhodnutí člověku.
Co je potřeba řešit
O přístupech agenta musí rozhodovat firma.
Jakmile AI může volat nástroje, měnit záznamy nebo spouštět procesy, nestačí už jen správná odpověď. Musíte vědět, kdo za agenta odpovídá, co smí dělat a jak zastavit akci, která překračuje jeho oprávnění.
Probrat vaše prostředíVaše kontrolní mechanismy
Od pravidel ke každodenní praxi.
Vymezená oprávnění
Určete, které nástroje a akce smí agent používat. Kontrolujte oprávnění v místech, kde se akce provádějí.
Schválení člověkem
U vybraných zásadních akcí vyžadujte kontrolu před provedením. Běžná činnost může pokračovat v dohodnutých mezích.
Historie akcí
Uchovávejte záznamy o požadavcích a uplatnění pravidel pro řešení chyb, bezpečnostní kontroly i dohled.
Příklad z praxe
Agent se pokusí změnit záznam zákazníka.
Ilustrační příklad. Konkrétní kontroly závisejí na vašem nastavení.
- 01
Požadavek
Automatizace připraví změnu, která překračuje její schválená oprávnění.
- 02
Kontrola pravidel
Než připojený nástroj akci provede, ověří se, zda spadá do oprávnění agenta.
- 03
Výsledek
Podle nastavených pravidel se akce zamítne nebo předá ke schválení.
Nasazení
Začněte s jasně vymezeným rozsahem.
Zmapujte agenty, odpovědné osoby a nástroje, které mohou volat.
Nastavte rozsah oprávnění a požadavky na schválení před provedením akcí.
Před rozšířením autonomie otestujte povolené i zakázané akce.
Kontrola akcí vyžaduje integraci u příslušného nástroje nebo v místě provedení. Samotné instrukce pro model dodržování oprávnění nezajistí.
Proberme bezpečnost vaší AI
Mějte firemní AI pod kontrolou.
Začněte u AI nástrojů, které používají vaši lidé. Připravte plán ochrany systémů, které provozujete.