Když AI začne rozhodovat místo vás – co dělat?
Máte ve firmě systém, který třídí zájemce o byt nebo automaticky odmítá žádosti o půjčku? Pokud ano, už brzy může být váš nástroj považován za „vysoce rizikovou“ umělou inteligenci – a Evropská unie na takové systémy klade přísná pravidla. Od 2. srpna 2026 totiž začnou platit klíčová ustanovení Aktu o umělé inteligenci, která vyžadují dokumentaci, transparentnost a možnost lidské kontroly.
Kdy je vaše „automatika“ najednou AI podle zákona?
Není potřeba mít chatbota ani generovat obrázky. Stačí, že váš software sám rozhoduje o něčem, co má vliv na lidi – třeba kdo dostane nabídku práce, kdo projde do dalšího kola pohovoru, kdo má nárok na slevu nebo kdo se dostane na seznam prioritních klientů. Pokud je takové rozhodnutí založené na vzorcích, pravidlech nebo skóre, které systém aplikuje bez lidského posouzení jednotlivého případu, spadáte pod nová pravidla.
Pro české firmy to znamená dvě věci: jednak musíte být schopni vysvětlit, proč systém rozhodl tak, jak rozhodl. A jednak musíte zajistit, aby člověk mohl rozhodnutí přehodnotit. To zní jednoduše, ale v praxi to často selhává u systémů, které vznikly jako rychlá „excelová automatizace“ nebo jsou postavené na starších CRM, kde logika rozhodování není nikde zaznamenaná.
Transparentnost neznamená jen PDF s popisem
Mnoho firem si myslí, že stačí mít někde v interních dokumentech popsané, jak jejich nástroj funguje. Ale podle Aktu o umělé inteligenci musí být informace dostupné koncovému uživateli – tedy například uchazeči o byt nebo klientovi, kterému byla zamítnuta žádost. Musíte mu říct, na základě čeho bylo rozhodnuto, a dát mu možnost požádat o přezkum.
To vyžaduje, aby váš systém nejen rozhodoval, ale i zaznamenával důvody svých rozhodnutí. A to je přesně tam, kde mnoho stávajících řešení selhává. Typické off-the-shelf CRM nebo e-shopové pluginy totiž často pracují jako černé skříňky – víte, že něco funguje, ale nevíte proč.
Co dělat, když chcete zůstat v souladu se zákonem?
Nejbezpečnější cesta je mít systém, který je od základu postavený s ohledem na auditovatelnost a lidskou kontrolu. U Cogniterry to řešíme tak, že každá automatizace obsahuje modul pro sledování rozhodovacích kroků – nejen že systém označí zájemce za „prioritní“, ale také uloží, která pravidla vedla k tomuto hodnocení. Navíc umožňujeme manuální přepis výsledku bez nutnosti měnit celou logiku.
Tohle řešení používáme například u firemních CRM pro realitní kanceláře, kde je důležité vědět, proč byl kontakt zařazen do určité kampaně, nebo u automatizovaných blogů, kde algoritmus navrhuje témata na základě chování návštěvníků – ale redaktor má vždy možnost přepsat doporučení. Více o tom, jak takové systémy vypadají v praxi, najdete na stránce našich technologií.
Pokud už teď používáte nějakou formu automatizace, která ovlivňuje klienty nebo zaměstnance, stojí za to prověřit, zda je připravená na nová pravidla. Není třeba čekat na poslední chvíli – implementace průhledné logiky je mnohem jednodušší, když ji navrhnete hned od začátku. Inspiraci, jak AI využívat prakticky a v souladu se zákonem, najdete také v článku o tom, kde české firmy skutečně šetří pomocí AI.
Často kladené otázky
Musíme kvůli tomu měnit naše stávající CRM nebo webové řešení? Ne nutně. Záleží na tom, jak je systém postavený a zda umožňuje zaznamenávat a přepisovat rozhodnutí. V mnoha případech stačí doplnit modul pro audit nebo přidat manuální kontrolu – nemusíte začínat od nuly.
Co to obnáší z naší strany? Potřebujeme pochopit, jak vaše současné rozhodování funguje – jaká pravidla používáte, kdo je schvaluje a jaký dopad mají na klienty. Na základě toho navrhneme řešení, které splní požadavky zákona, ale zároveň nepřidá zbytečnou administrativu.
Zvládneme to interně, nebo potřebujeme externího dodavatele? Záleží na složitosti vašeho systému. Pokud jde o jednoduché pravidlo typu „pokud je objednávka nad 10 000 Kč, zařaď do VIP segmentu“, zvládne to i interní tým. Ale pokud kombinujete více zdrojů dat, vážíte různé faktory nebo používáte dynamické skóre, je vhodné zapojit odborníka, který zajistí, že logika bude průhledná i pro úřady.