O AI dnes mluví každý.

Každý dodavatel ji má v prezentaci. Každá firma připravuje AI strategii. Každý management řeší, jak ji co nejrychleji dostat do organizace.

Na otázky, které slyšíme od našich zákazníků není univerzální odpověď.

Máme AI zakázat, protože nevíme, kam se dostanou naše data?

Máme ji pustit všem a riskovat, že vznikne další nekontrolovaný stínový IT svět?

Jak poznáme, že AI přinesla skutečnou hodnotu a nejde jen o další zajímavý pilot bez výsledku?

Právě těmto praktickým otázkám jsme se věnovali na červnovém Fintech Mixéru v Brně, který pořádáme ve spolupráci s Českou fintechovou asociací.

Největší chybou je AI zakázat

Jak upozornil Radek Teichmann, CTO MoroSystems, plošný zákaz AI většinou nefunguje. Stejně jako v minulosti u Shadow IT si lidé cestu najdou.

Pokud zaměstnancům zakážeme firemní AI nástroje, velmi pravděpodobně začnou používat veřejné služby na vlastních zařízeních. A právě v tu chvíli vzniká největší riziko – citlivá data z firmy mohou nepozorovaně skončit v prostředí, nad kterým organizace nemá žádnou kontrolu.

Správná cesta je opačná. Nezakazovat AI, ale vytvořit prostředí, ve kterém ji mohou lidé používat bezpečně a řízeně.

V praxi to znamená například:

  • Poskytnout zaměstnancům schválené enterprise AI nástroje místo vlastních účtů.
  • Nasadit AI proxy vrstvu, která kontroluje komunikaci s modely a automaticky odstraňuje nebo anonymizuje citlivé informace.
  • Rozdělit data podle citlivosti a jasně určit, která mohou opustit organizaci a která musí zůstat v interním prostředí.
  • Rozhodnout, které úlohy řešit cloudovými modely a které provozovat lokálně kvůli efektivitě nebo bezpečnosti.
  • Průběžně měřit kvalitu výstupů i ekonomiku používání jednotlivých modelů.

Stejně důležité je nesázet vše na jeden model. Nejvýkonnější model dnes nemusí být nejvýhodnější zítra. A závislost na jednom poskytovateli se může stát novým typem technologického rizika.

Jakoby to Radek předpověděl. O několik dní později přišlo potvrzení, že nejde jen o teoretickou úvahu. Anthropic oznámil omezení přístupu ke svým nejpokročilejším modelům na základě rozhodnutí americké administrativy. AI modely se tak začínají stávat nejen technologickým, ale i geopolitickým aktivem.

AI mění způsob, jak vzniká software. Odstraňuje rutinu a klade důraz na hodnotu práce

V MoroSystems už AI dávno není experiment několika nadšenců. Pracuje s ní většina vývojářů, ale postupně také testeři, analytici nebo team leadeři.

Nejviditelnější změna probíhá přímo ve vývoji.

Vývojář dnes může přijít ráno do práce a čeká na něj zkontrolovat, schválit a převzít zodpovědnost za kód, které přes noc připravil AI agent.

AI mění charakter práce. 

Jeden z našich AI agentů dostal jednoduché zadání:

„Nefunguje vyhledávání uživatelů. Oprav to a otestuj.“

Za deset minut byla chyba opravená a připravená ke kontrole. 

Jiný kolega si po velkém releasu vytvořil vlastní AI workflow, kterému stačilo předat číslo bug reportu. Během dvou týdnů s jeho pomocí vyřešil přibližně 90 % drobných oprav.

AI automatizuje rutinu a dává prostor vývojovému týmu se věnovat tomu skutečně důležitému: dodávce IT řešení, které vyhovuje uživatelským potřebám, je robustní, architektonicky dobře navržené a v souladu se regulacemi, připravené na dlouhodobý rozvoj a odolné vůči kybernetickým hrozbám. 

AI iniciativy musí mít jasný cíl a vlastníka

Přednáška Davida Patáka, CIO v Home Creditu, byla velmi otevřená.

Největší problém prvních AI iniciativ nebyl v tom, že by technologie nefungovala. Problém byl v tom, že vznikaly zajímavé experimenty, u kterých se management po čase oprávněně zeptal:

„A co nám to vlastně přineslo?“

Změna přišla až ve chvíli, kdy každá AI iniciativa dostala jasný byznysový cíl, odpovědného vlastníka, plán provozu a metriky, podle kterých bylo možné vyhodnotit její přínos.

Teprve potom začala AI přinášet skutečné výsledky – například při zpracování dokumentů, vyhodnocování podkladů, přípravě zápisů ze schůzek nebo vyhledávání informací.

Možná největší ponaučení je jednoduché: Nejtěžší část AI transformace není vybrat správný model.

Nejtěžší je vybrat správný problém, který má AI řešit.

Regulace není překážkou inovací

Ve finančním sektoru často zaznívá obava: 

„To u nás nepůjde. Regulace nám to nedovolí.“

Jak ale vysvětlil Šimon Kania ze Schejbal & Partners, AI Act nevznikl proto, aby zastavil inovace.

Jeho cílem je vytvořit pravidla, díky kterým lze AI používat bezpečně a transparentně.

Největší chybou je řešit soulad s regulací až ve chvíli, kdy je řešení hotové.

Pokud strávíme půl roku vývojem AI řešení a těsně před nasazením zjistíme, že nesplňuje požadavky na ochranu dat, bezpečnost nebo regulatorní pravidla, není problém v regulaci. Problém je v tom, že jsme ji nezahrnuli do návrhu řešení od začátku.

Bonus na závěr

Měl jsem husí kůži a úsměv od ucha k uchu.
Nervózně se ptal kolegyně, jestli to máme nahrané.
Protože takové momenty si chci opakovaně připomínat a sdílet s ostatními.

A dnes jej chci s dílet s vámi >

Díky, že se o Software jako investici zajímáte. Na příští číslo se můžete těšit opět na konci léta.

Tomáš