Analytici Gartneru konstatují, že se široká dostupnost generativní umělé inteligence, jako jsou ChatGPT a Google Bard, stala ve druhém čtvrtletí roku 2023 jedním z hlavních témat pro vedoucí pracovníky v oblasti podnikových rizik.
„Generativní AI byla v našem průzkumu za druhé čtvrtletí druhým nejčastěji jmenovaným rizikem a poprvé se objevila v první desítce,“ říká ředitel výzkumu v Gartner Risk & Audit Practice Ran Xu. „Odráží to jak rychlý růst povědomí veřejnosti o nástrojích generativní umělé inteligence a jejich využívání, tak i šíři možných případů použití, a tedy i potenciálních rizik, které tyto nástroje vyvolávají.“
Pravidelný průzkum tentokrát (v květnu 2023) uskutečnili analytici Gartneru mezi 249 vedoucími pracovníky v oblasti podnikových rizik. Jeho výsledky vedoucím pracovníkům pravidelně nabízejí srovnávací přehled dvaceti nově vznikajících (nastupujících) rizik a podrobné informace o možném dopadu, časovém rámci, míře pozornosti, kterou si zaslouží, a možných příležitostech, jež tato rizika nabízejí.
Hlavním nastupujícím rizikem byla podle průzkumu z letošního druhého čtvrtletí životaschopnost třetích stran – jde tedy o riziko, které organizace sledují nejpečlivěji (viz tabulku). Na třetím místě skončila nejistota finančních plánů související zejména s inflací a otřesy na meziárodněpolitické scéně, čtvrté místo obsadila rizika související s koncentrací cloudu (vysokým a stále rostoucím tržním podílem největších poskytovatelů). Posledním nastupujícím rizikem, které se propracovalo do první pětice, je rostoucí napětí v Číně, tedy další riziko makroekonomické a geopolitické povahy.
Riziko #2: Masová dostupnost generativní AI
Již dříve jsme psali o hlavních rizicích generativní AI a oblastech, které bude nejspíš v souvislosti s ní třeba regulovat. Z hlediska řízení podnikových rizik je nutné se zaměřit na tři hlavní aspekty:
- Duševní vlastnictví : „Informace zadané do nástroje generativní AI se mohou stát součástí jeho tréninkové sady, což znamená, že citlivé nebo důvěrné informace se mohou dostat do výstupů pro jiné uživatele,“ vysvětluje Xu. „Navíc by používání výstupů z těchto nástrojů mohlo skončit neúmyslným porušením práv duševního vlastnictví jiných osob, které je použily a vložily do nich chráněný obsah.“ Je důležité vzdělávat nejvyšší vedení podniku o nezbytné míře opatrnosti a transparentnosti při používání takových nástrojů, tak aby bylo možné řádně zmírnit rizika porušení duševního vlastnictví, pokud jde o vstupy i výstupy z generativních nástrojů umělé inteligence.
- Ochrana osobních údajů: Generativní nástroje AI mohou v některých případech sdílet informace o uživatelích s třetími stranami, jako jsou prodejci nebo poskytovatelé služeb, bez předchozího upozornění. To může být v mnoha jurisdikcích v rozporu s právem na ochranu soukromí. Regulace již byla například zavedena v Číně a EU, přičemž návrhy na regulaci se objevují mimo jiné v USA, Kanadě, Indii a Velké Británii.
- Kybernetická bezpečnost: „Hackeři vždy testují nové technologie a hledají způsoby, jak je zneužít pro své vlastní účely, generativní umělá inteligence není jiná,“ zdůrazňuje Xu. „Viděli jsme příklady malwaru a ransomwaru, které generativní AI na základě ‚lstivého‘ zadání vytvořila, a také útoky typu ‚prompt injections‘, které mohou tyto nástroje oklamat a přimět je, aby poskytly informace či výstupy, jež by nabídnout neměly. To vede k industrializaci pokročilých phishingových útoků.“
Riziko #1: Životaschopnost třetích stran
„Přetrvávající inflace, která méně reaguje na růst úrokových sazeb a trvá déle, než se předpokládalo, zvyšuje náklady a tlaky na marže třetích stran,“ vysvětluje Xu. „S tím, jak centrální banky zvyšují úrokové sazby ve snaze bojovat s inflací, dochází také k procesu zpřísňování úvěrů, který může dodavatele donutit k pozastavení činnosti nebo vést k platební neschopnosti s tím, jak se zvyšují náklady na půjčky.“
Pokud dojde k rozsáhlému zhoršení ekonomických podmínek, může to způsobit neočekávaný pokles poptávky, který by mohl ovlivnit životaschopnost dodavatelů nebo jejich schopnost poskytovat zboží a služby včas. Experti společnosti Gartner identifikovali tři potenciální důsledky pro životaschopnost třetích stran, které by měli manažeři rizik sledovat v závislosti na vývoji situace:
- Ztráta klíčových vstupů a materiálů: Pokud třetí strany zvyšují své ceny v důsledku širší ekonomické situace, existuje jasné riziko ztráty přístupu ke klíčovým vstupům a materiálům, protože třetí strany by upřednostňovaly zákazníky ochotné platit vyšší ceny.
- Chybné předpoklady finančního plánování: Předpoklady o nákladech se stanou neplatnými, protože dodavatelé zvýší ceny nebo zkrachují, což si vyžádá náklady na změnu dodavatele a zvýšení cen za pořízení zboží a služeb.
- Problémy mimo dodavatelský řetězec: Partneři, jako jsou poskytovatelé řízených služeb nebo obchodní partneři, věřitelé nebo dodavatelé technologií, mohou ukončit nebo omezit činnost.
Klienti – uživatelé služeb Gartneru – si mohou přečíst více ve studii: 2Q23 Emerging Risk Report. Všem je pak určen bezplatný webinář: Executive Leaders, Determine the Opportunities and Risks of Generative AI.
Napsat komentář