Když přijde řeč na chytré stroje a roboty, představí si většina z nás v první chvíli fyzická zařízení. I ta mezi ně patřit budou, například v podobě průmyslu 4.0, který je ale mnohem více než novou generací průmyslových robotů – jde o propojení robotizace s fenomény internetu věcí (průmysloví roboti jsou nově skutečně „on-line“ – což mimo jiné přináší řadu bezpečnostních otazníků), velkými daty a především s chytrými stroji nehmotnými – softwarovými roboty.
Právě posledně jmenovaná kategorie by mohla v příštích několika letech způsobit zásadní proměnu ve znalostní ekonomice a postupně převzít rostoucí počet agend od lidí. Jenže otazníků a potenciálních problémů které souvisejí s chytrými stroji – aplikacemi a algoritmy, nejspíš bude řádově více. Jedním z nich je, že společnost se dostává doslova pod kontrolu algoritmů (a zprostředkovaně těch, kdo je tvoří a nastavují). Nejde přitom o žádnou futurologickou apokalyptickou vizi, ale každodenní realitu. Už bezmála dvacet let rozhodují algoritmy o výsledcích vyhledávání a posledních několik let se pak řada z nás dostala do područí algoritmů sociálních sítí, které ve stále větší míře rozhodují o tom, podle jakých vzorců a pravidel se nám zobrazí informace. Nejde přitom jen o dobře známý problém uzavření se do sociální bubliny a utvrzování se v existujících názorech, ale i o otázku toho, jak se dnes obecně informace šíří. Jak ve svém článku upozorňuje Gabriel Stein, Facebook například v současných algoritmech vybírá v případě obsahu, například článků, jeden preferovaný obsah v rámci daného tématu – tím na jednu stranu posiluje „ekonomii vítězů“, na stranu druhou omezuje absolutní popularitu (obsah nemůže v rámci algoritmu soutěžit „napříč tématy“).
Jiný problém představují vyhledávací algoritmy „ve službě zákona“ využívané seriózními právními kancelářemi i copyrightovými trolly, které nezřídka mylně označí obsah za závadný. Pokud je na straně příjemce další „chytrý“ stroj, jenž na výzvy k odstranění obsahu porušujícího copyright reaguje automaticky, může to dopadnout jako v případě Tumblr stránek This Isn’t Happiness. Skutečně vážné otázky se pak začínají vznášet nad programem NSA Skynet (příznačné označení), který pomocí strojových algoritmů s využitím GSM metadat (životní styl, sociální vazby, cestovní návyky) „identifikuje“ pravděpodobné teroristy. A nemusí jít ani o metadata sbíraná z pakistánské GSM sítě. V americkém městě Fairfax byla nedávno z nebezpečného vyhrožování obviněna dvanáctiletá školačka, neboť do zprávy v Instagramu napsala „sejdeme se v knihovně“, a vzkaz doplnila kombinací symbolů ?? ? – zpráva byla následně vyhodnocena jako hrozba. Je-li toto úsvit věku chytrých strojů, máme se skutečně nač těšit.
Co si od chytrých strojů slibujete a čeho se naopak obáváte? Napište nám a nebo pípněnte.
Obrázek: Wikimedia Commons