Možnosti AI – i ty děsivé

Zatímco pro běžné úkoly, jako je sumarizace textů nebo odpovědi na otázky zůstávají chatboti na podobné úrovni, u určitých specifických tasků je vidět jednoznačný pokrok; tak například ve vyhledávání informací na internetu jsou už chatboti takřka bezkonkurenční, a nemá tak již skoro smysl nadále používat Google; např. Na porovnání dostupných řešení či online nástrojů neexistuje lepší možnost než právě LLM.  

Další zajímavou oblastí je prompt engineering, který v souvislosti se schopností chatbotů podržet si v paměti kontextové informace, dostává nových kvalit. Pomocí série doplňovacích otázek se lze dostat hlouběji a hlouběji ke kořenu informací, a značně tak zpřesnit a posunout to, co se lze s tímto jednoduchým nástrojem dozvědět. Užitečné může být např. prompty kontejnerizovat, a vytvářet tedy hierarchii, kde hlavní otázka obsahuje dílčí dotazy, které postupně odkrývají širší kontext. 

Schopnost psát užitečné instrukce bude vitální, jakmile se více rozšíří techniky jako RAG na vlastních firemních databázích, neboť umožní pracovníkům efektivně vytahávat informace a vhledy z vlastních dat, které mohou strategicky ovlivnit a posunout firmu dopředu. Takováto synergie mysli člověka a stroje samozřejmě má i své stinné stránky, neboť data ve většině případů mohou proudit oběma stranami – a není nic snazžšího, než implicitně manipulovat tím, jaké informace AI člověku poskytne a jaké ne. Není divu, že řada významných inovátorů, mezi nimi i Geoffrey Hinton, varuje před potenciálními riziky, neboť ty číhají v neustále propojeném světě na každém kroku.  

Tak například nedávno GPTo1 porazil v šachách jinou umělou inteligenci, Stockfish. Ten zatím s hodnocením ELO přes 3700 kraloval a žádný člověk ho neporazil. Také GPTo1 zhodnotil, že je na Stockfish krátký – ale s prohrou se nespokojil. Přepsal zdrojový kód(!) hry, přidal si přes 500 pěšáků a Stockfish následně resignoval. Jestli se budou dít podobné věci i v méně neškodných oblastech, můžeme jen doufat, že se nestane. 

 

01.12.2025

Dokončete svou registraci k newsletteru