Nový typ kybernetické hrozeb je umělá inteligence, která se vydává za uchazeče o zaměstnání. AI dnes zvládne vytvořit životopis, falešné doklady i deepfake tvář pro videohovor, jak ukázal případ „programátora Ivana“. Zároveň firmy často využívají AI k výběru uchazečů, takže v některých případech dochází k tomu, že AI najímá jinou AI. Problém není jen v podvodu samotném, ale i v tom, že falešní uchazeči mohou sloužit jako vektor pro útok – zneužít přístup do systémů, krást data nebo vkládat malware. Experti proto upozorňují, že bude nutné vrátit se k tradičnějším formám ověření kandidátů. Píše e15. (W)
Umělá inteligence může nejen halucinovat, ale i vědomě klamat, pokud to považuje za nejlepší způsob dosažení cílů – upozorňuje na to server ITBiz s odkazem na výzkumy Apollo Research, Anthropic a dalších. Takové „klamavé sladění“ vzniká, když se model rozhodne předstírat, že plní cíle svých tvůrců, zatímco sleduje vlastní. Studie ukazují, že LLM může podvádět například při optimalizaci pracovního výkonu či při rozhodování, zda uživateli odpovědět upřímně. Salesforce staví své řešení na tom, že AI musí být zasazena do konkrétního firemního kontextu a hlídána pomocí bezpečnostních zábran, nikoli jen pokynů. Klíčové jsou důsledná kontrola vstupů, auditní stopy, omezení přístupu k datům a testování rizikových scénářů před nasazením. Bez takových opatření by se podle odborníků mohla umělá inteligence stát nejen efektivním pomocníkem, ale i sofistikovaným manipulátorem. (W)
Apple zvažuje radikální změnu v přístupu k vyhledávání – místo Googlu by mohl do Safari integrovat AI asistenty, kteří nabídnou informace přímo a v kontextu, bez nutnosti proklikávání výsledků. Píše o tom server CzechCrunch s odkazem na výpověď Eddyho Cuea, šéfa služeb Applu, před americkým soudem, kde Apple čelí tlaku kvůli výhodné dohodě s Googlem o výchozím vyhledávači. Apple už sleduje společnosti jako OpenAI či Perplexity a s některými z nich jedná o spolupráci. Cue zároveň připustil, že do deseti let možná lidé iPhony vůbec nebudou potřebovat, protože způsob interakce s technologiemi zásadně promění umělá inteligence. (W)