Umělá inteligence (AI) se stává stále větší součástí našeho každodenního života, technologie, které využívají AI, se nacházejí v našich mobilních telefonech, počítačích, internetových vyhledávačích, sociálních sítích, a dokonce i v domácích spotřebičích. S produkty umělé inteligence – články, obrázky, fotografiemi či videi – se stále častěji setkáváme také v prostředí internetu.
Bohužel umělá inteligence dokáže vytvářet obsah, který pro nás může být nebezpečný, např. tzv. deepfake videa, která nás mohou zmást a přimět k ukvapené reakci (např. investování velkého množství peněz pod vidinou zázračného zbohatnutí, které nám slíbila známá osobnost). Jedinou obranou před těmito riziky je pak především trvalé zvyšování mediální gramotnosti uživatelů internetu – a to jak mladé generace, tak i generace dříve narozených. A právě na ty se zaměřuje publikace, která právě vychází.
Projekt E-Bezpečí Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci s CEDMO (Středoevropskou observatoří digitálních médií) při Univerzitě Karlově právě vydává tematickou příručku Rizika spojená s umělou inteligencí pro seniory.
Příručka nabízí komplexní pohled na umělou inteligenci, její využití a potenciální rizika. Vysvětluje základní pojmy a principy fungování AI, popisuje její pozitiva a praktické přínosy v každodenním životě, například ve zdravotnictví, vzdělávání nebo zábavě. Upozorňuje také na možná nebezpečí, jako jsou internetové podvody, šíření dezinformací, deepfake videa a narušení soukromí.
„Virtuální svět posledních let je doslova prorostlý nebezpečným obsahem, ke kterému patří např. různé druhy online podvodů, které zneužívají umělou inteligenci,“ komentuje publikaci její hlavní autor Kamil Kopecký z Pedagogické fakulty Univerzity Palackého v Olomouci a pokračuje: „Tisíce lidí přicházejí o své úspory, protože je investují do „zaručeně fungujících investičních produktů, ve kterých k nim promlouvá prostřednictvím deepfake videí známá osobnost (třeba prezident, expremiér, známý herec či zpěvák) a slibuje jim snadné zbohatnutí. Je to však jen podvod, fikce, výsledkem jsou obrovské finanční ztráty. Jedinou cestou, jak se stát před těmito riziky odolnými, je systematické vzdělávání a zvyšování mediální gramotnosti obyvatel. A právě na to je naše nová publikace zacílena.“
Anja Grabovac, projektová manažerka CEDMO, jej doplňuje: „Nástroje generativní umělé intelegence převážná většina české společnosti zatím nevyužívá. Z výsledků našeho průzkumu CEDMO Trends vyplývá, že tři čtvrtiny české populace starší 16 let nástroje generativní umělé inteligence nepoužívají vůbec. Zároveň víme, že existují velké diskrepance mezi věkovými skupinami; zatímco v případě mladších ročníků deklaruje pouze třetina respondentů nulové využívání nástrojů generativní umělé inteligence, ve věkové skupině nad 65 let se jedná až o 94 % respondentů. Obdobné rozdíly jsme zaznamenali i v případě zjišťování znalosti fenoménu deepfake videí, kdy pouze necelá třetina respondentů starší 65 let dokázala z nabízených odpovědí správně určit co je deepfake – tedy, že se jedná o zdánlivě reálný umělou inteligencí vytvořený obraz, video nebo zvuk něčeho, co se nezakládá na pravdě. Průzkum také poukazuje na velké rozdíly mezi povědomím o tom, co je deepfake mezi ženami a muži, kdy polovina dotázaných mužů odpověděla správně, zatímco u žen to bylo 32 %.“
Kromě deepfake videí a online podvodů se příručka věnuje také problematice deepnudes, tedy tzv. svlékacích aplikací, které jsou vysoce nebezpečným trendem – umělá inteligence integrovaná do webových či mobilních aplikací umožňuje komukoli vygenerovat z běžné fotografie fotografii obnaženou. Ta pak může být zneužita např. k vydírání, vyhrožování apod.
Příručka také poskytuje praktické rady a doporučení, jak se chránit před zneužitím AI, a přináší přehled užitečných aplikací a nástrojů pro bezpečné využívání této technologie. V závěru nabízí kontakty na organizace, které mohou poskytnout pomoc v případě potíží.
Příručka je zdarma ke stažení na webech E-Bezpečí a CEDMO (vychází také v omezeném nákladu v tištěné podobě).