Umělá inteligence proniká stále více do běžného života lidí. Přináší s sebou řadu výhod, například dokáže zjednodušit rutinní kancelářskou práci nebo pomoct při vývoji nových léků. Stále častěji jsou ale skloňovaná i možná rizika mimo jiné při zajišťování bezpečnosti. Evropská komise proto chystá pravidla, která by umělou inteligenci regulovala.
Umělá inteligence může pomoct i uškodit, pravidla chce nastavit Evropská komise
Události: EU chce nastavit pravidla pro AI (zdroj: ČT24)
V simulovaných záběrech, které vytvořil start-up Quantasoft zaměřený na umělou inteligenci a její využití v reálném životě, je vidět útočník, který se pohybuje po chodbách pražské nemocnice. Pokud kamery se systémem využívajícím AI zachytí, že útočník má u sebe zbraň, reakce přichází v okamžiku. „Jsou to jednotky sekund, kdy detekujeme zbraň i v místech, kde se nepohybují osoby – a už to posíláme na pult centrální ochrany,“ popisuje zakladatel a jednatel Quantasoftu Milan Pašek.
Na reálné ohrožení by pak mohly okamžitě reagovat bezpečnostní složky. Kromě schopnosti detekovat zbraně firma vyvíjí i software na rozpoznávání obličejů.
„S nástupem umělé inteligence se úplně změnil systém identifikace osob. Je schopen rozpoznávat obličeje, nevadí nám roušky, plastické operace, maskování ani brýle. Jsme schopni identifikovat člověka i pomocí fotografií, které jsou třicet let staré,“ přiblížil manažer strategického rozvoje Petr Mlejnek z uskupení L.P.P. holding.
Otázka ochrany osobních údajů
Používání podobných programů je ale v Evropské unii kvůli ochraně osobních údajů limitované. „Úřad pro ochranu osobních údajů nevylučuje předem nasazení jakéhokoli kamerového systému, tedy ani kamerového systému s umělou inteligencí, nicméně je zásadní, aby bylo dodrženo GDPR,“ upřesnil mluvčí tohoto úřadu Milan Řepka.
Systémy rozpoznávající obličeje mohou podle analytiků pomoct třeba bezpečnostním složkám v identifikaci hledaných osob, takto se využívají už na letišti. Před širší aplikací ale odborníci varují. „Ve veřejném prostoru se lidé nebudou cítit svobodně, budou mít oprávněný pocit, že jsou pod neustálým dohledem. Ta data někdo bude shromažďovat, bude je někde ukládat, bude je zpracovávat – bude to transparentní?“ nastoluje možné problematické otázky filozof zaměřující se na etický rozměr robotiky a AI David Černý.
AI proniká do zdravotnictví, průmyslu i škol
Umělá inteligence se používá v různé míře už ve zdravotnictví, bankovnictví, průmyslu či v prostředí sociálních sítí. Pomáhá například vyvíjet nové léky, diagnostikovat nemoci nebo předvídat vývoj trhů.
Stále více také proniká do škol. Možnosti umělé inteligenci i jejího rizika ukazuje mladým lidem třeba nový interaktivní videokurz GeneraceAI. Do vývoje se zapojili počítačoví experti, školní iniciativy nebo influenceři. Jeden z nich – Svatopluk Barek – za projektem stojí. „ Řešíme rizika spojená s umělou inteligencí, hlavně v poslední době hodně rozsáhlý deepake a falešné obrázky,“ uvedl.
Hlavní posun v oblasti vývoje AI je v posledních dvou letech takzvaná generativní umělá inteligence. Díky strojovému učení a neuronovým sítím dokáží programy tvořit různé druhy obsahu, například text, obrázky, video nebo i hudbu. Technologie umožňují strojům učit se z připravených příkladů. Na jejich základě pak vytvoří model. Čím víc dat AI má, tím rychleji a lépe se učí. Jde o technologii starou několik desítek let, která v poslední době začala nacházet větší využití díky výkonnějším počítačům a dostatku dat, ze kterých se můžou učit.
EU chce regulovat AI
Kromě využití AI se ale objevuje stále více případů jejího zneužití. A to především ve formě podvodů a dezinformací. Tatáž technologie totiž může stroje naučit i perfektně napodobit cizí hlas, tvář i gestikulaci. Tvorba takového falešného obsahu je navíc čím dál jednodušší a zvládne ji dnes i běžný uživatel internetu.
Evropská komise se chystá používání umělé inteligence regulovat, nejen v oblasti bezpečnosti. Do léta by mohl začít platit takzvaný akt o umělé inteligenci. Podle unijní exekutivy by měl lidem i firmám přinést předvídatelné prostředí. „Pokud je něco například vyráběno generickou umělou inteligencí, tak to musí být označeno,“ vysvětlil mluvčí Zastoupení Evropské komise v ČR Václav Lebeda.
Jasnější by tak mohlo být, kde všude bude umělá inteligence povolená a kde jí naopak zůstanou dveře zavřené.