Umělá inteligence může pomoct i uškodit, pravidla chce nastavit Evropská komise

7 minut
Události: EU chce nastavit pravidla pro AI
Zdroj: ČT24

Umělá inteligence proniká stále více do běžného života lidí. Přináší s sebou řadu výhod, například dokáže zjednodušit rutinní kancelářskou práci nebo pomoct při vývoji nových léků. Stále častěji jsou ale skloňovaná i možná rizika mimo jiné při zajišťování bezpečnosti. Evropská komise proto chystá pravidla, která by umělou inteligenci regulovala.

V simulovaných záběrech, které vytvořil start-up Quantasoft zaměřený na umělou inteligenci a její využití v reálném životě, je vidět útočník, který se pohybuje po chodbách pražské nemocnice. Pokud kamery se systémem využívajícím AI zachytí, že útočník má u sebe zbraň, reakce přichází v okamžiku. „Jsou to jednotky sekund, kdy detekujeme zbraň i v místech, kde se nepohybují osoby – a už to posíláme na pult centrální ochrany,“ popisuje zakladatel a jednatel Quantasoftu Milan Pašek.

Na reálné ohrožení by pak mohly okamžitě reagovat bezpečnostní složky. Kromě schopnosti detekovat zbraně firma vyvíjí i software na rozpoznávání obličejů.

„S nástupem umělé inteligence se úplně změnil systém identifikace osob. Je schopen rozpoznávat obličeje, nevadí nám roušky, plastické operace, maskování ani brýle. Jsme schopni identifikovat člověka i pomocí fotografií, které jsou třicet let staré,“ přiblížil manažer strategického rozvoje Petr Mlejnek z uskupení L.P.P. holding.

Otázka ochrany osobních údajů

Používání podobných programů je ale v Evropské unii kvůli ochraně osobních údajů limitované. „Úřad pro ochranu osobních údajů nevylučuje předem nasazení jakéhokoli kamerového systému, tedy ani kamerového systému s umělou inteligencí, nicméně je zásadní, aby bylo dodrženo GDPR,“ upřesnil mluvčí tohoto úřadu Milan Řepka.

Systémy rozpoznávající obličeje mohou podle analytiků pomoct třeba bezpečnostním složkám v identifikaci hledaných osob, takto se využívají už na letišti. Před širší aplikací ale odborníci varují. „Ve veřejném prostoru se lidé nebudou cítit svobodně, budou mít oprávněný pocit, že jsou pod neustálým dohledem. Ta data někdo bude shromažďovat, bude je někde ukládat, bude je zpracovávat – bude to transparentní?“ nastoluje možné problematické otázky filozof zaměřující se na etický rozměr robotiky a AI David Černý.

AI proniká do zdravotnictví, průmyslu i škol

Umělá inteligence se používá v různé míře už ve zdravotnictví, bankovnictví, průmyslu či v prostředí sociálních sítí. Pomáhá například vyvíjet nové léky, diagnostikovat nemoci nebo předvídat vývoj trhů.

Stále více také proniká do škol. Možnosti umělé inteligenci i jejího rizika ukazuje mladým lidem třeba nový interaktivní videokurz GeneraceAI. Do vývoje se zapojili počítačoví experti, školní iniciativy nebo influenceři. Jeden z nich – Svatopluk Barek – za projektem stojí. „ Řešíme rizika spojená s umělou inteligencí, hlavně v poslední době hodně rozsáhlý deepake a falešné obrázky,“ uvedl.

Hlavní posun v oblasti vývoje AI je v posledních dvou letech takzvaná generativní umělá inteligence. Díky strojovému učení a neuronovým sítím dokáží programy tvořit různé druhy obsahu, například text, obrázky, video nebo i hudbu. Technologie umožňují strojům učit se z připravených příkladů. Na jejich základě pak vytvoří model. Čím víc dat AI má, tím rychleji a lépe se učí. Jde o technologii starou několik desítek let, která v poslední době začala nacházet větší využití díky výkonnějším počítačům a dostatku dat, ze kterých se můžou učit.

EU chce regulovat AI


Kromě využití AI se ale objevuje stále více případů jejího zneužití. A to především ve formě podvodů a dezinformací. Tatáž technologie totiž může stroje naučit i perfektně napodobit cizí hlas, tvář i gestikulaci. Tvorba takového falešného obsahu je navíc čím dál jednodušší a zvládne ji dnes i běžný uživatel internetu.

Evropská komise se chystá používání umělé inteligence regulovat, nejen v oblasti bezpečnosti. Do léta by mohl začít platit takzvaný akt o umělé inteligenci. Podle unijní exekutivy by měl lidem i firmám přinést předvídatelné prostředí. „Pokud je něco například vyráběno generickou umělou inteligencí, tak to musí být označeno,“ vysvětlil mluvčí Zastoupení Evropské komise v ČR Václav Lebeda.

Jasnější by tak mohlo být, kde všude bude umělá inteligence povolená a kde jí naopak zůstanou dveře zavřené.

Výběr redakce

Aktuálně z rubriky Domácí

Sněmovna schválila příspěvky na spoření části náročných profesí

Zaměstnavatelé zřejmě budou muset od ledna přispívat do spoření na stáří pracovníkům z části takzvané třetí kategorie rizika. Zákon schválila sněmovna. Poslanci rovněž schválili, že Česká pošta nebo jiný držitel poštovní licence zřejmě bude moci získat od státu na úhradu nákladů na základní služby o půl miliardy víc než dosud. Přerušeno ale bylo závěrečné schvalování novely o rozšíření pravomoci obcí.
09:01Aktualizovánopřed 1 hhodinou

Čermák neuspěl s ústavní stížností. Trest za podporu terorismu platí

Tomáš Čermák, jenž dostal trest pět a půl roku vězení za podporu a propagaci terorismu, neuspěl s ústavní stížností. Ústavní soud (ÚS) ji odmítl, sdělila mluvčí soudu Kamila Abbasi. Stížnost směřovala proti verdiktu, který koncem roku 2023 potvrdil i Nejvyšší soud. Čermák v době pandemie onemocnění covid-19 veřejně vyzýval k násilí na politicích, překročil tak prý meze svobody projevu.
před 1 hhodinou

Policie navrhla obžalovat firmu AVE pro neodvedení poplatků za 3,7 miliardy

Policie navrhla obžalovat odpadovou firmu kvůli neodvedení poplatků ze skládek. Kriminalisté uzavřeli vyšetřování s tím, že státu a obcím vznikla škoda ve výši 3,7 miliardy korun, informoval mluvčí Národní centrály proti organizovanému zločinu Jaroslav Ibehej. Podle informací ČTK se kauza týká společnosti AVE CZ odpadové hospodářství, v níž mají menšinové podíly podnikatelé Daniel Křetínský a Karel Pražák. Firma už dříve obvinění odmítla.
11:25Aktualizovánopřed 3 hhodinami

Soud zamítl žalobu SPD proti zařazení do zprávy o extremismu

Obvodní soud pro Prahu 7 zamítl žalobu hnutí SPD, které se bránilo zařazení do zprávy o extremismu ministerstva vnitra za první pololetí roku 2023. Podle nepravomocného rozsudku nelze hnutí upřít, že se věnuje řadě témat, problematický je ale způsob, jakým je komunikuje. Právní zástupce SPD avizoval, že se proti rozsudku odvolá, zástupce žalovaného ministerstva vnitra si pro případné odvolání ponechal lhůtu.
před 3 hhodinami

Češi zaplatí za bílé plomby méně, některé druhy budou zdarma

Od příštího roku budou mít lidé nárok na devítisetkorunový příspěvek od pojišťovny na bílou fotokompozitní výplň. Tu lékaři považují za nejvhodnější pro většinu kazů. Lidé ale budou moci žádat i o bílou plombu zcela zdarma. Vyrobená bude však z materiálu, který je podle prezidenta lékařské komory méně odolný.
před 8 hhodinami

Zákaz prodeje energetických nápojů dětem míří k finálnímu schválení

Sněmovní zdravotní výbor podpořil novelu, která zakazuje prodej energetických nápojů a podávání mladším šestnácti let. Norma míří k finálnímu schválení. Podle statistik vypije jednu plechovku týdně každý pátý školák, čtyři procenta dětí pak energetické nápoje konzumují každý den. Obsahují výrazně více kofeinu než u běžných limonád. Jeho bezpečnou dávku lze přesáhnout relativně snadno, zvlášť pokud jde o děti. „Na jeden kilogram tělesné hmotnosti činí dávka tři miligramy, už při konzumaci několika plechovek překročíme maximální dávku,“ vysvětluje Jana Hajšlová z Ústavu analýzy potravin a výživy z Vysoké školy technologické. Nejde ale jen o kofein, nápoje obsahují i řadu cukrů a dalších látek.
před 9 hhodinami

Jenom hra, označil Benda hlasování o nedůvěře. Je oprávněné, míní Bartoš

Je logické, aby vláda byla konfrontována, když běží takto závažná (bitcoinová) kauza, uvedl poslanec Ivan Bartoš (Piráti) v Událostech, komentářích. Oznámil, že jeho strana bude v úterý hlasovat pro vyslovení nedůvěry kabinetu. Podle předsedy poslaneckého klubu ODS Marka Bendy je hlasování „jenom hra“. Bitcoinovou kauzu komentoval také Kirill Juran, partner advokátní kanceláře smpl_legal zastupující klienty, kteří koupili přes 90 procent všech bitcoinů prodávaných státem. Pořad moderovala Jana Peroutková.
před 17 hhodinami

Ministerstvo předalo ceny lidem, kteří pečují o nemocné

Ministerstvo práce a sociálních věcí ocenilo lidi, kteří neformálně pečují o nemocné. Je jich zhruba tři sta tisíc, asi polovinu tvoří blízcí chorých. První cenu získala Lucie Ovsenáková, která se stará o manžela s amyotrofickou laterální sklerózou. „Byla bych vděčná, kdyby pečující měli postavení pracujících,“ sdělila. O jeho posílení usiluje Fórum rodinné politiky, potřebu změny vidí i ministr Marian Jurečka (KDU-ČSL).
před 19 hhodinami
Načítání...