Od neděle 2. srpna platí povinnost informovat uživatele, že člověk komunikuje s chatbotem či jiným systémem umělé inteligence (AI). Rovněž obrázky, audia či videa, které jsou vytvořené nebo zmanipulované pomocí AI, musí firmy jasně označit jako uměle vytvořené, informovala Evropská komise (EK).
Mluvčí EK Thomas Regnier datum 2. srpna označil za velmi významný termín. „Začnou platit a budou také vymáhána pravidla týkající se transparentnosti a zákazů stanovených v Aktu o AI,“ uvedl.
Zdůraznil v této souvislosti zejména boj proti takzvanému deepfake obsahu. „Důležité je především jeho správné označování, aby měli uživatelé v Evropské unii jasnou informaci o tom, že jde o obsah vytvořený pomocí AI,“ dodal.
Začíná ale rovněž vymáhání pravidel. Národní dozorové orgány i Evropská komise získávají pravomoci ukládat sankce za porušení ustanovení, která jsou již použitelná – tedy zejména zákazů nepřípustných praktik, ale nově i transparentnosti.
Vysoké pokuty
Za porušení pravidel mohou firmám hrozit vysoké pokuty, které v případě porušení pravidel transparentnosti mohou dosáhnout až 15 milionů eur (přes 360 milionů korun) nebo tří procent celosvětového ročního obratu společnosti.
„Mezi novinky s nejviditelnějším dopadem patří povinnost jasně a včas informovat o tom, že zákazník či uživatel komunikuje prostřednictvím chatbotu či virtuálního nebo hlasového asistenta s umělou inteligencí,“ řekl k novým pravidlům český advokát Jaroslav Kuba z poradenské společnosti Rödl.
„Totéž platí pro AI agenty, kteří samostatně například rezervují, objednávají nebo vyřizují korespondenci: podle nových pokynů Evropské komise musí prozradit nejen, že jsou umělou inteligencí, ale i za koho jednají,“ dodal.
Mezi takzvané deepfakes přitom Evropská komise dle advokáta výslovně řadí i reklamní vizuály a produktové fotografie vytvořené umělou inteligencí, pokud mohou klamat o skutečném vzhledu nebo vlastnostech výrobku, nebo virtuální influencery.
„Nové povinnosti dopadají nejen na vývojáře velkých modelů, ale i na obrovské množství běžných společností, institucí a organizací, které AI využívají ve svém provozu,“ dodal Kuba.
Evropská unie letos přijala takzvaný AI Omnibus – balíček změn, jehož cílem je zjednodušit některé povinnosti a upravit harmonogram zavádění aktu o umělé inteligenci. Ten přinesl mimo jiné odklad použitelnosti určitých pravidel pro vysoce rizikové systémy AI.
Ty mohou významně ovlivnit bezpečnost lidí nebo jejich základní práva. Původně se povinnosti pro tyto systémy měly uplatňovat už od letošního srpna, nově se tak stane až od 2. prosince příštího roku.
