Rehák: Umělá inteligence umí tvořit falešné osoby i otisky prstů

Umělé inteligence se naučily vytvářet falešné identity, které jsou k nerozeznání od pravých. Působí tak věrohodně, že dokážou obelstít i banky. 

Falešné fotografie vytvořené umělou inteligencí NVIDIA
Zdroj: NVIDIA

Umělá inteligence (AI) umí vytvářet falešné osoby a otisky prstů. Pro finanční transakce může představovat nebezpečí, ale také ochranu, řekl  na konferenci Singular University zakladatel a generální ředitel společnosti Bulletproof AI Martin Rehák. Jeho firma odhaluje podvody ve finančních transakcích způsobené roboty a hledá pro tyto hrozby řešení. On-line útoky na počítačové a internetové uživatele jsou podle něj dnes větší hrozbou než útoky fyzické.

Takzvané generativní sporné sítě (GAN) dokážou vytvářet falešné osoby a účty. AI se dokázala v tomto systému vycvičit, stejně jako člověk, pomocí zkušeností a chyb. „V roce 2016 vytvořil GAN sérii obrázků, které vypadají zvláštně, ale nerozpoznáte je od těch vytvořených člověkem. Generátor je vytvoří a diskriminátor (filtr) rozhodne, jestli jsou rozpoznatelné od lidských, nebo ne,“ popsal Rehák. Generátor pozná, kde udělal chybu, poučí se z ní a opraví ji. Společně se tyto dva algoritmy vylepšily.

Falešní lidé, falešné informace

Po dvou letech vznikly obrázky neexistujících lidí díky obrázkům a informacím na Facebooku. S těmito falešnými identitami je v některých zemích možné obelhat bezpečnostní princip „Poznej svého klienta“, na základě kterého společnost shromažďuje relevantní informace o klientech. Podle takto složeného profilu podnikatel pozná, zda uskutečněné obchody odpovídají majetkovým poměrům klienta či jeho podnikatelské činnosti.

Bezpečné podle Reháka není ani nastavit zamykání a odemykání mobilního telefonu na otisky prstů. „Loni v listopadu skupina výzkumníků použila AI a GAN k vytvoření falešných otisků prstů. Nikomu nepatří. Byly vytvořeny jen proto, aby odemykaly telefony a databáze,“ vysvětlil.

AI a GAN umí také generovat videa a fotky. Není tedy bezpečné přijímat nového zaměstnance nebo klienta například přes Skype.

Zločin se přesunul do kyberprostoru 

„A to je jen začátek. GAN jsou velmi mladé. Od roku 2015 většina zločinů ve Velké Británii byla spáchána on-line. A většina z nich byly finanční podvody. Zapomeňme na útočníka, kterého potkáme na ulici,“ doplnil Rehák. Je ale možné podle něj pomocí AI vytvořit také bezpečnostní systémy, které mohou lidi ochránit, a je možné je využít jako výhodu před konkurencí.

Mezinárodní konference Singular University podruhé v pražském Paláci Žofín představila celosvětově uznávané experty na technologie, podnikatele, vědce a inovátory, aby diskutovali o budoucnosti technologií. První konference se v Praze konala loni. Sešlo se přes 800 odborníků ze soukromého, veřejného i akademického sektoru.