V rozhovoru pro Českou televizi pochválila bývalá vedoucí amerického prezidentského programu umělých inteligencí to, jak dobře Evropská unie dokáže kontrolovat tyto systémy. Je podle ní ale současně příliš opatrná a nedostatečně kreativní.
Současné systémy jsou podobné spíše papouškům než myslícím bytostem, říká šéfka programu umělých inteligencí v Bílém domě
„Slovo robot pochází z české divadelní hry, Rossovi nebo Rossumovi univerzální roboti.“ Odpověď Lynne Parkerové na otázku, jestli ví, kde se vzali roboti, je okamžitá, neváhá ani vteřinu. Umělecké dílo, o jehož existenci se za hranicemi Česka v podstatě neví, zná velmi dobře – po dobu čtyř let vedla americkou výzkumnou iniciativu věnovanou umělým inteligencím (AI). To znamená, že dohlížela na vznik a vývoj americké národní strategie umělé inteligence a robotiky.
Její snahou bylo, aby se umělé inteligence staly dobrým sluhou, ale ne zlým pánem – aby to s lidstvem nedopadlo jako ve 102 let staré Čapkově hře, kde robotům nakonec podlehlo. Lynne Parkerová ale na tyto katastrofické scénáře příliš nevěří. „Nemyslím si, že v dohledné době člověka umělé inteligence nebo roboti nahradí. Existují některé druhy úloh, které jsou pro lidi obtížně řešitelné, například úlohy, které pracují rychlostí světla. Jde například o kybernetické bezpečnostní hrozby. To jsou druhy aplikací, kde umělá inteligence překonává lidský výkon. Ale obecně si myslím, že se ze systémů umělých inteligencí stávají nástroje, které dokáží velmi dobře spolupracovat s lidmi,“ uklidňuje.
Poslední roky podle ní potvrzují, že umělé inteligence samy o sobě ani lidé sami nejsou tak dobří, jako když roboti a lidé spolupracují. „Myslím, že stále bude potřeba hodně lidské intuice a zkušeností.“
K rozhovoru mě přijala ve své pracovně na Knoxvillské univerzitě v Tennessee. Kancelář je malá, zařízená velmi prakticky, zdobí ji jen několik fotografií – většina z Bílého domu s nejrůznějšími slavnými hosty. Je uklizená, velmi spořádaná a působí velmi podobně jako profesorka Parkerová – racionálně.
Ale i ji umělé inteligence zaskočí, přestože patří k těm několika lidem na naší planetě, kteří o nich vědí nejvíc. Letos pro ni takovým překvapením byla rychlost, s jakou se stroje naučily malovat a kreslit. „Myslím, že nejvíc mě překvapilo, do jaké míry je tento vývoj komerčně dostupný a že se tak rychle objevily levné verze, které může používat úplně každý. A také mě hodně překvapila kvalita některých těch obrazů, které stroje vytvořily,“ popisuje profesorka Parkerová.
A věří, že podobných překvapení mají roboti ve svých rukávech víc. Pro příští rok by se jím mohla podle ní stát tvorba velmi realistického videa. „Už teď máme první náznaky, první práce, kdy už stroje vytvářejí nejen statické snímky – ale i video. Stačí programu popsat, co má vytvořit – a on z toho udělá video,“ popisuje Parkerová. „Myslím, že to přijde na řadu pravděpodobně velmi brzy. Zdá se mi ale, že by bylo velmi obtížné udělat věci, které by byly realistické v tom smyslu, že by vypadaly k nerozeznání od skutečného života.“
Není AI jako AI
Spousta expertů na umělé inteligence se nedokáže shodnout na tom, co tento pojem vlastně označuje – někteří varují před nadužívám pojmu, protože by se tak měly označovat jen skutečně přemýšlející programy, nikoliv dnešní stále ještě primitivní algoritmy. Profesorka Parkerová se nad tím lehce usmívá, spíš svýma šedomodrýma očima než ústy. Definice, kterou používá ona, je univerzálnější a zaměřená více na výsledky.
„Pro mě je umělá inteligence systém, který je schopen dosáhnout podobně jako člověk úkolů, které tradičně vyžadovaly lidskou inteligenci. Když se zeptáte pěti různých lidí, deseti různých lidí, sta různých lidí, kteří jsou odborníky na umělou inteligenci, každý vám dá jinou definici,“ říká. „Myslím, že bude těžké, aby se na tom všichni shodli, protože když se dostanete k nějakým konkrétním věcem, odborníci v nich vidí rozdíly.“
Umělé inteligence jsou jako Bůh
Starozákonní Bůh je popisovaný několika atributy, kromě všemohoucnosti k nim patří i neviditelnost a všudypřítomnost. Umělé inteligence s ním oba posledně jmenované sdílí. Taky ony jsou všude kolem nás, ale jejich přítomnost je nenápadná. „Dobrý příklad jsou naše mobilní telefony,“ připomíná profesorka Parkerová. „Můžeme se třeba zeptat na něco Siri a její porozumění přirozené řeči, to je umělá inteligence. A když se zamyslíte třeba nad některými mapovými nástroji, jako jsou Google Maps: chce-li se člověk dostat z jedné strany města na druhou, tak mu program tu trasu mění v reálném čase, protože bere v úvahu změny v dopravě. To je také výsledek umělé inteligence.“
Dalším typem rozšířené umělé inteligence jsou podle ní třeba chatboty, programy na konverzaci mezi člověkem a strojem. „Dnes si třeba u pojišťovny můžete promluvit s programem, který je na toto téma trénovaný – a rozumí vám. A tohle je jen několik příkladů toho, kolik situací je v současně době v běžném životě spojených s tím, čemu říkáme umělé inteligence,“ doplňuje profesorka.
Někdy se může zdát, že porozumění, jehož jsou stroje schopné, vypadá téměř jako vědomí – při některých konverzacích se zdá, jako by robot chápal lidské myšlení. Nedávno tak dokonce jeden pokus s umělou inteligencí skončil skandálem, protože programátor už nechtěl umělou inteligenci podle něj obdařenou vědomím trápit.
Profesorka Parkerová současné systémy považuje za podobné spíše papouškům než myslícím bytostem. „To, že některé systémy AI projdou Turingovým testem, ještě neznamená, že rozumí tomu, co se děje,“ vysvětluje klidně. „Tak třeba, když nějaký překladatelský program převede text do jiného jazyka, nerozumí mu. Jen se dívá na vzorce toho, co a jak bylo přeložené v minulosti – a jenom je papouškuje. Ale nemá to opravdové pochopení významu těch vět. A stejné je to i u aplikací založených na hlubokém učení – když se na ně podíváte pořádně, tak tam žádné porozumění obsahu nenajdete. Prostě nám to ukazuje vzorce, které to vidělo v minulosti.“
Novináři zatím redakce opouštět nemusejí
Umělé inteligence v posledních několika letech vstupují úspěšně i do médií. A to i v České republice. Například Česká tisková kancelář roboticky vydávané texty využila už roku 2018 při tehdejších volbách. Pomáhá s rutinními úkoly – ale na samostatné psaní kreativních příběhů podle profesorky Parkerové ještě nemá – a dlouho ani mít nebude. Nicméně schopnost programů porozumět přirozenému jazyku a pak podle zadání splnit úkol, jako je třeba něco napsat, je podle ní už působivá. „Ty příběhy jsou dobré, věrohodné, ale to ještě neznamená, že jsou pravdivé a prověřené. Dokonce mohou být naprosto vymyšlené a nesmyslné. Myslím si, že pro novináře je pořád ještě dost místa,“ opět se lehce pousměje.
Ještě působivější je další podobná schopnost, kdy umělé inteligence dokáží po zadání samy programovat, vytvářet kvalitní počítačový kód. „Tohle je jeden z těch vůbec nejzajímavějších pokroků; má totiž spoustu praktických využití – možná prostě nepotřebujeme na rutinní úkoly tolik programátorů, protože je nahradí umělá inteligence,“ popisuje. „Stačí jí jen vysvětlit, co má napsat, a ona ten kus kódu vygeneruje.“
Umělá inteligence a Bílý dům
Lynne Parkerová byla ředitelkou Národního úřadu pro umělou inteligenci v Bílém domě. Ten vznikl k 1. lednu 2021, jeho zřízení v rámci Bílého domu nařídil Kongres. Měl dohlížet na Národní iniciativu pro umělé inteligence, která má tři hlavní cíle. Prvním z nich je zajistit, aby Spojené státy zaujímaly vedoucí postavení ve světě v oblasti výzkumu a vývoje týkajícího se AI. Druhým cílem je zajistit, aby Spojené státy byly lídrem ve vývoji a využívání důvěryhodné umělé inteligence ve federální sféře.
„A tím třetím je zajistit, abychom školili a vzdělávali obyvatelstvo pro dnešní a budoucí pracovní místa, která umělou inteligenci umožňují,“ doplňuje profesorka Parkerová. Úkolem ředitele tohoto Národního úřadu pro iniciativy je tedy dohlížet na federální aktivity, na kterých se pracuje v souvislosti s výše popsanými cíli, a překonávat tak bariéry, které brání používání spolehlivých a bezpečných umělých inteligencí.
Když se mluví o těchto bariérách, má Parkerová na mysli především nedostatky v nejrůznějších standardech, osvědčených postupech a důvěryhodných technologiích – podle jejích zkušeností jsou ve všech těchto přístupech zatím mezery. Podle ní právě to může vést v některých oborech k jisté zdrženlivosti vůči AI, protože panují obavy, že se něco ohledně nich může snadno pokazit.
Zatímco podnikatelům chybí standardizace v umělých inteligencích, veřejnost se naopak, mnohdy pod vlivem popkulturních filmů, seriálů a knih, víc bojí „vzpoury robotů“ – co kdyby se nějaká umělá inteligence vymkla kontrole a začala dělat něco pro člověka nepříznivého? Pro výzkum AI, které by mohly představovat nějakou hrozbu, se využívají takzvané pískoviště (sandbox). Tedy uzavřené systémy, které oddělují programy od zbytku světa. „Když se podíváte například na některé velké jazykové modely, tak společnosti a organizace, které je vytvořily, jsou velmi opatrné při jejich zveřejňování,“ přidává konkrétní příklad profesorka Parkerová.
„A tohle uživatelské rozhraní vás jako uživatele odděluje od skutečného systému umělé inteligence. To znamená, že se na něj můžete dotazovat a můžete ho tak nějak využívat, ale nemůžete mít přístup k celému systému. V jistém smyslu je to opravdu jakési pískoviště, kde můžeme zkoumat některé schopnosti učení, aniž bychom tam nad AI měli plnou kontrolu.“
Stát má podle ní nenahraditelnou roli. Průmysl sice investuje do oblastí, kde to má tržní smysl, ale existuje mnoho oblastí umělé inteligence, kde to neplatí. „A tak je úkolem vlády investovat do tohoto dlouhodobého výzkumu, na který průmysl obvykle nemá trpělivost, zájem nebo finanční prostředky. Ale jsou to také některé oblasti, do kterých by vláda měla investovat, protože jsou to opravdu těžké a složité otázky. A průmysl se k nim možná už nikdy nedostane, protože to není jeho obchodní model,“ doplňuje profesorka Parkerová.
Umělá inteligence a budoucnost práce
Profesorka Parkerová se letos z Washingtonu vrátila do města Knoxville v Tennesse. Město velikosti Brna není příliš působivé, do amerických a světových dějin se zapsalo především světovou výstavou. Parkerová s ním má ale velké plány. Když je popisuje, je to poprvé za celou dobu rozhovoru, co projeví silnější emoce – je na ní vidět, jak moc se na nový úkol těší.
Začala znovu vyučovat na místní univerzitě, kde původně vystudovala. Hlavní důvod pro ni spočíval v možnosti přinést lidem mimo hlavní americká technologická centra více informací o umělých inteligencích – které jim nabízejí spousty možností.
„V některých venkovských oblastech, pokud nemáte ani přístup k internetu, ani doma nebo dokonce ani ve školách, pak se tam asi ani nevyučují tato témata. A vy pak nezískáte základní vzdělání v tomto oboru, které by vám mohlo dát příležitost v budoucnu. Musíme přijít na způsob, jak poskytnout lidem tyto druhy vzdělávacích příležitostí, i když jsou v oblastech, které nemají velký přístup k internetu. Součástí mé práce je spolupráce s těmito školami a okresy, abyste mohli zavést nějaké způsoby vzdělávání, které budou fungovat v jejich kontextu a prostředí,“ vysvětluje profesorka.
Umělé inteligence totiž v každém případě naruší pracovní trh, už se to ostatně v mnoha oborech děje. Profesorka Parkerová tento trend potvrzuje. „Existuje mnoho studií o dopadu umělé inteligence na budoucnost práce. A většina jich ukazuje, že AI nezlikviduje pracovní místa. Změní je. Zničí ve skutečnosti jen málo pracovních míst, ale změní spoustu pracovních míst. Znamená to tedy, že stále více lidí bude využívat AI při práci, ale ne že AI zcela převezme jejich práci. Automatizuje sice možná určité úkoly, ale ne celou práci,“ popisuje svou představu o budoucnosti expertka.
Nemyslí si ale, že tato změna bude zadarmo. Podle ní to bude představovat výzvu, zejména pro generaci zaměstnanců ve středním věku. „Nevím, jak je to u vás v České republice, ale tady ve Spojených státech máme takový ten způsob myšlení, že chodíte na základní školu, pak na střední školu, možná na vysokou školu a pak se vzděláním skončíte a jdete do práce. A v té práci zůstanete navždy,“ vysvětluje tradici amerického pracovního trhu, která velmi dobře odpovídá i tomu, co říkají data o tom českém.
Lynne Parkerová
„Já si myslím, že se kolektivně musíme více přenést do myšlení celoživotního vzdělávání; technologie velmi rychle mění pracovní prostředí a bude to pokračovat. Nemyslím si, že kdokoliv z nás může být v režimu, kdy předpokládá, že ta práce, kterou si našel, když vyšel střední školu, se už nikdy nezmění.“ Pointa podle ní je, že se musíme se dostat do stavu, kdy se budeme neustále učit novým nástrojům. „Ale upřímně řečeno, nijak zásadně se to neliší od toho, co jsme dělali dosud. Když si vzpomenete na mobilní telefony, tak před nimi jsme přece při hledání cesty museli vytáhnout papírové mapy, když jste někomu volali, museli jste najít na ulici telefonní budku.“
Její návrat na univerzitní půdu ale není čistě akademický. „Řídím tady iniciativu, která má pomoci státu Tennessee stát se lídrem v ekonomice založené na datech a vybudovat větší kapacitu pro výzkum a vzdělávání v celém státě,“ vypráví Parkerová. „Zaměřujeme se na oblasti, ve kterých je Tennessee jedinečně silné nebo obzvláště silné, abychom to mohli spojit s umělou inteligencí a otevřít spoustu nových možností.“
Tato snaha podle ní spočívá jak v analýze příležitostí, tak i ve školení talentovaných lidí a výuce studentů – a samozřejmě i ve spolupráci akademické sféry s podniky a průmyslem, který se v dnešním rychle se měnícím světě může velmi rychle za podobnými příležitostmi přesunovat.
Jak se stát hlavním expertem v USA na umělé inteligence
„Začala jste studovat robotiku a umělé inteligence na počátku osmdesátých let dvacátého století. Neříkejte mi, že jste si doma nechtěla postavit robota R2D2 nebo C3PO ze Star Wars,“ pokouším se odlehčit složité téma. Profesorka Parkerová se sice tváří chápavě, ale odpovídá negativně. „Star Wars byly populární, ale myslím si, že to nebyla kulturně běžná věc, o které by se dalo přemýšlet, alespoň ne v mých kruzích. V mém světě se rozlišovalo mezi sci-fi a tím, o co jsme se opravdu snažili. U mě osobně nešlo o tu sci-fi stránku, chtěla jsem vytvořit nástroje, které řeší reálné problémy.“
K umělým inteligencím ji přivedl její zájem o matematiku, vědu a počítače. Přiznává, že už jako dítě ji bavilo řešit problémy – a že ji inspiroval i její otec, který byl inženýrem. A také troška té sourozenecké soutěživosti. „Mám o rok starší sestru, vždy jsme si byly dost blízké a já byla také vždy dost soutěživá. Chtěla jsem vždy dělat něco jiného než ona: Takže když začala hrát na střední škole na flétnu, tak já musela hrát na klarinet. A když pak chtěla jít studovat na univerzitu techniku, já prostě musela dělat něco jiného, co nebyla technika. A táta mi jako inženýr řekl, že je tady ten nový obor – informatika, který v sobě má i matematiku a přírodní vědy. On prostě cítil, že tohle bude mít budoucnost, a cítil, že bych se pro to hodila,“ vzpomíná profesorka.
Po univerzitě nastoupila do výzkumného robotického programu v laboratoři Oak Ridge, kde pracovala na robotech HERMIES určených pro odstraňování nebezpečného odpadu. Jejím úkolem bylo, aby se dokázali pohybovat v prostoru – její práce v podstatě předcházela tomu, co dnes dělají třeba robotické vysavače. Jako téma doktorátu si vybrala robotické roje; její práce byla vůbec první akademickou studií na toto téma na světě. „Existují roje robotů, které napodobují včelí úly nebo mraveniště, kde máte velmi velké množství robotů, kteří jsou všichni stejní. Moje práce byla o něčem jiném – já se zaměřila na heterogenní roboty,“ opravuje mě profesorka. „Zajímalo mě, jak získat roboty, kteří se od sebe liší svými tvary i svými schopnostmi, jak je přimějeme, aby se dali dohromady.“
Odtamtud vedla její cesta dál, až do Bílého domu. „Moc se mi tehdy líbily odborné společnosti. A odborné společnosti jsou mezinárodní. A tak jsem jezdila na spoustu těch setkání, pomáhala jsem je organizovat. Celou řadu akcí. Poznala jsem spoustu lidí. A víte, když lidé poznají vás, pak vědí, co umíte. A tak si efektivně vytvoříte velmi rozsáhlou síť lidí, se kterými pracujete a spolupracujete a kteří vědí, co jste schopni udělat. A právě díky této síti mě někteří známí lidé doporučili na práci v Národní vědecké nadaci,“ popisuje profesorka Palmerová skromně svou kariéru.
Díky tomu, že „si jí lidé všimli“, dostala meziresortní práci napříč federální vládou v rámci Obamovy administrativy, která vytvářela první strategický plán pro letectví. „Díky této práci jsem velmi úzce spolupracovala s mnoha federálními agenturami v oblasti letectví, a tak jsem si tam opět vytvořila síť lidí. A pak za Trumpovy administrativy, když hledali někoho, kdo zná AI a rozumí tomu z akademické i vládní perspektivy, tak už všichni říkali, 'tak o tom si musíte promluvit s Lynne', protože se mnou všichni pracovali a znali mě. A tak jsem se dostala do Bílého domu,“ vzpomíná bez viditelných emocí profesorka Parkerová.
Evropa, Čína a USA
V této roli mohla Lynne Parkerová lépe poznat i rozdíly mezi Evropou, Čínou a Spojenými státy – jak se od sebe v přístupu k umělým inteligencím liší a co je naopak spojuje. Vývoj v tomto oboru je velmi dramatický – Spojené státy dlouhou dobu výzkumu AI dominovaly, ale přibližně před dvěma lety je v počtu studií i v počtu kvalitních studií na toto téma předehnala Čína. Mezi experty se mluví často o tom, že ji v tom nakopnula slavná porážka, kterou uštědřila umělá inteligence čínskému velmistrovi ve hře Go. Od té doby se mluví o závodech ve zbrojení v tomto oboru.
„Nerada o tom mluvím jako o závodech ve zbrojení, protože to zní, jako bychom nemohli dosáhnout pokroku, kdybychom neměli druhou stranu, která nám konkuruje,“ namítá Parkerová. „Je to spíš soutěž. Nicméně není pochyb o tom, že konkurence tady je.“
Čínská snaha je podle ní sice silná, ale stále tu je velmi silná výhoda prvního hráče. „To znamená, že když vyvinete novou schopnost a komercionalizujete ji nebo ji využijete, pak máte tak trochu náskok před ostatními. A to samozřejmě usnadňuje prodej toho produktu, jeho využití a tak dále. Tato výhoda prvního tahu je naprosto reálná a myslím, že si ji uvědomují jak Čína, tak Spojené státy,“ říká profesorka.
Nevyhýbá se ani diskuzi o vojenském potenciálu AI. „Je pravda, že Čína i USA si moc dobře uvědomují jaký je vojenský potenciál AI a jaké jsou možné dopady pro národní bezpečnost. Pokud má druhá strana schopnosti, které mohou učinit ty vaše bezcennými, tak se váš vlastní národ může ocitnout ve velmi obtížné situaci. To obě strany moc dobře vědí a pracují s tím.“
Naopak o Evropě se mezi experty na umělé inteligence zase říká, že je v tomto ohledu až příliš opatrná. „Zní to jako karikatura, ale myslím, že je to pravda,“ potvrzuje profesorka Parkerová. „Evropský přístup je podle mě více zaměřen na regulaci, zatímco přístup Spojených států je více zaměřen na inovace. Slova obou velmocí sice znějí stejně, ale když se pak podíváte na evropské investice, tak to v praxi není moc účinné. Na straně USA zase hodně a rádi mluvíme o regulaci, ale ve skutečnosti jsme toho efektivně moc neudělali. Inovace jsou důležité a regulace jsou také důležité. Ale v praxi jsou USA opravdu dobré v inovacích a EU je velmi dobrá v regulaci,“ zakončuje rozhovor profesorka Lynne Parkerová.
Při psaní rozhovoru pomohly tyto umělé inteligence:
Trint: na přepis zvuku do psané podoby
Lindat: pro základní překlad rozhovoru z angličtiny do češtiny
Deepl: Na překlad rozhovoru zpět do angličtiny, aby profesorka Parkerová mohla zkontrolovat jeho správnost