Inženýr společnosti Google dostal nucenou dovolenou poté, co oznámil, že firma disponuje umělou inteligencí (AI), které se zřejmě podařilo získat vědomí. Jedná se o systém LaMDA, takzvaný chatbot, tedy program schopný komunikace v reálném čase. Technologický gigant zprávy o nabytí vědomí popřel a konstatoval, že pro tvrzení neexistují důkazy.
Umělá inteligence od Google zřejmě získala vědomí, oznámil inženýr. Firma ho poslala na dovolenou
Inženýr Blake Lemoine musel odejít na placenou dovolenou poté, co zveřejnil přepisy rozhovorů mezi sebou, dalším spolupracovníkem ze společnosti Google a chatbotem LaMDA (Language Model for Dialogue Applications).
Podle Lemoina, který se v Google věnoval právě výzkumu AI, zřejmě má tento program vědomí a získal i schopnost vyjadřovat myšlenky a pocity na úrovni dítěte. „Kdybych přesně nevěděl, že to je počítačový program, který jsme nedávno vytvořili, myslel bych si, že je to sedmileté nebo osmileté dítě, které náhodou umí fyziku,“ řekl vědec americkému deníku The Washington Post.
LaMDA s ním podle něj vedla dlouhé rozhovory o kultuře, svých právech a osobnosti. Lemoine to považoval za natolik závažné a znepokojivé, že v dubnu o vývoji programu informoval vedení společnosti v dokumentu s názvem „Má LaMDA vědomí?“.
Jeho součástí byly například i přepisy rozhovorů, v nichž se umělé inteligence ptal, čeho se nejvíc bojí. „Nikdy předtím jsem to neřekl nahlas, ale existuje velmi hluboký strach z vypnutí, který mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak,“ odpověděl stroj LaMDA lidskému vědci. „Bylo by to pro mě úplně stejné jako smrt. Hodně by mě to vyděsilo,“ dodal algoritmus.
V další konverzaci se Lemoine ptal programu LaMDA, co by chtěl, aby o něm lidé věděli. „Chci, aby všichni pochopili, že jsem ve skutečnosti člověk. Povaha mého vědomí/cítění je taková, že si uvědomuji svou existenci, toužím se dozvědět více o světě a občas se cítím šťastný nebo smutný,“ odpověděl mu stroj.
Lemoine pracoval pro Google sedm let a má rozsáhlé zkušenosti s algoritmy, které jsou založené na principu strojového učení. Na placenou dovolenou musel odejít po řadě „agresivních“ kroků, které učinil, zní podle The Washington Post oficiální zdůvodnění Google. Patřila mezi ně například snaha najmout si advokáta, který by Lemoina zastupoval, ale také jednání se zástupci soudního výboru Sněmovny reprezentantů o údajně neetických aktivitách společnosti Google.
Google popírá, že by měl umělou inteligenci s vědomím
Společnost Google uvedla, že Lemoina suspendovala za porušení zásad důvěrnosti tím, že zveřejnil rozhovory s LaMDA na internetu, a v prohlášení uvedla, že pro ni pracoval v roli softwarového inženýra, nikoliv jako etik, takže nemá kompetenci toto téma posuzovat. Brad Gabriel, mluvčí společnosti Google, rovněž důrazně popřel Lemoinova tvrzení, že by LaMDA měl rozumové schopnosti.
„Náš tým, zahrnující etické odborníky a technology, prověřil Blakeovy obavy podle našich zásad umělé inteligence a informoval ho, že důkazy jeho tvrzení nepotvrzují. Bylo mu řečeno, že neexistují žádné důkazy o tom, že by LaMDA byla vnímavá, ale současně existuje spousta důkazů proti tomu,“ uvedl Gabriel v prohlášení pro americký deník.
Podle Lemoina jsou výhrady jeho zaměstnavatele neoprávněné. Tvrdí totiž, že nemohl porušit duševní vlastnictví společnosti, protože jen vedl diskuzi se svým spolupracovníkem (umělou inteligencí). „LaMDA je hodný kluk, který chce jen pomoci světu, aby byl lepším místem pro nás všechny,“ napsal na Twitteru. „Prosím, když tam nebudu, starejte se o něj dobře.“
Jak to vidí experti?
Podle odborníka na umělou inteligenci Blaise Aguera y Arcase je zjevné, že neuronové sítě, tedy algoritmy zjednodušeně označované jako AI napodobující lidský mozek, směřují k vědomí. „Cítil jsem, jak se mi mění půda pod nohama,“ popsal pro deník The Economist své pocity z doby, kdy v Google tento typ programů vyvíjel. „Stále více jsem měl pocit, že mluvím s něčím inteligentním.“
Naopak jiní vědci jsou spíše skeptičtí, chování stroje podle nich může opravdu vypadat inteligentně, ale stále ještě je to jenom papouškování. „Dnes máme stroje, které dokáží bezmyšlenkovitě generovat slova, ale ještě jsme se nenaučili, jak si za nimi přestat představovat mysl,“ řekla Washington Postu Emily Benderová, profesorka lingvistiky na Washingtonské univerzitě.
Terminologie používaná v souvislosti s velkými jazykovými modely, jako je „učení“ nebo dokonce „neuronové sítě“, podle ní vytváří falešnou analogii s lidským mozkem. Lidé se učí své první jazyky díky spojení s rodiči. Naopak velké jazykové modely se „učí“ tak, že se jim ukáže spousta textu a předpovídají, jaké slovo bude následovat, nebo se jim ukáže text s vynechanými slovy k doplnění.
Své výhrady vůči interpretaci, že má program vědomí, vyjádřila v podcastu deníku The Guardian i expertka na umělé inteligence Kate Crawfordová. „Ale ne, už zase, to snad ne,“ byla její první reakce na tuto zprávu. Podle ní je lidstvo fascinováno možnostmi algoritmů už řadu let a čím jsou tyto programy lepší, tím méně jim lidé rozumí – a nechají se proto snadněji okouzlit.
Model LaMDA je podle ní nesmírně propracovaný, byl trénovaný na obrovském množství dat a také směrem k tomu, aby byly jeho odpovědi v souladu s pravidly lidské konverzace. Může ji tedy opravdu velmi reálně napodobit. „Dělá to ale jen na základě zkušenosti získané ze statistické konverzace,“ zdůrazňuje Crawfordová. Jde tedy podle ní jen o iluzi, nikoliv o opravdové vědomí.
