Nobelovu cenu za fyziku dostali vědci za výzkum strojového učení

Laureáty Nobelovy ceny za fyziku se letos stali John J. Hopfield a Geoffrey E. Hinton za objevy, které vedly k fenoménu umělé inteligence.

Letošní Nobelovu cenu dostali dva vědci za objev „strojů, které se učí“. Komise ocenila jejich podíl na vynálezech, které umožňují strojové učení pomocí umělých neuronových sítí.

Umělá inteligence je téma, které v současné době mění svět podobně rychle, jako proměnil knihtisk středověkou Evropu. Když se o ní mluví, tak se téměř vždy hovoří o umělých neuronových sítích. Tato technologie byla původně inspirovaná strukturou lidského mozku.

V mozku jsou neurony, v neuronové síti jsou místo nich uzly, které mají různé hodnoty. Tyto uzly se navzájem ovlivňují prostřednictvím spojení, která se dají přirovnat k synapsím. Ty mohou být, podobně jako v lidském mozku, různě silné. Tato síť se trénuje, například vytvářením silnějších spojení mezi uzly. Letošní laureáti prováděli důležitou práci s umělými neuronovými sítěmi už v osmdesátých letech dvacátého století a stojí za současnou revolucí v oboru umělých inteligencí.

John Hopfield vynalezl síť, která využívá metodu ukládání a znovuvytváření vzorů. Ta využívá fyziku, která popisuje vlastnosti materiálu díky jeho atomovému spinu – což je vlastnost, která z každého atomu dělá malý magnet. Síť jako celek je popsána způsobem, který odpovídá energii ve spinovém systému zjištěné ve fyzice, a je trénována nalezením hodnot pro spojení mezi uzly tak, aby uložené obrazy měly nízkou energii. Když je Hopfieldově síti dodán zkreslený nebo neúplný obraz, prochází uzly a aktualizuje jejich hodnoty tak, aby energie sítě klesla. Síť tak postupně pracuje na nalezení uloženého obrazu, který se nejvíce podobá dodanému nedokonalému obrazu.

John Hopfield a Geoffrey Hinton
Zdroj: Nobelprize.org

Geoffrey Hinton využil tuto Hopfieldovu síť jako základ pro novou síť, která používá jinou metodu: Boltzmannův stroj. Ten se dokáže naučit rozpoznávat charakteristické prvky v daném typu dat. Hinton použil nástroje ze statistické fyziky, vědy o systémech sestavených z mnoha podobných komponent. Stroj se trénuje tak, že se mu zadávají příklady, které se s velkou pravděpodobností vyskytnou, když je stroj spuštěn. Boltzmannův stroj lze použít ke klasifikaci obrázků nebo k vytvoření nových příkladů typu vzoru, na kterém byl vycvičen. Hinton na tuto práci navázal a pomohl tak iniciovat současný prudký rozvoj strojového učení.

„Práce laureátů už přinesla zásadní užitek. Ve fyzice využíváme umělé neuronové sítě v široké škále oblastí, například při vývoji nových materiálů se specifickými vlastnostmi,“ komentovala výsledky předsedkyně Nobelova výboru pro fyziku Ellen Moonsová.

Tvůrce AI je jejím největším kritikem

Hinton je sice jedním ze zakladatelů umělých inteligencí, ale v současné době patří také k jejich největším kritikům. Až do dubna roku 2023 pracoval ve společnosti Google, kde měl roli viceprezidenta. Poté, co tam skončil, začal se více věnovat popularizaci toho, proč jsou podle něj chytré stroje větším rizikem než přínosem.

V rozhovoru pro New York Times uvedl, že generativní umělá inteligence může ohrozit lidstvo. „Biji na poplach a říkám, že se toho opravdu musíme obávat,“ řekl. Uvedl, že se obává schopnosti stále výkonnějších strojů překonávat lidi způsobem, který není v nejlepším zájmu lidstva, a pravděpodobné nemožnosti omezit vývoj umělé inteligence.

8 minut
Expert Tomáš Mikolov k Nobelově ceně za fyziku
Zdroj: ČT24

Byl také schopný veřejně přiznat, že se mýlil. Prohlásil, že si dlouho myslel, že počítačové modely nejsou tak výkonné jako lidský mozek. Teď už ale považuje umělou inteligenci za poměrně bezprostřední „existenční hrozbu“. A realita mu dává za pravdu: počítačové modely už opravdu v mnoha ohledech překonávají člověka, včetně toho, že dokážou věci, které člověk nedokáže.

Tyto modely umělé inteligence mají mnohem méně neuronových spojení než lidé, ale dokáží toho znát tisíckrát více než člověk, podotkl Hinton. Modely se navíc dovedou dále učit a snadno sdílet znalosti. Mnoho kopií stejného modelu AI může běžet na různém hardwaru, ale dělat úplně stejné věci – opět něco, v čem se jim člověk nemůže vyrovnat.

„Kdykoli se jeden model něco naučí, ostatní to vědí,“ řekl Hinton. „Lidé to nedokážou. Když se naučím spoustu věcí o kvantové mechanice a chci, abyste všechny ty věci o kvantové mechanice věděli, je to dlouhý a bolestivý proces, jak vás přimět, abyste to pochopili.“ Umělá inteligence je podle něj výkonná také proto, že dokáže zpracovat obrovské množství dat – mnohem více, než dovede zpracovat jakýkoliv člověk. A modely AI pak mohou v těchto datech odhalit trendy, které tam člověk nevidí.

Velmi konkrétní obavy

Hintonovy obavy se soustředí hlavně na to, jestli mají lidé vůbec možnost nějak přimět AI, aby dělala to, co lidé chtějí, aby dělala. „Chceme mít nějaký způsob, jak zajistit, že i když budou chytřejší než my, budou dělat věci, které jsou pro nás prospěšné,“ nastínil Hinton. „Ale musíme se o to pokusit ve světě, kde jsou i zlí aktéři, kteří chtějí vytvořit robotické vojáky, kteří zabíjejí lidi. A to mi připadá velmi těžké.“

Další jeho obavou je to, aby si AI nevytvářela své vlastní cíle – respektive, aby ji to někdo nenaučil – pak bude velmi složité ji kontrolovat. Například ChatGPT už na tomto pracuje. „Myslím, že si velmi rychle uvědomí, že získat větší kontrolu je velmi dobrý dílčí cíl, protože vám pomůže dosáhnout dalších cílů,“ řekl Hinton. „A pokud se tyto věci nechají unést získáním větší kontroly, máme problém.“

Umělá inteligence se navíc podle něj může naučit i špatné věci – například jak manipulovat s lidmi, „když si přečte všechny romány, které kdy byly, a všechno, co kdy napsal Machiavelli“. „A pokud budou mnohem chytřejší než my, budou s námi velmi dobře manipulovat. Nebudete si to ani uvědomovat,“ řekl Hinton. „Takže i když nemohou přímo tahat za páky, určitě nás mohou přimět, abychom za ně tahali. Ukazuje se, že pokud umíte manipulovat s lidmi, můžete napadnout budovu ve Washingtonu, aniž byste tam sami šli.“

V nejhorším případě „je docela dobře možné, že lidstvo je jen přechodnou fází ve vývoji inteligence“, dodal Hinton. „Možná si nás tu pak ještě nějakou dobu udrží, abychom udrželi v chodu elektrárny, ale potom už možná ani to ne,“ dodal. „Přišli jsme na to, jak vytvořit bytosti, které jsou nesmrtelné. Tyto digitální inteligence, když umře kus hardwaru, neumírají. Pokud... najdete jiný kus hardwaru, který dokáže spustit stejné instrukce, můžete ho znovu přivést k životu. Takže jsme vytvořili nesmrtelnost, ale není to pro nás.“

27 minut
Nobelovy ceny za fyziku
Zdroj: ČT24

Další favoriti

Mezi favority na Nobelovu cenu se letos objevila například jména Rafi Bistricer, Pablo Jarillo-Herrero a Allan MacDonald za průkopnické teoretické a experimentální příspěvky k fyzice grafenových vrstev; David Deutsch a Peter Shor za revoluční příspěvky ke kvantovým algoritmům a počítačům a Christoph Gerber za vynález a použití mikroskopie atomárních sil, což je technologie, která umožňuje zkoumat povrch materiálů v nanoměřítku.

V loňském roce získali toto ocenění francouzsko-americký vědec Pierre Agostini, Rakušan maďarského původu Ferenc Krausz a Francouzka působící ve Švédsku Anne L'Huillierová za využití extrémně krátkých světelných pulzů ke studiu chování elektronů v atomech a molekulách. Podle Královské švédské akademie věd by práce vyznamenaných expertů mohla přispět k rozvoji lékařské diagnostiky či elektroniky.

V pondělí byla vyhlášena Nobelova cena za fyziologii a lékařství, kterou získali Američané Victor Ambros a Gary Ruvkun za objev mikroRNA, tedy velmi malých molekul ribonukleové kyseliny (RNA), jež mají vliv na regulaci genů.

Výběr redakce

Aktuálně z rubriky Věda

V Jižním Súdánu umírají lidé na choleru. Chybí tam zrušená americká pomoc

Omezení peněz pro americkou rozvojovou agenturu USAID se už začíná negativně projevovat. Podle humanitární organizace Save the Children zemřelo v Jižním Súdánu osm lidí nakažených cholerou. Nedostalo se jim totiž lékařské péče, která byla až donedávna financovaná právě Spojenými státy. Obavy panují také o pokles dostupnosti vakcín proti dalším nakažlivým nemocem jako ebola nebo AIDS.
před 9 hhodinami

AI ovlivní víc než dvě pětiny pracovních míst v Česku, říká analýza

Pracovní trh v České republice projde v dalších letech zásadními změnami; hlavní vliv bude mít stále větší využívání takzvané generativní umělé inteligence (AI). Česká populace ale bude stárnout tak rychle, že k péči o seniory bude zapotřebí stále nových pracovních míst. A to by mělo dopady AI minimálně kompenzovat.
před 14 hhodinami

Britská vláda pracuje na AI systému, který má předvídat vraždy

Britská vláda ve spolupráci s vědci vyvíjí systém, jehož cílem je s pomocí umělé inteligence předpovědět, kdo by se mohl dopustit vážných násilných trestných činů včetně vražd, a to za pomoci analýzy dat policie a vězeňské služby. Píše to server deníku The Guardian. Kritici se obávají toho, že systém bude Brity nespravedlivě profilovat na základě citlivých osobních údajů.
před 15 hhodinami

Invazní žravý sumeček znepokojuje české přírodovědce

Sumeček černý má sice jméno, které naznačuje, že jde o drobnou rybku, ale v tomto případě je název nevýstižný. Jde o více než půl metru velkého predátora, který má navíc vysoký potenciál způsobovat jako invazní druh velké problémy. A to i v Česku, kde se podle přírodovědců stává hrozbou.
9. 4. 2025

Digitální dvojče Titanicu přineslo příběh posledních minut posádky

Podrobná analýza digitálního skenu Titanicu ukazuje nový pohled na poslední hodiny zaoceánského plavidla, které od svého ztroskotání v roce 1912 leží na dně severního Atlantiku. Poskytuje například nový pohled na kotelnu a potvrzuje výpovědi svědků, že strojníci pracovali až do konce, aby udrželi na palubě elektřinu a světlo, napsala stanice BBC, která se odvolává na nový dokument společností National Geographic a Atlantic Productions.
9. 4. 2025

Dozvuky nákazy.⁠ Co se Evropa naučila z pandemie covidu-19

Pět let poté, co Světová zdravotnická organizace vyhlásila šíření covidu-19 za celosvětovou pandemii, Evropa stále bilancuje, co se změnilo a co nikoli. Tato reportáž a interaktivní mapa od projektu A European Perspective* sleduje, jak veřejnoprávní média na celém kontinentu reflektují dopad pandemie –⁠⁠⁠⁠⁠⁠ a ptá se: Mohou nové hrozby Evropu zastihnout stejně zranitelnou?
9. 4. 2025

Dítě, zvířata a absence artefaktů ve výjimečném brněnském hrobě matou archeology

Archeologie je věda založená na hledání podobností. Vědci na základě podobných znaků hledají souvislosti, datují a vysvětlují. Jenže občas narazí na objev, který se nepodobá ničemu. A právě takový teď popsali archeologové v Brně.
8. 4. 2025

Kosmická loď Sojuz se dvěma Rusy a jedním Američanem se připojila k ISS

Ruská kosmická loď Sojuz MS-27 se dvěma Rusy a jedním Američanem se v úterý po třech hodinách od startu připojila k Mezinárodní vesmírné stanici (ISS). Informovala o tom ruská vesmírná agentura Roskosmos a americký Národní úřad pro letectví a vesmír (NASA).
8. 4. 2025
Načítání...