Nobelovu cenu za fyziku dostali vědci za výzkum strojového učení

Laureáty Nobelovy ceny za fyziku se letos stali John J. Hopfield a Geoffrey E. Hinton za objevy, které vedly k fenoménu umělé inteligence.

Letošní Nobelovu cenu dostali dva vědci za objev „strojů, které se učí“. Komise ocenila jejich podíl na vynálezech, které umožňují strojové učení pomocí umělých neuronových sítí.

Umělá inteligence je téma, které v současné době mění svět podobně rychle, jako proměnil knihtisk středověkou Evropu. Když se o ní mluví, tak se téměř vždy hovoří o umělých neuronových sítích. Tato technologie byla původně inspirovaná strukturou lidského mozku.

V mozku jsou neurony, v neuronové síti jsou místo nich uzly, které mají různé hodnoty. Tyto uzly se navzájem ovlivňují prostřednictvím spojení, která se dají přirovnat k synapsím. Ty mohou být, podobně jako v lidském mozku, různě silné. Tato síť se trénuje, například vytvářením silnějších spojení mezi uzly. Letošní laureáti prováděli důležitou práci s umělými neuronovými sítěmi už v osmdesátých letech dvacátého století a stojí za současnou revolucí v oboru umělých inteligencí.

John Hopfield vynalezl síť, která využívá metodu ukládání a znovuvytváření vzorů. Ta využívá fyziku, která popisuje vlastnosti materiálu díky jeho atomovému spinu – což je vlastnost, která z každého atomu dělá malý magnet. Síť jako celek je popsána způsobem, který odpovídá energii ve spinovém systému zjištěné ve fyzice, a je trénována nalezením hodnot pro spojení mezi uzly tak, aby uložené obrazy měly nízkou energii. Když je Hopfieldově síti dodán zkreslený nebo neúplný obraz, prochází uzly a aktualizuje jejich hodnoty tak, aby energie sítě klesla. Síť tak postupně pracuje na nalezení uloženého obrazu, který se nejvíce podobá dodanému nedokonalému obrazu.

John Hopfield a Geoffrey Hinton
Zdroj: Nobelprize.org

Geoffrey Hinton využil tuto Hopfieldovu síť jako základ pro novou síť, která používá jinou metodu: Boltzmannův stroj. Ten se dokáže naučit rozpoznávat charakteristické prvky v daném typu dat. Hinton použil nástroje ze statistické fyziky, vědy o systémech sestavených z mnoha podobných komponent. Stroj se trénuje tak, že se mu zadávají příklady, které se s velkou pravděpodobností vyskytnou, když je stroj spuštěn. Boltzmannův stroj lze použít ke klasifikaci obrázků nebo k vytvoření nových příkladů typu vzoru, na kterém byl vycvičen. Hinton na tuto práci navázal a pomohl tak iniciovat současný prudký rozvoj strojového učení.

„Práce laureátů už přinesla zásadní užitek. Ve fyzice využíváme umělé neuronové sítě v široké škále oblastí, například při vývoji nových materiálů se specifickými vlastnostmi,“ komentovala výsledky předsedkyně Nobelova výboru pro fyziku Ellen Moonsová.

Tvůrce AI je jejím největším kritikem

Hinton je sice jedním ze zakladatelů umělých inteligencí, ale v současné době patří také k jejich největším kritikům. Až do dubna roku 2023 pracoval ve společnosti Google, kde měl roli viceprezidenta. Poté, co tam skončil, začal se více věnovat popularizaci toho, proč jsou podle něj chytré stroje větším rizikem než přínosem.

V rozhovoru pro New York Times uvedl, že generativní umělá inteligence může ohrozit lidstvo. „Biji na poplach a říkám, že se toho opravdu musíme obávat,“ řekl. Uvedl, že se obává schopnosti stále výkonnějších strojů překonávat lidi způsobem, který není v nejlepším zájmu lidstva, a pravděpodobné nemožnosti omezit vývoj umělé inteligence.

8 minut
Expert Tomáš Mikolov k Nobelově ceně za fyziku
Zdroj: ČT24

Byl také schopný veřejně přiznat, že se mýlil. Prohlásil, že si dlouho myslel, že počítačové modely nejsou tak výkonné jako lidský mozek. Teď už ale považuje umělou inteligenci za poměrně bezprostřední „existenční hrozbu“. A realita mu dává za pravdu: počítačové modely už opravdu v mnoha ohledech překonávají člověka, včetně toho, že dokážou věci, které člověk nedokáže.

Tyto modely umělé inteligence mají mnohem méně neuronových spojení než lidé, ale dokáží toho znát tisíckrát více než člověk, podotkl Hinton. Modely se navíc dovedou dále učit a snadno sdílet znalosti. Mnoho kopií stejného modelu AI může běžet na různém hardwaru, ale dělat úplně stejné věci – opět něco, v čem se jim člověk nemůže vyrovnat.

„Kdykoli se jeden model něco naučí, ostatní to vědí,“ řekl Hinton. „Lidé to nedokážou. Když se naučím spoustu věcí o kvantové mechanice a chci, abyste všechny ty věci o kvantové mechanice věděli, je to dlouhý a bolestivý proces, jak vás přimět, abyste to pochopili.“ Umělá inteligence je podle něj výkonná také proto, že dokáže zpracovat obrovské množství dat – mnohem více, než dovede zpracovat jakýkoliv člověk. A modely AI pak mohou v těchto datech odhalit trendy, které tam člověk nevidí.

Velmi konkrétní obavy

Hintonovy obavy se soustředí hlavně na to, jestli mají lidé vůbec možnost nějak přimět AI, aby dělala to, co lidé chtějí, aby dělala. „Chceme mít nějaký způsob, jak zajistit, že i když budou chytřejší než my, budou dělat věci, které jsou pro nás prospěšné,“ nastínil Hinton. „Ale musíme se o to pokusit ve světě, kde jsou i zlí aktéři, kteří chtějí vytvořit robotické vojáky, kteří zabíjejí lidi. A to mi připadá velmi těžké.“

Další jeho obavou je to, aby si AI nevytvářela své vlastní cíle – respektive, aby ji to někdo nenaučil – pak bude velmi složité ji kontrolovat. Například ChatGPT už na tomto pracuje. „Myslím, že si velmi rychle uvědomí, že získat větší kontrolu je velmi dobrý dílčí cíl, protože vám pomůže dosáhnout dalších cílů,“ řekl Hinton. „A pokud se tyto věci nechají unést získáním větší kontroly, máme problém.“

Umělá inteligence se navíc podle něj může naučit i špatné věci – například jak manipulovat s lidmi, „když si přečte všechny romány, které kdy byly, a všechno, co kdy napsal Machiavelli“. „A pokud budou mnohem chytřejší než my, budou s námi velmi dobře manipulovat. Nebudete si to ani uvědomovat,“ řekl Hinton. „Takže i když nemohou přímo tahat za páky, určitě nás mohou přimět, abychom za ně tahali. Ukazuje se, že pokud umíte manipulovat s lidmi, můžete napadnout budovu ve Washingtonu, aniž byste tam sami šli.“

V nejhorším případě „je docela dobře možné, že lidstvo je jen přechodnou fází ve vývoji inteligence“, dodal Hinton. „Možná si nás tu pak ještě nějakou dobu udrží, abychom udrželi v chodu elektrárny, ale potom už možná ani to ne,“ dodal. „Přišli jsme na to, jak vytvořit bytosti, které jsou nesmrtelné. Tyto digitální inteligence, když umře kus hardwaru, neumírají. Pokud... najdete jiný kus hardwaru, který dokáže spustit stejné instrukce, můžete ho znovu přivést k životu. Takže jsme vytvořili nesmrtelnost, ale není to pro nás.“

27 minut
Nobelovy ceny za fyziku
Zdroj: ČT24

Další favoriti

Mezi favority na Nobelovu cenu se letos objevila například jména Rafi Bistricer, Pablo Jarillo-Herrero a Allan MacDonald za průkopnické teoretické a experimentální příspěvky k fyzice grafenových vrstev; David Deutsch a Peter Shor za revoluční příspěvky ke kvantovým algoritmům a počítačům a Christoph Gerber za vynález a použití mikroskopie atomárních sil, což je technologie, která umožňuje zkoumat povrch materiálů v nanoměřítku.

V loňském roce získali toto ocenění francouzsko-americký vědec Pierre Agostini, Rakušan maďarského původu Ferenc Krausz a Francouzka působící ve Švédsku Anne L'Huillierová za využití extrémně krátkých světelných pulzů ke studiu chování elektronů v atomech a molekulách. Podle Královské švédské akademie věd by práce vyznamenaných expertů mohla přispět k rozvoji lékařské diagnostiky či elektroniky.

V pondělí byla vyhlášena Nobelova cena za fyziologii a lékařství, kterou získali Američané Victor Ambros a Gary Ruvkun za objev mikroRNA, tedy velmi malých molekul ribonukleové kyseliny (RNA), jež mají vliv na regulaci genů.

Výběr redakce

Aktuálně z rubriky Věda

Zatmění Slunce přitáhlo lidi do planetárií i hvězdáren, bylo ale za mraky

Lidé měli v planetáriích a hvězdárnách možnost pozorovat částečné zatmění Slunce, viditelnost ale omezovala oblačnost. Pořadatelé pro ně měli připravený i další program. Například do ostravského planetária v městské části Krásné Pole přišlo kolem 140 návštěvníků, do hvězdárny v Teplicích přes šedesát a v Karlových Varech asi dvě desítky.
před 7 hhodinami

Zimní čas je pro člověka přirozenější, ale přizpůsobí se, míní lékař

V noci na neděli začne v Česku platit letní čas. Hodiny se ve dvě ráno posunou o hodinu vpřed. Praktický lékař Cyril Mucha v pořadu 90’ ČT24 uvedl, že pro člověka je přirozenější zimní čas, ale běžný člověk se změně za několik dní přizpůsobí. Problémy se změnami času mají podle něj lidé, kteří mají například obecně problém se spánkem. Europoslanec Tomáš Zdechovský (KDU-ČSL) zmínil, že chce téma zrušení střídání letního a zimního času vznést na půdě europarlamentu v září.
před 9 hhodinami

Z rudého snu noční můra. Před sto lety zamířila do Kyrgyzie tisícovka Čechoslováků

Interhelpo bylo československé dělnické družstvo, které pomáhalo budovat socialismus v sovětském Kyrgyzstánu. Vzniklo v květnu 1923 a před sto lety, 29. března 1925, vyjel první transport jeho členů do tehdejší Kyrgyzie. Celkem tam dorazila asi tisícovka Čechů a Slováků a přestože se část z nich později stala oběťmi stalinských čistek, družstvo se významně podílelo na vybudování průmyslového potenciálu asijské republiky.
před 12 hhodinami

Před polednem nastane zatmění Slunce. Bude vidět i z Česka

V sobotu nastane částečné zatmění Slunce, které bude pozorovatelné i z Česka. Měsíc zakryje až 22 procent slunečního disku, přičemž nejvýraznější zatmění bude patrné na severozápadě Čech. Úkaz začne krátce před půl dvanáctou dopoledne a potrvá zhruba do jedné hodiny odpoledne. Půjde o jedno z nejlépe pozorovatelných zatmění v posledních letech, protože Slunce bude v době maxima vysoko nad obzorem, uvedl Pavel Suchan z České astronomické společnosti.
před 14 hhodinami

Nejstarší vanilku v Evropě našli vědci na Pražském hradě

Pražský hrad byl v době Rudolfa II. centrem evropské kultury, obchodu i umění. Dokládá to i nový objev přímo ve Vladislavském sále. Archeologové tam našli vůbec nejstarší důkaz o použití vanilky v Evropě.
včera v 19:00

Dva týdny extrémů. Světem se prohnala mimořádná vlna horka

Tropické noci v březnu, teploty vyšší oproti průměru až o sedm stupňů a pokoření stovek teplotních rekordů v Evropě i Asii. Uplynulá vlna veder byla mimořádná rozsahem i výkyvy teplot.
včera v 11:38

Zemětřesení v Asii mohlo připravit o život až sto tisíc lidí, ukazuje model

Zemětřesení, které zasáhlo v pátek jihovýchodní Asii, postihlo podle geologa a seismologa Aleše Špičáka nečekaně velkou oblast. V kombinaci s jeho silou to znamená velké materiální i lidské škody. Model Americké geologické služby zatím odhaduje očekávaná úmrtí na deset až sto tisíc. Pravděpodobnost, že počet obětí přesáhne sto tisíc, je v tuto chvíli dle modelu 22procentní.
včera v 11:06

Univerzity čelí špionážím ve výzkumu

S kybernetickými útoky, pokusy o krádež počítačů nebo špionáží ve výzkumu mají zkušenosti univerzity po celém světě, především ty technologické. Vysoké školy v Nizozemsku proto spolupracují s bezpečnostními experty, kteří jim radí, jak postupovat při zkoumání žádostí nebo například během cest do zahraničí. Zkušenost se špionáží mají i další evropské instituce.
včera v 07:40
Načítání...