V „Leidenské deklaraci“ mezinárodní skupina vědců varuje, že umělá inteligence ohrožuje samotné základní hodnoty matematiky. Přišli teď s návrhem, jak v tomto oboru dál postupovat.
Co se stane, když matematický důkaz už nebude dílem člověka, ale algoritmu, kterému nikdo plně nerozumí? Kdo nese odpovědnost za chyby a komu připadne zásluha za správné výsledky? A jak můžeme poznat, jestli je důkaz vygenerovaný umělou inteligencí skutečně nový, nebo jde pouze o chytré přepracování existující práce bez řádného uvedení zdroje?
Tyto otázky nejsou už jen hypotetické, ale jedná se o reálná dilemata, s nimiž se potýkají matematici po celém světě. Proto šestnáct výzkumníků z patnácti univerzit zveřejnilo Leiden Declaration on Artificial Intelligence and Mathematics (Leidenskou deklaraci o umělé inteligenci a matematice), která je výzvou k ochraně základních hodnot matematiky v éře umělé inteligence. Podepsaly ji už další tisíce vědců z celého světa.
Deklarace vznikla na Leidenské univerzitě, což je nejstarší nizozemská vysoká škola, hlavními autory jsou Rodrigo Ochigame a David Holmes. „Na deklaraci jsme pracovali několik měsíců a sjednocovali různé názory ve snaze najít společné principy. Navzdory těmto rozdílům jsme dosáhli shody v hlavních bodech,“ říká Ochigame.
Co chce a co nechce
Leidenská deklarace nepožaduje zákaz používání umělé inteligence v matematice, ale místo toho vyzývá k vytvoření jasných norem pro její využití. Vědci už umělou inteligenci využívají jako pomoc k jazykovým korekturám nebo i šířeji při psaní odborných článků a vytváření důkazů. Podle autorů spočívá výzva v zajištění, aby tato technologie oboru spíše prospívala, než aby mu nenapravitelně uškodila.
Nespolehlivé výsledky
Matematika je založena na rigorózních důkazech, které umožňují jasné pochopení. Umělá inteligence však může generovat „důkazy“, které vypadají přesvědčivě, ale obsahují téměř nepostřehnutelné chyby.
Nedostatečné uvádění zdrojů a porušování autorských práv
Modely umělé inteligence často generují výsledky, aniž by citovaly lidskou práci, na níž staví. To vyvolává otázky ohledně uznání a duševního vlastnictví.
Závislost a nerovnost
Existuje riziko, že matematici budou brzy závislí na přístupu k nejnovější proprietární technologii AI a drahým výpočetním zdrojům, aby mohli dosahovat konkurenceschopných výsledků. To vede k nerovnosti mezi výzkumníky.
Přehnané nadšení z výsledků
Tiskové zprávy a blogy často uvádějí tvrzení o AI bez řádného vědeckého posouzení. To vede k přeceňování schopností AI a podceňování lidského přínosu.
Ztráta autonomie
Když směr výzkumu určují technická proveditelnost nebo komerční zájmy, matematika riskuje ztrátu autonomie při stanovování své výzkumné agendy.
Zdroj: Leidenská deklarace
Deklaraci oficiálně podporuje i Mezinárodní matematická unie (IMU). Její viceprezidentka Ulrike Tillmann píše: „Bereme rychlý rozvoj a dopad AI na naši disciplínu velmi vážně: otevírá nové a vzrušující příležitosti, ale také vyvolává otázky, které nelze nechat bez odpovědi. Podpořením této deklarace IMU potvrzuje, že budoucnost matematického výzkumu musí být vedena lidským úsudkem, spravedlivými a transparentními postupy a sdílenými hodnotami globální matematické komunity. Matematika je a vždy by měla zůstat hluboce lidským úsilím.“
Zodpovědnost musí zůstat lidská, říká český matematik
Deklaraci podepsal také český matematik Vítězslav Kala z Matematicko-fyzikální fakulty Univerzity Karlovy. ČT24 se ho zeptala na jeho důvody.
Podepsal jste Leidenskou deklaraci, pod níž jsou podpisy několika stovek předních světových matematiků. Z čeho máte největší obavy?
Předně, největší obavy mám z celospolečenských dopadů AI, jako je například hrozba vysoké nezaměstnanosti, využití AI v armádních systémech nebo zneužití k vývoji nových biologických zbraní. To je mnohem závažnější než jakákoli rizika kolem matematického výzkumu.
Naproti tomu je tato Leidenská deklarace primárně mířená mezi matematiky, coby výzva k zamyšlení se nad tím, jak chceme přistupovat k využití AI v matematice. Za hlavní riziko asi považuji upozornění, abychom nenechali matematiku převálcovat umělou inteligencí. Ne proto, že by nám neměla co přinést, ale proto, že aspoň současná AI zdaleka není bezchybná. Dokonce umí vyprodukovat velmi přesvědčivě vypadající matematické texty, které jsou ale zcela chybné, a to nějakým složitě odhalitelným způsobem.
Je proto nutné udržet tradiční formy publikování a recenzování matematických výsledků, včetně zodpovědnosti jejich lidských autorů za správnost. Jinak by se nám mohlo snadno stát, že AI vyhalucinuje zdánlivě úžasné teorie, které ale budou úplně špatně.
Souvisejícím problémem je někdy přehnané prezentování nových výsledků dosažených AI v médiích, kdy je pro veřejnost prakticky nemožné poznat, nakolik jde o zásadní pokrok, nebo jen nafouknutou bublinu.
Jaký vliv na „vaši“ část matematiky mají dnes umělé inteligence?
Celkem velký, byť ještě ne zcela zásadní. Zatím nejvýznamnější bylo, když OpenAI před pár týdny vyřešila jeden z důležitých problémů Paula Erdöse, legendárního maďarského matematika. Tento problém o vzdálenostech mezi různými body v rovině má k mému výzkumu v teorii čísel dost blízko i tím, jaké nástroje z abstraktní matematiky AI k jeho řešení použila.
Nepochybuji ale o tom, že se různé AI firmy zároveň snažily o vyřešení stovek nebo tisíců podobně významných problémů, a to nejspíš neúspěšně. Zatím je to tedy spíš pomyslné hledání jehly v kupce sena, ale je samozřejmě velkou otázkou, nakolik se AI v tomto směru bude dále zlepšovat.
Mohou AI přinést Vašemu oboru i něco pozitivního?
To rozhodně. Já sám AI používám ke společnému řešení matematických problémů. Ještě se mi s ní nepovedlo dokázat nic opravdu zásadního, ale s menšími výsledky, pozorováními nebo shrnutími toho, co je už známé v literatuře, mi občas pomůže. Při zodpovědném použití tedy AI může přinést hodně dobrého pro vědecký pokrok celkově, nejen v matematice.
Deklarace není jen kritikou současného stavu, nabízí také řešení. Která považujete za nejdůležitější?
Už jsem zmiňoval důraz na lidské autorství a kontrolu správnosti získaných výsledků. S tím souvisí také adekvátní prezentování matematických výsledků, včetně důrazu na důkladné uvádění použitých zdrojů, ať už z dřívější odborné literatury, nebo teď nově deklarování, které nápady vzešly od AI.
Celkově bych ale řekl, že asi nikdo nezná dobrá řešení, jak přistupovat k AI. Je to extrémně složitá situace, kde dopady na vědu a lidstvo jsou zásadní už teď a velmi pravděpodobně ještě výrazně porostou.
Vše se tak rychle mění, že i kdyby někdo přišel s dobrým, promyšleným řešením, jak reagovat na současný stav schopností AI, tak toto řešení už třeba jen za pár měsíců může být zcela irelevantní kvůli rychlému pokroku.
