Zákonné regulace umělé inteligence (AI) jsou rozhodně potřeba, ale neměly by vznikat ve spěchu, řekl podle agentury Reuters vůdce většiny v americkém Senátu, demokrat Chuck Schumer, po setkání se šéfy největších amerických technologických firem. Mark Zuckerberg, Elon Musk, Bill Gates a devatenáct dalších podnikatelů strávilo s americkými senátory několik hodin. Musk jednání označil za „historické“ a za „službu lidstvu“, někteří politici naopak kritizovali fakt, že se konalo za zavřenými dveřmi, takže veřejnost neví, na čem se politici a podnikatelé domluvili.
Musk, Zuckerberg, Gates a další. Američtí senátoři řešili umělou inteligenci s technologickými lídry
Horizont ČT24: Regulace umělé inteligence (zdroj: ČT24)
Technologičtí lídři dorazili ve středu krátce před desátou hodinou dopoledne. „Tohle je důležitý moment a v mnoha ohledech bezprecedentní. Opravdu si myslím, že potřebujeme, aby se (ve věci umělé inteligence) vláda chopila vedení,“ řekl novinářům při příchodu do Kapitolu Sam Altman, ředitel Open AI, mateřské společnosti ChatGPT.
Ředitel společnosti Meta Zuckerberg s novináři po několikahodinovém jednání s více než šedesáti senátory nemluvil, na otázky naopak odpovídal Musk, píše web stanice NBC News. Musk v rozhovoru zopakoval své obavy, že AI by jednou mohla „zničit civilizaci“ a že lidé by podle něj měli být „proaktivní, spíše než reaktivní“ v přístupu k umělé inteligenci.
Mark Zuckerberg v Senátu
Jednou z obav amerických politiků je podle agentury Reuters potenciální širší využití AI pro ovlivňování voleb, útoků na kritickou infrastrukturu a vyrábění falešných videí, takzvaných deepfakes, která jsou jen stěží rozeznatelná od reality. Demokratický senátor za New Jersey Cory Boooker řekl, že „všichni účastníci jednání se shodli na tom, že vláda má mít roli regulátora“, ale že sestavení konkrétních opatření bude výzvou.
Mezi dalšími účastníky na straně hostů byli ředitelé a ředitelky firem Nvidia, Microsoft nebo IBM. Americký Kongres v tomto týdnu pořádá další tři veřejná slyšení na téma umělé inteligence.
Varování před „zlými lidmi“
Jedna z debat se soustředila na takzvané open-source systémy umělé inteligence. Jedná se o takové AI, které jsou k dispozici veřejnosti ke stažení i úpravám. Umožňují firmám, vědeckým ústavům i jednotlivcům využívat technologie AI podobné velkým a drahým modelům, jako je ChatGPT, aniž by museli utrácet miliony dolarů za jejich trénink.
Tristan Harris, vedoucí neziskové organizace Center for Humane Technology, ale právě před nimi varoval. „Zlí lidé“ mohou podle něj takové systémy zneužít, a to včetně modelu Llama 2, který nedávno uvolnila společnost Meta Platforms, vedená Markem Zuckerbergem. Harris uvedl, že jeho nezisková organizace byla schopna model přimět, aby lidem poskytl návod, jak vytvořit nebezpečné biologické sloučeniny.
Podle Zuckerberga se podobné návody ale dají už nyní na internetu najít. Dodal, že modely s otevřeným zdrojovým kódem opravdu mohou představovat nebezpečí, ale že Meta se snaží tuto technologii vytvořit co nejbezpečněji.
Kritika setkání
Jednání s technologickými giganty si u mnohých politiků vysloužilo kritiku. „Nevím, proč bychom měli zvát zástupce těch největších monopolů na světě do Kongresu a radit jim, jak mají vydělat víc peněz,“ řekl republikánský senátor Josh Hawley.
Demokratická senátorka Elizabeth Warrenová uvedla, že Kongres „umožňuje technologickým miliardářům lobbovat u senátorů za zavřenými dveřmi o jedné z nejcitlivějších záležitostí americké ekonomiky“.
V úterý, při jednom z veřejných jednání, varovali ředitel Microsoftu Brad Smith a přední vývojář Nvidia William Dally senátory, aby zakomponovali „záchrannou brzdu“ do systémů umělé inteligence, které pomáhají ovládat kritickou infrastrukturu, jako jsou elektrické sítě nebo rozvody vody.
„AI ovlivní každý aspekt našeho života. Má ohromný potenciál dělat dobré věci – léčit rakovinu, zpřístupnit potraviny, zlepšit národní bezpečnost, pomoci při vzdělávání. Ale stejně tak má potenciál dělat špatné věci,“ poznamenal šéf senátní většiny Schumer v úterý, den před setkáním s řediteli velkých firem.