Množství citlivých dat čínského start-upu DeepSeek provozujícího jazykový model s prvky umělé inteligence (AI) bylo bez zabezpečení dostupných na internetu. Na svém webu na to ve středu upozornila izraelsko-americká společnost zaměřená na kybernetickou bezpečnost Wiz Research. Bez zabezpečení podle ní zůstaly digitální softwarové klíče a protokoly chatu, které podle všeho zachycovaly prompty odesílané uživateli. DeepSeek na dotaz agentury Reuters uvedl, že po upozornění data neprodleně zabezpečil.
„Wiz Research identifikoval veřejně přístupnou databázi ClickHouse patřící DeepSeeku, která umožňuje plnou kontrolu nad databázovými operacemi, včetně možnosti přístupu k interním datům,“ uvedla kyberbezpečnostní společnost.
Zjištění podle firmy zahrnovalo více než milion řádků protokolových toků, které obsahují historii chatu, tajné klíče a řadu citlivých informací. „Tým Wiz Research okamžitě a zodpovědně problém oznámil společnosti DeepSeek, která problém okamžitě vyřešila,“ dodala firma.
„Vypůjčuje“ si od konkurence?
Není to jediná výhrada, která se vůči této AI objevila. Podle listu Financial Times americká společnost OpenAI stojící za populárním jazykovým modelem s prvky umělé inteligence (AI) ChatGPT podezřívá čínský start-up DeepSeek, že pro trénink vlastního modelu AI neoprávněně použil její výstupy. Společnost věc odmítla oficiálně komentovat.
Podle zdroje OpenAI identifikovala použití techniky zvané „destilace“. Ta umožňuje menším modelům dosáhnout podobných výsledků jako větší modely za výrazně nižších nákladů. Tato praxe je v odvětví běžná pro interní účely, avšak OpenAI podle FT považuje její použití DeepSeekem pro vytvoření vlastního veřejného modelu za porušení podmínek užívání služby. Ty explicitně zakazují vývoj konkurenčních modelů na základě jejich výstupů.
Microsoft, který s OpenAI spolupracuje a patří mezi její největší investory, už loni prošetřoval účty spojené s DeepSeekem a zablokoval jim přístup k vývojářskému rozhraní OpenAI.
V oficiálním prohlášení se OpenAI vyjádřila v obecné rovině, aniž by jmenovala DeepSeek, že podniká kroky „k ochraně našeho duševního vlastnictví, včetně pečlivého procesu rozhodování o tom, které schopnosti budou zahrnuty do zveřejněných modelů“ s tím, že chce spolupracovat s americkou vládou na ochraně modelů AI před pokusy konkurence zmocnit se americké technologie.
Také pověřenec administrativy amerického prezidenta Donalda Trumpa pro AI a kryptoměny na televizní stanici Fox News hovořil o možné krádeži duševního vlastnictví. „Existují podstatné důkazy, že DeepSeek extrahoval znalosti z modelů OpenAI pomocí destilace, a nemyslím si, že by z toho OpenAI měla radost,“ dodal.
Podle některých expertů jde nicméně o běžnou praxi mezi akademiky i start-upy. „To znamená, že zdarma dostanete krok vyžadující lidskou zpětnou vazbu. Nepřekvapuje mě, že DeepSeek údajně udělal totéž. Pokud ano, zastavit tuto praxi by mohlo být obtížné,“ řekl FT doktorand v oboru AI na Kalifornské univerzitě v Berkeley Ritwik Gupta.
Cenzura na každém kroku
Problematické je i nastavení této čínské AI. Řada zahraničních serverů informovala o tom, že program filtruje odpovědi, kterými reaguje na množství otázek týkajících se zejména čínské politiky a historie. Česká televize se pokusila tato tvrzení ověřit a umělá inteligence opravdu odmítá odpovídat na cokoliv týkajícího se například Tchaj-wanu nebo protestů na náměstí Nebeského klidu.
Současně nechce psát nic negativního o vrcholných čínských politicích, přičemž o zástupcích jiných států informace klidně sdílí.
Proč je čínská AI tak důležitá
Chatbot R1 společnosti DeepSeek byl podle médií vyvinut za mnohem nižších nákladů než konkurenční americké systémy a jeho provoz je výrazně méně energeticky náročný. To vyvolává pochybnosti ohledně budoucnosti dominantního postavení Spojených států v oblasti AI a také ohledně rozsáhlých investic, které americké podniky v souvislosti s AI plánují, napsal server CNBC.
Americká média spuštění modelu přirovnávají k vypuštění družice Sputnik někdejším Sovětským svazem, které znamenalo šok pro Západ. Investoři v prvotní reakci začali prodávat technologické akcie v čele s výrobcem polovodičů pro umělou inteligenci Nvidia. Zároveň se ale DeepSeek v posledních dnech potýká s technickými problémy, které přisuzuje kybernetickému útoku.
