Citlivá data čínského DeepSeeku byla bez zabezpečení na internetu

Množství citlivých dat čínského start-upu DeepSeek provozujícího jazykový model s prvky umělé inteligence (AI) bylo bez zabezpečení dostupných na internetu. Na svém webu na to ve středu upozornila izraelsko-americká společnost zaměřená na kybernetickou bezpečnost Wiz Research. Bez zabezpečení podle ní zůstaly digitální softwarové klíče a protokoly chatu, které podle všeho zachycovaly prompty odesílané uživateli. DeepSeek na dotaz agentury Reuters uvedl, že po upozornění data neprodleně zabezpečil.

„Wiz Research identifikoval veřejně přístupnou databázi ClickHouse patřící DeepSeeku, která umožňuje plnou kontrolu nad databázovými operacemi, včetně možnosti přístupu k interním datům,“ uvedla kyberbezpečnostní společnost.

Zjištění podle firmy zahrnovalo více než milion řádků protokolových toků, které obsahují historii chatu, tajné klíče a řadu citlivých informací. „Tým Wiz Research okamžitě a zodpovědně problém oznámil společnosti DeepSeek, která problém okamžitě vyřešila,“ dodala firma.

„Vypůjčuje“ si od konkurence?

Není to jediná výhrada, která se vůči této AI objevila. Podle listu Financial Times americká společnost OpenAI stojící za populárním jazykovým modelem s prvky umělé inteligence (AI) ChatGPT podezřívá čínský start-up DeepSeek, že pro trénink vlastního modelu AI neoprávněně použil její výstupy. Společnost věc odmítla oficiálně komentovat.

Podle zdroje OpenAI identifikovala použití techniky zvané „destilace“. Ta umožňuje menším modelům dosáhnout podobných výsledků jako větší modely za výrazně nižších nákladů. Tato praxe je v odvětví běžná pro interní účely, avšak OpenAI podle FT považuje její použití DeepSeekem pro vytvoření vlastního veřejného modelu za porušení podmínek užívání služby. Ty explicitně zakazují vývoj konkurenčních modelů na základě jejich výstupů.

Microsoft, který s OpenAI spolupracuje a patří mezi její největší investory, už loni prošetřoval účty spojené s DeepSeekem a zablokoval jim přístup k vývojářskému rozhraní OpenAI.

V oficiálním prohlášení se OpenAI vyjádřila v obecné rovině, aniž by jmenovala DeepSeek, že podniká kroky „k ochraně našeho duševního vlastnictví, včetně pečlivého procesu rozhodování o tom, které schopnosti budou zahrnuty do zveřejněných modelů“ s tím, že chce spolupracovat s americkou vládou na ochraně modelů AI před pokusy konkurence zmocnit se americké technologie.

Také pověřenec administrativy amerického prezidenta Donalda Trumpa pro AI a kryptoměny na televizní stanici Fox News hovořil o možné krádeži duševního vlastnictví. „Existují podstatné důkazy, že DeepSeek extrahoval znalosti z modelů OpenAI pomocí destilace, a nemyslím si, že by z toho OpenAI měla radost,“ dodal.

Podle některých expertů jde nicméně o běžnou praxi mezi akademiky i start-upy. „To znamená, že zdarma dostanete krok vyžadující lidskou zpětnou vazbu. Nepřekvapuje mě, že DeepSeek údajně udělal totéž. Pokud ano, zastavit tuto praxi by mohlo být obtížné,“ řekl FT doktorand v oboru AI na Kalifornské univerzitě v Berkeley Ritwik Gupta.

Cenzura na každém kroku

Problematické je i nastavení této čínské AI. Řada zahraničních serverů informovala o tom, že program filtruje odpovědi, kterými reaguje na množství otázek týkajících se zejména čínské politiky a historie. Česká televize se pokusila tato tvrzení ověřit a umělá inteligence opravdu odmítá odpovídat na cokoliv týkajícího se například Tchaj-wanu nebo protestů na náměstí Nebeského klidu.

Současně nechce psát nic negativního o vrcholných čínských politicích, přičemž o zástupcích jiných států informace klidně sdílí.

Proč je čínská AI tak důležitá

Chatbot R1 společnosti DeepSeek byl podle médií vyvinut za mnohem nižších nákladů než konkurenční americké systémy a jeho provoz je výrazně méně energeticky náročný. To vyvolává pochybnosti ohledně budoucnosti dominantního postavení Spojených států v oblasti AI a také ohledně rozsáhlých investic, které americké podniky v souvislosti s AI plánují, napsal server CNBC.

Americká média spuštění modelu přirovnávají k vypuštění družice Sputnik někdejším Sovětským svazem, které znamenalo šok pro Západ. Investoři v prvotní reakci začali prodávat technologické akcie v čele s výrobcem polovodičů pro umělou inteligenci Nvidia. Zároveň se ale DeepSeek v posledních dnech potýká s technickými problémy, které přisuzuje kybernetickému útoku.

Výběr redakce

Aktuálně z rubriky Věda

Experti radí, jak mluvit o AI s dětmi

Umělé inteligence jsou poměrně novým fenoménem na to, aby se s nimi někteří lidé již plně sžili. Proto může být pro rodiče složité najít způsob, jak o AI komunikovat se svými dětmi. Odborný web MIT Technology Review proto oslovil několik expertů, aby se podělili o svá doporučení.
před 11 hhodinami

Jako požár na nebi. Češi mohli zpozorovat zánik části rakety Falcon 9

Ve středu nad ránem se lidem ve střední Evropě, včetně České republiky, nabídla nevšední podívaná. Na severním obzoru mohli sledovat zánik lidmi vyrobeného objektu. Podle starších informací mělo jít o jeden ze satelitů systému Starlink, na základě nových dat ale vědci tvrdí, že se jednalo o nosný stupeň rakety Falcon 9 společnosti Space X.
včeraAktualizovánopřed 14 hhodinami

Archeologové našli první hrobku faraona po sto letech

Archeologové v Egyptě objevili hrobku faraona Thutmose II. Jedná se o zcela výjimečný objev. Jde totiž o první nález královské hrobky za více než sto let. Naposledy se to stalo roku 1922, když Howard Carter našel slavnou hrobku faraona Tutanchamona.
před 15 hhodinami

Hrozba, že planetka 2024 YR4 narazí do Země, opět stoupla

Podle údajů NASA zveřejněných v úterý má asteroid, který by mohl srovnat se zemí celé město, už 3,1procentní pravděpodobnost, že v roce 2032 zasáhne Zemi. To z něj dělá nejnebezpečnější planetku, jakou kdy moderní předpovědi zaznamenaly. Odborníci však uklidňují, že v tuto chvíli se nejedná o krizi.
před 17 hhodinami

Ženy jsou štědřejší než muži, ukázala hra na diktátora

Obecně sdílená společenská představa je, že ženy jsou štědřejší než muži. Ale když se španělští psychologové a ekonomové pokoušeli najít pro toto tvrzení tvrdé důkazy založené na datech a studiích, nenašli je. A tak se rozhodli udělat vlastní výzkum, a to pomocí experimentu.
před 22 hhodinami

Smrt může být evolučně altruistická, naznačuje výzkum

Darwinova teorie přírodního výběru vysvětluje, proč se u organismů vyvíjejí vlastnosti, které jim pomáhají přežít a rozmnožovat se. Smrt se pak může zdát jako neúspěch v této snaze. Nový výzkum ale naznačuje, že je to spíš proces, který se evolučně zformoval tak, aby organismům pomáhal.
18. 2. 2025

Sucho ohrožuje půlku zemědělské půdy ve střední Evropě. Problém hrozí Slovensku

Středoevropské zemědělství ohrožují budoucí změny teplot. Dospěli k tomu vědci, kteří na základě dat získaných i z českých dubů vytvořili přehled klimatu v tomto regionu a podívali se na to, jak vypadá možný vývoj do budoucna.
18. 2. 2025

Čeští vědci chtějí s pomocí AI objevovat nové molekuly

Čeští vědci spolupracují s odborníky ze čtrnácti výzkumných institucí po celém světě, aby využili umělou inteligenci (AI) na objev a vývoj nových přírodních molekul, které by bylo možné využívat například ve vývoji léčiv, kosmickém výzkumu nebo likvidaci znečištění v přírodě.
18. 2. 2025
Načítání...