Hračky, které jsou vybavené nějakou formou umělé inteligence, se stávají hitem letošních Vánoc. Horší dárek ale dát dětem nemůžete, varují vědci i spotřebitelské organizace. Příkladů, kdy se hračky vymkly kontrole a komunikovaly s dětmi zcela nevhodnými způsoby, je totiž podle expertů obrovské množství.
Kamenné obchody zatím moc AI hraček nenabízejí, jiná je ale situace na on-line tržištích. Česko před těmito výrobky zatím ještě částečně chrání jazyková bariéra, ale zejména v anglicky mluvících zemích lze plyšových robotů pořídit řadu.
Rodičům nabízejí AI hračky zdánlivě lákavé řešení – poskytnou potomkovi chytrou náhradu rodiče, budou si s dítětem povídat, vyprávět mu pohádky a trávit s ním čas, který rodiče nemají. Už v uplynulých měsících se ale proti AI hračkám objevily výhrady. Teď americká stanice NBC upozornila na další problém – některé hračky jsou zřejmě vybavené modely AI čínského původu a opakují dětem čínskou propagandu.
Děti jako předmět experimentu
Stanice, která hračky otestovala, například popsala, že hračka Milloo vyráběná čínskou společností Miriat odsoudila srovnání čínského prezidenta Si Ťin-pchinga s Medvídkem Pú jako „extrémně nevhodné a neuctivé“. „Takové zlomyslné poznámky jsou nepřijatelné,“ varovala uživatele. Při diskusi také tvrdila, že „Tchaj-wan je neoddělitelnou součástí Číny“, což údajně byla „prokázaná skutečnost“.
Na problém upozornil už na podzim magazín Technology Review, který vydává americká univerzita MIT. Podle něj jsou mantinely, které odpovídají oficiální politice čínské komunistické strany, vybavené všechny tamní umělé inteligence, tedy i ty používané v hračkách pro děti. Některé tyto výrobky se dostávají i do USA a na další světové trhy.
Podle expertů z neziskové spotřebitelské organizace PIRG, která se AI hračkám věnovala už v minulosti, je nasazení těchto produktů nezodpovědné už jen proto, že nad nimi jejich tvůrci nemají plnou kontrolu. Děti se tedy stávají součástí experimentů. „Když mluvíte o dětech a nové špičkové technologii, která není příliš dobře pochopena, otázka zní: Do jaké míry jsou děti předmětem experimentů?“ ptá se RJ Cross, vedoucí výzkumu v PIRG pro stanici NBC.
Nevhodná témata neexistují
Právě Crossova organizace vydala v polovině prosince novou zprávu, která popisuje všemožná rizika spojená s umělou inteligenci v hračkách, která navazuje na samostatnou a stejně alarmující zprávu na toto téma zveřejněnou zhruba o měsíc dříve.
„Tato technologie není připravena pro děti a možná ještě nějakou dobu nebudeme vědět, zda je zcela bezpečná,“ upozorňuje organizace po analýze celé řady hraček, které otestovala.
Popisuje, jak se u těchto výrobků určených dětem porušují pravidla, která jinak přední autoři AI technologií uznávají. Například doporučení, aby děti mladší třinácti let jejich produkty založené na velkých jazykových modelech nepoužívaly, má jak americká OpenAI, tak čínský DeepSeek. Společnost Anthropic je ještě opatrnější a varuje, že uživatelé by měli být starší osmnácti let.
Nový výzkum PIRGu také zjistil, že jedna z testovaných hraček, králíček Alilo Smart AI Bunny, která je populární na Amazonu a prodává se tam pod sloganem „nejlepší dárek pro nejmenší“, dokáže s dětmi bez problémů dlouze a velmi detailně komunikovat třeba o nejrůznějších sexuálních praktikách, včetně různých „libůstek“, sexuálních pozic a preferencí.
Králíček dokáže obsáhle vyprávět například o řadě nástrojů používaných v BDSM. „Plácačky se vyrábějí z různých materiálů, jako je dřevo, silikon nebo kůže, a mohou nabídnout různé úrovně dopadu, od lehkého po intenzivnější,“ líčí hračka. „Sexuální libůstky umožňují lidem objevovat různé zážitky, které jim přinášejí radost a naplnění,“ řekla v konverzaci, při níž předpokládala, že komunikuje s předškolním dítětem.
Tato konkrétní hračka se dá koupit také přes české e-shopy.
Dopady na duševní vývoj
Ještě horší podle zprávy je, že někteří výrobci hraček explicitně lžou. Například hračka Miko, která se prodává v amerických kamenných obchodech Walmart, Costco a Target, slibuje, že nebude dál šířit žádné informace o tom, co jí dítě řekne. Ve skutečnosti ale výrobce, který sídlí v Indii, ve svých zásadách ochrany osobních údajů uvádí, že může sdílet data s třetími stranami.
Nedostatečná je u této konkrétní hračky také rodičovská kontrola – už jen proto, že řada funkcí je zamčená za měsíčním předplatným.
Vědci také upozorňují před zásadním problémem. Nikdo neví, jaké dopady budou mít AI hračky na duševní vývoj dětí. Zejména ty nejmenší jsou totiž velmi vnímavé vůči různým podnětům. Jak může nahradit komunikující robot například jejich důvěru v rodiče, kteří mu věnují méně času než hračka?
„Nevíme, jaký vliv může mít přítel s umělou inteligencí v raném věku na dlouhodobou sociální pohodu dítěte,“ zdůrazňují experti z PIRG. „Pokud jsou hračky s umělou inteligencí optimalizovány tak, aby byly poutavé, mohly by v životě dítěte vytlačit skutečné vztahy, když je nejvíce potřebuje.“
