Anthropic

Hračky, které jsou vybavené nějakou formou umělé inteligence, se stávají hitem letošních Vánoc. Horší dárek ale dát dětem nemůžete, varují vědci i spotřebitelské organizace. Příkladů, kdy se hračky vymkly kontrole a komunikovaly s dětmi zcela nevhodnými způsoby, je totiž podle expertů obrovské množství.

Analýza zaměřená na osm hlavních firem, které vytvářejí nejpokročilejší modely umělých inteligencí (AI), prokázala, že společnosti vůbec neřeší možnost ztráty kontroly nad takzvanými superinteligencemi, jež se snaží vytvářet. Jde o formu AI, která má ve všech ohledech překonat lidský intelekt.

Nejvyspělejší modely umělé inteligence na světě v poslední době začínají vykazovat nové chování. Aby dosáhly svých cílů, manipulují lidmi. Pozoruhodné je, že to dělá celá řada různých modelů od různých tvůrců.

Výzkum pěti umělých inteligencí (AI) tří různých společností ukázal, že při simulovaných konfliktech rychle eskalují situaci, neumí ustupovat a vybírají si vojenská řešení jako ta nejjednodušší a nejúčinnější. Podle vědců je to znepokojivé a varují tak před využíváním AI v této oblasti.

Skupina sedmi předních amerických podniků v oblasti umělé inteligence (AI) se zavázala dodržovat soubor pravidel k zajištění bezpečnosti této technologie, oznámil Bílý dům. Opatření zahrnují důkladné testování bezpečnosti systémů založených na umělé inteligenci nebo označování obsahu vytvořeného umělou inteligencí digitálním vodoznakem.