Anthropic

Přelom roku přinesl další pokrok v technologii umělých inteligencí. Nezávislý rakouský programátor vypustil do kyberprostoru poslušné umělé inteligence, které plní jako agenti jakékoliv úkoly. A vznikla pro ně i speciální sociální síť Moltbook, kde si tyto formy digitálního kódu povídají.

Apokalyptických úvah o riziku umělé inteligence (AI) je dvanáct do tuctu, ale jen málokdy s nimi přicházejí šéfové vlivných firem, které jsou za explozivně rychlý rozvoj této přelomové technologie zodpovědné. Teď Dario Amodei, zakladatel společnosti Anthropic, jež stojí za chatbotem Claudem, v rozsáhlé eseji upozornil na obrovský potenciál hrozeb, které AI přináší do současného světa.

Hračky, které jsou vybavené nějakou formou umělé inteligence, se stávají hitem letošních Vánoc. Horší dárek ale dát dětem nemůžete, varují vědci i spotřebitelské organizace. Příkladů, kdy se hračky vymkly kontrole a komunikovaly s dětmi zcela nevhodnými způsoby, je totiž podle expertů obrovské množství.

Analýza zaměřená na osm hlavních firem, které vytvářejí nejpokročilejší modely umělých inteligencí (AI), prokázala, že společnosti vůbec neřeší možnost ztráty kontroly nad takzvanými superinteligencemi, jež se snaží vytvářet. Jde o formu AI, která má ve všech ohledech překonat lidský intelekt.

Nejvyspělejší modely umělé inteligence na světě v poslední době začínají vykazovat nové chování. Aby dosáhly svých cílů, manipulují lidmi. Pozoruhodné je, že to dělá celá řada různých modelů od různých tvůrců.

Výzkum pěti umělých inteligencí (AI) tří různých společností ukázal, že při simulovaných konfliktech rychle eskalují situaci, neumí ustupovat a vybírají si vojenská řešení jako ta nejjednodušší a nejúčinnější. Podle vědců je to znepokojivé a varují tak před využíváním AI v této oblasti.

Skupina sedmi předních amerických podniků v oblasti umělé inteligence (AI) se zavázala dodržovat soubor pravidel k zajištění bezpečnosti této technologie, oznámil Bílý dům. Opatření zahrnují důkladné testování bezpečnosti systémů založených na umělé inteligenci nebo označování obsahu vytvořeného umělou inteligencí digitálním vodoznakem.