Dario Amodei

Ředitelé společností Anthropic, OpenAI a dalších firem zabývajících se umělou inteligencí (AI) v soukromí zvažují možné scénáře veřejné a politické vzpoury, k níž by mohlo dojít po katastrofické události spojené s AI – taková událost se někdy označuje jako AIpokalypsa. Očekávají rozsáhlou událost, pravděpodobně kybernetický útok znemožňující přístup k finančním službám, k připojení k internetu, nebo dokonce k dodávkám elektřiny a vody, napsal web Axios.

Lidé, kteří používají modely umělé inteligence (AI) společnosti Anthropic, by je podle ní už nadále neměli urážet a úmyslně je stresovat. Nová pravidla říkají, že uživatelé by mohli kvůli porušování těchto pravidel přijít o přístup ke službám firmy.

Zatímco většina velkých amerických firem, které se věnují umělým inteligencím (AI), začala volat po zpomalení kvůli rostoucím obavám z budoucího vývoje, americký prezident Donald Trump se více obává Číny, která se snaží dosáhnout pokroku v tomto oboru bez ohledu na možné následky.

Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, informovala v sobotu v podvečer SELČ agentura Reuters.

Více než 1100 zaměstnanců předních technologických firem vyzvalo americkou vládu, aby podpořila mezinárodní spolupráci na vytvoření nástrojů, které by umožnily řídit tempo vývoje nejpokročilejší umělé inteligence (AI). Podle nich se vývoj zrychluje natolik, že současné bezpečnostní a regulační mechanismy nemusejí udržet krok, uvedla agentura Reuters.

Americké ministerstvo obrany naplnilo svou hrozbu a oficiálně označilo technologickou společnost Anthropic za riziko pro dodavatelský řetězec. Rozhodnutí má okamžitou platnost a zakazuje vládním dodavatelům používat technologie Anthropicu při plnění zakázek pro armádu USA, napsala v pátek agentura Reuters.

Společnost Anthropic se obrátí na soud. Reaguje tím na rozhodnutí ministerstva obrany USA, které ji označilo za bezpečnostní riziko dodavatelského řetězce. Firma v pátek nevyhověla jeho požadavkům týkajícím se používání umělé inteligence (AI). Americký prezident Donald Trump krátce před tím uvedl, že nařídil federálním úřadům postupně ukončit využívání jejích AI technologií.

Americký prezident Donald Trump nařídil federálním úřadům postupně ukončit využívání technologií umělé inteligence (AI) od firmy Anthropic. Učinil tak poté, co společnost odmítla ustoupit americkému ministerstvu obrany ve sporu o bezpečnost využívání AI pro vojenské účely. Americké ministerstvo obrany podotklo, že pokud firma nepřistoupí na jeho žádost, bude považována za „riziko pro dodavatelský řetězec“ a riskuje ztrátu státní zakázky v hodnotě 200 milionů dolarů (4,1 miliardy korun).