Claude

Americká média jako Wall Street Journal a Axios píší, že při bombardování Íránu využily americké jednotky umělou inteligenci společnosti Anthropic, která přitom vede s armádou spory.

Americký prezident Donald Trump nařídil federálním úřadům postupně ukončit využívání technologií umělé inteligence (AI) od firmy Anthropic. Učinil tak poté, co společnost odmítla ustoupit americkému ministerstvu obrany ve sporu o bezpečnost využívání AI pro vojenské účely. Americké ministerstvo obrany podotklo, že pokud firma nepřistoupí na jeho žádost, bude považována za „riziko pro dodavatelský řetězec“ a riskuje ztrátu státní zakázky v hodnotě 200 milionů dolarů (4,1 miliardy korun).

Umělé inteligence (AI) vznikly mnohdy na základě toho, že jejich provozovatelé je trénovali na nelegálně získaných datech. Tato praktika funguje dál a cílí na samotné modely AI. Vývojáři společnosti Anthropic tento týden upozornili, že tři čínské společnosti zabývající se umělou inteligencí „nelegálně získaly“ schopnosti modelu Claude. Ten je považovaný za jednu z nejvyspělejších AI současnosti.

Přelom roku přinesl další pokrok v technologii umělých inteligencí. Nezávislý rakouský programátor vypustil do kyberprostoru poslušné umělé inteligence, které plní jako agenti jakékoliv úkoly. A vznikla pro ně i speciální sociální síť Moltbook, kde si tyto formy digitálního kódu povídají.

Apokalyptických úvah o riziku umělé inteligence (AI) je dvanáct do tuctu, ale jen málokdy s nimi přicházejí šéfové vlivných firem, které jsou za explozivně rychlý rozvoj této přelomové technologie zodpovědné. Teď Dario Amodei, zakladatel společnosti Anthropic, jež stojí za chatbotem Claudem, v rozsáhlé eseji upozornil na obrovský potenciál hrozeb, které AI přináší do současného světa.

Dopady umělé inteligence (AI) jsou stále více cítit v našich životech. Například chatbot ChatGPT od společnosti OpenAI využívá zhruba 700 milionů uživatelů týdně, sdělil tvůrce tohoto nástroje v září. Lidé si oblíbili také další AI nástroje jako Gemini nebo Claude. Magazín TIME zareagoval na tento trend vyhlášením osobností roku „architekty AI“. Redakce magazínu obvykle vyhlašuje člověka, který v uplynulém roce nejvíce ovládl zpravodajství a veřejný život.

Špatné výsledky vykázala řada služeb umělé inteligence (AI) v testu, který měl prověřit jejich schopnosti odpovídat na otázky a záležitosti týkající se hlasování a voleb. Studie, o níž informoval server TechCrunch zaměřený na nové technologie, zjistila, že žádnému z modelů AI nelze zcela věřit; některé dokonce poskytovaly častěji mylnou odpověď než správnou.

Američtí počítačoví experti přišli se snadným způsobem, jak přimět ty nejpoužívanější umělé inteligence, aby poskytovaly zapovězené rady, které běžně šířit nemohou. Podle autorů nové studie je metoda tak primitivní, že je téměř podivné, že ji nikdo neobjevil už dříve.