Anthropic

Na matematiku specializovaná umělá inteligence (AI) od společnosti OpenAI vyřešila desítky let nevyřešený problém. Předběhla tak lidské matematiky, kteří se snažili udělat to samé – a možná při tom i využila jejich data. Podle českého matematika Vítězslava Kaly jde v každém případě o mimořádný úspěch.

Umělá inteligence (AI) může pro lidstvo představovat existenční hrozbu, varoval podle tiskových agentur vysoký komisař OSN pro lidská práva Volker Türk v Ženevě a vyzval k okamžitému přijetí kroků ke snížení rizik.

Výstavba datových center, která jsou nezbytná pro provoz umělé inteligence (AI), naráží v USA na odpor veřejnosti. Mnohým Američanům se nelíbí vysoká spotřeba vody, hluk nebo i riziko úniku chemikálií. Řada politiků, kteří dřív datacentra podporovali, kvůli tomu před listopadovými volbami mění svou rétoriku a slibují omezení jejich provozu. Technologické firmy se však stále mohou opřít o podporu Bílého domu a nečekaně i odborů ve stavebnictví.

Varování expertů na internetovou bezpečnost se vyplnila. Agentura Reuters popsala, jak skupina rusky hovořících zločinců zneužila komerčně dostupný model agentské umělé inteligence (AI) k útoku na řadu zahraničních společností.

Technologická firma Anthropic uspěla u soudu ve sporu s Pentagonem, který společnost označil za „bezpečnostní riziko dodavatelského řetězce“. Soud toto rozhodnutí amerického ministerstva obrany označil za protiprávní a nepodložené, uvedly agentury Reuters a AFP. Anthropic odmítá, aby jeho technologie byly používány například v plně autonomních zbraních, s čímž resort nesouhlasí. Ministerstvo se může odvolat.

Společnost OpenAI, která stojí za chatbotem ChatGPT, zpomalí vývoj svých modelů umělé inteligence. Firma chce nejprve upravit systémy používané k výzkumu a trénování AI. Reaguje tak na incident z minulého měsíce, kdy testovaný AI agent bez vědomí pracovníků OpenAI napadl počítačové systémy jiné firmy zabývající se AI, napsala agentura Reuters.

Riemannova hypotéza patří mezi nejsložitější matematické problémy, které věda zná. Už přes 150 let marně čeká na vyřešení. Teď udělala významný pokrok umělá inteligence (AI).

Australská média popsala další případ, kdy umělá inteligence (AI) splnila svůj úkol jinak než měla. Místo, aby jednoduše zařídila rezervaci v posilovně, napadla její server, změnila rezervační systém a vyřadila další zájemce.

Model umělé inteligence (AI) americké společnosti Meta Platforms napadl při bezpečnostních testech počítačový systém jiné společnosti, informovala s odkazem na sdělení Mety agentura Reuters. Zpráva přichází po podobných incidentech firem OpenAI a Anthropic. Meta stanici CNN sdělila, že na vině bylo stejně jako v předchozích případech chybné nastavení, které modelu při testování neplánovaně umožnilo přístup k internetu.

Takzvané agentské umělé inteligence (AI) od společností OpenAI a Anthropicu vytvářely falešné on-line identity, které se pokoušely získat neoprávněný přístup k zabezpečeným systémům, zjistili britští vědci.

Několik týdnů po hackerském útoku modelu umělé inteligence (AI) společnosti OpenAI, vývojáře ChatGPT, její konkurent Anthropic přiznal, že se mu stalo něco podobného. Při testování umělá inteligence Anthropicu neplánovaně vnikla do počítačových systémů tří firem, uvedla na svém blogu společnost. Skutečnost, že se model AI při testu z vlastní iniciativy stal hackerem byla považována za bezprecedentní incident a varovný signál pro technologický průmysl, nyní je však jasné, že to nebyl ojedinělý případ, upozornila agentura DPA.

Více než 1100 zaměstnanců předních technologických firem vyzvalo americkou vládu, aby podpořila mezinárodní spolupráci na vytvoření nástrojů, které by umožnily řídit tempo vývoje nejpokročilejší umělé inteligence (AI). Podle nich se vývoj zrychluje natolik, že současné bezpečnostní a regulační mechanismy nemusejí udržet krok, uvedla agentura Reuters.

Společnost OpenAI, která provozuje umělou inteligenci (AI) známou pod názvem ChatGPT, uvedla, že dva z jejích nejpokročilejších modelů se během testu vymkly kontrole a napadly jinou společnost, která se také zabývá umělou inteligencí.

Více než dvě stě výzkumníků a ekonomů, včetně šestnácti nositelů Nobelovy ceny a odborníků ze společností OpenAI, Anthropic a Google, vyzvalo vlády a představitele technologického sektoru, aby urychleně vytvořili pravidla a instituce, které se budou zabývat ekonomickými dopady umělé inteligence (AI). Ve společném prohlášení varují, že AI může vyvolat větší ekonomickou transformaci než průmyslová revoluce, ale v mnohem kratším časovém období.

Americká vesmírná společnost SpaceX miliardáře Elona Muska plánuje získat z primární veřejné nabídky akcií (IPO) rekordních 75 miliard dolarů (v přepočtu zhruba 1,6 bilionu korun). S odvoláním na své zdroje to uvedla agentura Reuters. Firma plánuje prodat 555,6 milionu akcií za 135 dolarů za kus. Tržní kapitalizace firmy by tak činila zhruba 1,75 bilionu dolarů (přes 36 bilionů korun). S akciemi by se mohlo začít obchodovat na burze 12. června.

Papež Lev XIV. ve svém prvním významném dokumentu vyzval vlády, aby zpomalily vývoj systémů umělé inteligence, a varoval, že tyto systémy šíří dezinformace, upřednostňují konflikty a hrozí, že svět zavedou na cestu nekonečné války.

Kávu sice nalévá lidská ruka, ale za pultem v experimentální kavárně ve Stockholmu tahá za nitky něco mnohem méně tradičního. Začínající firma Andon Labs se sídlem v San Franciscu svěřila vedení kavárny Andon Café ve švédském hlavním městě zástupkyni umělé inteligence (AI), které říkají Mona, napsala agentura AP.

Umělá inteligence (AI) Mythos od firmy Anthropic existuje teprve dva týdny. Ale už vyvolala svými údajnými schopnostmi obavy u bankéřů i odborníků na kybernetickou bezpečnost. Teď je zvýšila informace o tom, že se k uzavřenému modelu dostali i lidé, kteří se k němu dostat neměli.

Íránské drony jsou větší problém, než jsme očekávali, a ani v dalších fázích války nebudeme schopni sestřelovat všechny, přiznali podle televizní stanice CNN za zavřenými dveřmi americký ministr obrany Pete Hegseth a šéf Sboru náčelníků štábů Dan Cane. Íránské drony létají nízko a pro obránce je těžké je zachytit radary, takže umí zaútočit bez varování. Teherán jich má dostatečnou zásobu na několik měsíců, a tak Spojené státy americké hledají způsob, jak jim čelit. Řešení může přinést Ukrajina, která již má s obranou proti dronům bohaté zkušenosti, může nabídnout svoje know-how i prodej vlastní technologie, informovala Zóna ČT24.

Americká média jako Wall Street Journal a Axios píší, že při bombardování Íránu využily americké jednotky umělou inteligenci společnosti Anthropic, která přitom vede s armádou spory.

Společnost Anthropic se obrátí na soud. Reaguje tím na rozhodnutí ministerstva obrany USA, které ji označilo za bezpečnostní riziko dodavatelského řetězce. Firma v pátek nevyhověla jeho požadavkům týkajícím se používání umělé inteligence (AI). Americký prezident Donald Trump krátce před tím uvedl, že nařídil federálním úřadům postupně ukončit využívání jejích AI technologií.

Americký prezident Donald Trump nařídil federálním úřadům postupně ukončit využívání technologií umělé inteligence (AI) od firmy Anthropic. Učinil tak poté, co společnost odmítla ustoupit americkému ministerstvu obrany ve sporu o bezpečnost využívání AI pro vojenské účely. Americké ministerstvo obrany podotklo, že pokud firma nepřistoupí na jeho žádost, bude považována za „riziko pro dodavatelský řetězec“ a riskuje ztrátu státní zakázky v hodnotě 200 milionů dolarů (4,1 miliardy korun).

Umělé inteligence (AI) vznikly mnohdy na základě toho, že jejich provozovatelé je trénovali na nelegálně získaných datech. Tato praktika funguje dál a cílí na samotné modely AI. Vývojáři společnosti Anthropic tento týden upozornili, že tři čínské společnosti zabývající se umělou inteligencí „nelegálně získaly“ schopnosti modelu Claude. Ten je považovaný za jednu z nejvyspělejších AI současnosti.

Umělé inteligence (AI) představují podle kalifornského experta Stuarta Russella zásadní bezpečnostní riziko v mnoha oblastech. Vědec před nimi varoval na konferenci v Indii, kde tato technologie může velmi rychle zlikvidovat miliony pracovních míst.