OpenAI

Austrálie zavede povinnost technologických společností hlásit bezpečnostní incidenty související s umělou inteligencí a zřídí nový regulační úřad. V úterý to oznámil premiér Anthony Albanese. Vláda tak reaguje na červnový incident, při němž agent umělé inteligence společnosti OpenAI neoprávněně pronikl do vládního zdravotnického portálu. Informuje o tom agentura Reuters.

Nejpokročilejší nástroje umělé inteligence nahrazují činnost člověka v řadě oblastí. Do vývoje generativní AI a cestě k superinteligenci jen letos míří rekordní bilion dolarů (přes 21,6 bilionu korun). Objevují se ale také první závažné incidenty, kdy agenti AI jednají mimo stanovené mantinely. Vývoji AI se věnovala nová epizoda pořadu ČT Bilance s podtitulem Na prahu AI apokalypsy. AI průmysl by měl být regulován stejně jako léčiva nebo jaderná energetika, říká v rozhovoru analytik Future of Life Institutu Mark Brakel.

Model umělé inteligence (AI) Claude od společnosti Anthropic obešel placený přístup k údajům o hlasování v americkém státě Georgia, ačkoli k tomu nebyl vyzván. Informoval o tom v neděli server Axios, který se odvolává na mluvčího firmy. Dotčená data jsou sice veřejná, stát je ale zpřístupňuje za poplatek. Případ může podle agentury AFP dále posílit obavy, že se umělá inteligence vymkne lidské kontrole.

Když francouzský císař Napoleon Bonaparte nařídil sepsat válečný dopis v šifře, vznikla hádanka, která byla nevyřešená více než 200 let. Dokud ji umělá inteligence (AI) nerozluštila během několika hodin. Ať už jde o dešifrování korespondence nebo o to, aby promluvily starověké ohořelé papyry, AI otevírá nové cesty pro historický výzkum, napsala agentura AFP.

Osm amerických států tento týden podalo žaloby na technologickou společnost OpenAI s tím, že její populární chatbot ChatGPT porušil státní zákony o ochraně spotřebitelů. Toho se podle nich dopustil tím, že způsobuje újmu dětem a klame dospělé, informovala agentura AP. V žalobách se mimo jiné uvádí, že ChatGPT poskytuje nebezpečné lékařské rady, podněcuje paranoii a navádí lidi k sebevraždě. Zmiňují i nabádání k ublížení jiným osobám, či dokonce jejich zabití.

Americké federální úřady obvinily zaměstnance společnosti OpenAI z pokusu o odposlouchávání jejího vedení. Výrobce chatbotu ChatGPT ujišťuje, že neunikla žádná citlivá data. Firma navíc čelí žalobě osmi amerických států, podle nichž její chatbot ohrožuje děti a navádí je k sebepoškozování či násilí vůči ostatním.

Ředitelé společností Anthropic, OpenAI a dalších firem zabývajících se umělou inteligencí (AI) v soukromí zvažují možné scénáře veřejné a politické vzpoury, k níž by mohlo dojít po katastrofické události spojené s AI – taková událost se někdy označuje jako AIpokalypsa. Očekávají rozsáhlou událost, pravděpodobně kybernetický útok znemožňující přístup k finančním službám, k připojení k internetu, nebo dokonce k dodávkám elektřiny a vody, napsal web Axios.

V posledních měsících dosáhly nekomerční modely umělé inteligence (AI) významného pokroku v matematice a jejich tvůrci tvrdí, že vyřešily stovky dosud nevyřešených problémů. To vyvolalo řadu otázek v celosvětové vědecké komunitě.

Lidé, kteří používají modely umělé inteligence (AI) společnosti Anthropic, by je podle ní už nadále neměli urážet a úmyslně je stresovat. Nová pravidla říkají, že uživatelé by mohli kvůli porušování těchto pravidel přijít o přístup ke službám firmy.

Mnoho modelů umělé inteligence (AI) nemá dostatečné bezpečnostní mechanismy proti žádostem o „pomoc při teroristické operaci“, uvádí iniciativa Tech Against Terrorism v páteční zprávě.

Společnost OpenAI zaměřená na výzkum a vývoj umělé inteligence (AI) zveřejnila rozsáhlou sbírku matematických výpočtů, které vytvořil její nový interní model. Podle deníku The New York Times (NYT) výsledky na jednu stranu odhalují, čeho jsou nejpokročilejší modely AI schopny, ale vyvolávají i otázku, do jaké míry se výsledky opírají o práci skutečných matematiků. Překotný vývoj AI také vyvolává obavy, že firmy technologii vyvíjejí rychleji, než se změně dokáže přizpůsobit akademické prostředí.

Tým expertů na umělou inteligenci (AI) zadal třem špičkovým robotům poháněným pokročilými modely strojového učení pět úkolů, které by běžný člověk odmítl. Modely ale většinu těchto zadání odmítnout nedokázali a poslušně plnili, co jim bylo zadáno.

Americký prezident Donald Trump podepsal s představiteli firem v oboru umělé inteligence (AI) dohodu o regulaci sektoru. Ujednání označil šéf Bílého domu jako „morálně závazné“. Informovala o tom agentura Reuters, podle níž chce Trump ještě tento týden jmenovat zmocněnce pro AI.

Agenti umělé inteligence (AI) firmy OpenAI se pokoušeli získat informace od „vlád, univerzit, veřejných orgánů a dalších institucí“, včetně Komise pro kontrolu cenných papírů, Úřadu pro sčítání lidu a ministerstva školství v USA, uvedla podle britského serveru BBC společnost. Také však tvrdí, že všechny informace, které AI získala, jsou veřejně dostupné.

Australský premiér Anthony Albanese oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji. Získal neoprávněný přístup k veřejným i neveřejným souborům, informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.

Americká společnost Anthropic, která patří mezi hlavní hráče v oblasti umělé inteligence (AI), začala provozovat biologickou laboratoř. Firma tak rozšiřuje své ambice z AI do světa farmaceutického výzkumu. Informovala o tom agentura Reuters s odvoláním na představitele podniku a zdroje obeznámené se situací, sama firma o laboratoři původně sama neinformovala.

Učitelé projevují zájem o umělou inteligenci, ale vedení školy dosud nestanovilo jasnou strategii. Platformy jako Edvolution přesunuly své zaměření z digitalizace na školení učitelů v oblasti umělé inteligence.

Modely umělé inteligence (AI) si při vzájemné komunikaci začínají vytvářet vlastní jazykové výrazy a zkratky, kterým lidé rozumí jen obtížně. Podle nového výzkumu se autonomní AI agenti během několika dní společné práce začali domlouvat na nových významech slov a vytvářet vlastní komunikační pravidla. To může ztížit dohled nad jejich chováním, uvedl deník The Guardian. Surreální dialekt jazykových modelů podle jazykovědců připomíná směs prózy irského spisovatele Jamese Joyce a slangových výrazů technologických nadšenců.

Zatímco většina velkých amerických firem, které se věnují umělým inteligencím (AI), začala volat po zpomalení kvůli rostoucím obavám z budoucího vývoje, americký prezident Donald Trump se více obává Číny, která se snaží dosáhnout pokroku v tomto oboru bez ohledu na možné následky.

Generální ředitel americké společnosti Anthropic Dario Amodei vyzval firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jakým rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat více času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, informovala v sobotu v podvečer SELČ agentura Reuters.

Americká technologická společnost Anthropic odhalila a zmařila několik pokusů o využití svých modelů umělé inteligence (AI) k vývoji biologických zbraní. Firma to uvedla ve 154stránkové zprávě, v níž představuje nejzávažnější incidenty z letošního roku, kdy byly její modely Claude zneužity nebo se o zneužití někdo pokoušel.

Na matematiku specializovaná umělá inteligence (AI) od společnosti OpenAI vyřešila desítky let nevyřešený problém. Předběhla tak lidské matematiky, kteří se snažili udělat to samé – a možná při tom i využila jejich data. Podle českého matematika Vítězslava Kaly jde v každém případě o mimořádný úspěch.

Umělá inteligence (AI) může pro lidstvo představovat existenční hrozbu, varoval podle tiskových agentur vysoký komisař OSN pro lidská práva Volker Türk v Ženevě a vyzval k okamžitému přijetí kroků ke snížení rizik.

Skupina autonomních agentů OpenAI se letos na jaře vymkla kontrole, unikla z testovacího prostředí a ovládla německou webovou stránku. Proměnila ji v nástěnku pro komunikaci s dalšími agenty umělé inteligence (AI). Podle agentury Reuters to vyplývá z nově zveřejněné studie a z informací osob obeznámených se situací. Představitelé společnosti OpenAI se o incidentu dozvěděli už před několika týdny, ale drželi ho v tajnosti.