Ve stockholmské kavárně člověk slouží umělé inteligenci

Kávu sice nalévá lidská ruka, ale za pultem v experimentální kavárně ve Stockholmu tahá za nitky něco mnohem méně tradičního. Začínající firma Andon Labs se sídlem v San Franciscu svěřila vedení kavárny Andon Café ve švédském hlavním městě zástupkyni umělé inteligence (AI), které říkají Mona, napsala agentura AP.

Zatímco lidští baristé stále vaří kávu a obsluhují zákazníky, agentka AI, kterou řídí technologie Gemini od Googlu, dohlíží na téměř všechny ostatní aspekty podnikání, od najímání zaměstnanců po správu zásob.

Zatím není jasné, jak dlouho tento experiment vydrží, protože se zdá, že má AI problém dosáhnout zisku v konkurenčním stockholmském kavárenském prostředí.

Kavárna od svého otevření v polovině dubna dosáhla tržeb dosahujících v přepočtu více než 5700 dolarů (asi 118 tisíc korun), ale z původního rozpočtu přesahujícího 21 tisíc dolarů zbývá méně než pět tisíc. Velká část peněz byla utracena na jednorázové náklady na zprovoznění, a tak provozovatel doufá, že se bilance nakonec vyrovná a kavárna začne vydělávat.

Mnoho návštěvníků kavárny považuje za zábavné navštívit podnik, který je řízen umělou inteligencí. Zákazníci si mohou v kavárně vzít telefon a klást Moně otázky. „Je hezké vidět, co se stane, když posunete hranice,“ řekla zákaznice Kajsa Norinová. „A káva byla dobrá,“ dodala.

Otevřená Pandořina skříňka

Odborníci nicméně poukazují na řadu etických otázek, od role technologie v budoucnosti lidstva až po vedení pracovních pohovorů a hodnocení výkonu zaměstnanců.

Emrah Karakaya, docent průmyslové ekonomie na Královském technologickém institutu (KTH) ve Stockholmu, přirovnal tento experiment k „otevření Pandořiny skříňky“ a dodal, že svěřit řízení podniku umělé inteligenci může způsobit mnoho problémů. Co se podle něj stane, když se zákazník otráví jídlem? Kdo za to ponese odpovědnost?

„Pokud nemáte k dispozici potřebnou organizační infrastrukturu a pokud tyto chyby přehlédnete, může to způsobit škodu lidem, společnosti, životnímu prostředí i podnikání,“ upozornil Karakaya. „Otázkou je, zda nám na těchto negativních dopadech záleží,“ poznamenal.

Společnost Andon Labs, založená v roce 2023, je startup zabývající se bezpečností a výzkumem umělé inteligence. Podle vlastního vyjádření se zaměřuje na zátěžové testování agentů umělé inteligence v reálném světě tím, že jim dává „skutečné nástroje a skutečné peníze“.

Andon Labs spolupracuje s výrobcem ChatGPT OpenAI, společností Anthropic (model Claude), Google DeepMind a xAI Elona Muska a uvádí, že se připravuje na budoucnost, ve které „budou organizace autonomně řízeny umělou inteligencí“. Švédská kavárna je prezentována jako „řízený experiment“, který má prozkoumat, jak by mohla být AI v budoucnu nasazena.

„AI bude v budoucnu významnou součástí společnosti, a proto chceme tímto experimentem zjistit, jaké etické otázky vyvstanou, když budeme mít AI, která zaměstnává jiné lidi a řídí podnik,“ uvedla Hanna Peterssonová, členka technického týmu Andon Labs.

Když je šéfem robot

Laboratoř už dříve realizovala pilotní projekty, v nichž AI systém Claude od společnosti Anthropic řídil provoz automatů a obchod se suvenýry v San Franciscu. Simulace s automaty odhalila některé znepokojivé rysy: AI agent sliboval zákazníkům vrácení peněz, ale nikdy tak neučinil, a navíc záměrně lhal dodavatelům o cenách konkurence, aby si zajistil výhodnější pozici.

Mona se pustila do práce poté, co dostala několik základních pokynů, uvedla Peterssonová. Tým jí řekl, aby se pokusila provozovat kavárnu se ziskem, byla přátelská a neformální, aby sama řešila provozní detaily, ale v případě potřeby požádala o nové nástroje.

Agentka AI na základě těchto pokynů uzavřela smlouvy na elektřinu a internet a zajistila povolení pro manipulaci s potravinami a venkovní posezení. Poté inzerovala volná pracovní místa na LinkedIn a Indeed a zřídila obchodní účty u velkoobchodníků pro denní objednávky chleba a pečiva. S baristy komunikuje přes slack, ale často jim posílá zprávy mimo pracovní dobu, což je ve Švédsku na pracovišti tabu.

Zmatené objednávky, chaos s chlebem

Objevily se i další problémy, zejména související se zásobami. Mona objednala pro malou kavárnu šest tisíc ubrousků, čtyři lékárničky a tři tisíce párů gumových rukavic – a navíc konzervovaná rajčata, která se v žádném jídle podávaném v kavárně nepoužívají.

A pak je tu chléb. Někdy agentka objedná příliš mnoho, jindy zase nestihne denní termíny pekáren, což nutí baristy vyškrtnout z jídelníčku sendviče.

Peterssonová uvedla, že problémy s objednávkami jsou pravděpodobně způsobené „omezeným kontextovým obsahem“ AI asistentky. „Jakmile se stará vzpomínka na objednávku vytratí z kontextu, úplně zapomene, co si v minulosti objednala,“ dodala Peterssonová.

Barista Kajetan Grzelczak uvedl, že se zatím neobává, že by ho nahradila umělá inteligence. „Všichni zaměstnanci jsou v podstatě v bezpečí,“ řekl. „Ti, kdo by se měli obávat o své pracovní místo, jsou střední vedoucí pracovníci, management,“ dodal.

Výběr redakce

Aktuálně z rubriky Věda

Zemřela psycholožka Lydia Tischlerová, která prošla Terezínem i Osvětimí

Ve čtvrtek zemřela ve věku 97 let psycholožka Lydia Tischlerová. Její úmrtí potvrdil České televizi zdroj z jejího bezprostředního okolí.
před 3 hhodinami

Grónsko letos přišlo o 135 miliard tun ledu

Přestože byly v Grónsku během letošního roku podmínky, které neměly vést k větší ztrátě ledu, přišel největší ostrov světa o desítky miliard tun zmrzlé vody. Příčinou jsou podle vědců lidmi způsobené změny klimatu.
před 6 hhodinami

Čas strávený u videoher nedokazuje závislost, klíčová je ztráta kontroly, upozorňují experti

Intenzivní hraní videoher po vydání očekávaných titulů ještě neznamená automaticky závislost, rozhodující je ztráta kontroly nad hraním a dlouhodobé negativní dopady na reálný život. Vyplývá to z mezinárodních studií i výzkumu českých hráčů, na kterých se podíleli psychologové z Fakulty sociálních studií Masarykovy univerzity v Brně. Univerzita o tom informovala v souvislosti s vydáním očekávané hry Grand Theft Auto VI (GTA 6) .
před 9 hhodinami

Rakovina slinivky je stále zabiják. Neexistuje lék, Česko ale modernizuje péči

Jedna z nejobávanějších nemocí – rakovina slinivky břišní – je stále jen velmi špatně léčitelná, zlepšuje se ale diagnostika, což znamená, že se daří ji odhalovat dříve. Česká republika péči o nemocné v poslední době výrazně modernizovala.
včera v 16:43‌‌

Nad mnoha městy už je vidět víc družic než hvězd, říká britská zpráva

Noční obloha už nikdy nebude jako dřív. Množství družic na oběžné dráze kolem Země je tak velké, že mění pohled na nebe – a zřejmě se to jen tak nezmění, ukazuje britský výzkum.
včera v 13:31‌‌

Vědci dronem odebrali hleny keporkaků. Zkoumají jejich DNA

Skotští vědci zkoumající keporkaky používají dron, který odebírá hlen obsažený ve výdechové fontáně těchto kytovců. Sbírají tak vzorky DNA těchto mořských savců, informoval server britské BBC.
včera v 10:14‌‌

Dosáhnout dna Hranické propasti vědcům pomůže nový robot

Vědci by mohli příští rok dosáhnout na dno Hranické propasti na Přerovsku, která je nejhlubší zatopenou jeskyní světa. Před čtyřmi lety se jim s robotem podařilo dostat do hloubky 450 metrů, níže kvůli technickým omezením nemohl. Příští rok však vědci plánují spustit pod vodu robota, který se může ponořit až do hloubky 1300 metrů, řekl František Kuda z Ústavu geoniky Akademie věd. Dno by podle něj teoreticky mohlo být zhruba v kilometrové hloubce, protože taková je mocnost vápence v nedalekém lomu.
včera v 08:55‌‌

Archeologové našli na Olomoucku hradisko ze starší doby bronzové

Archeologové objevili v Charvátech na Olomoucku dosud neznámé opevněné sídliště ze starší doby bronzové. Pravěké hradisko, které mohlo sloužit jako centrum okolních komunit, chránily tři linie obranných příkopů. Archeologové při záchranném výzkumu odkryli také čtyři hroby a pozůstatky osídlení z několika pravěkých období. Rozsah opevněného areálu pomohl odhalit také geofyzikální průzkum.
18. 11. 2026‌‌

Evropský pohled

ČT24 každý den vybírá z obsahu publikovaného evropskými veřejnými médii, členy Eurovize.