Vymknul se test Facebooku kontrole? Emoce kvůli neznámé řeči vývojáři mírní

Aktualizováno

Nebývalou mediální houšť vyvolaly zprávy o údajném rozhodnutí Facebooku ukončit jeden z vlastních experimentů. Společnost ke kroku údajně odhodlala poté, co se ukázalo, že dva programy si začaly navzájem povídat v cizím jazyce, jemuž lidé přestávali rozumět. Podle autorů výzkumu prý ale nešlo o nic mimořádného či varovného. Komunikaci robotických programů prý analyzují.   

Chatbot
Zvětšit obrázek Zmenšit obrázek Zvětšit obrázek na celou obrazovku
Chatbot
Zdroj: Pixabay

Dva programy specializované na komunikaci si během dlouhých rozhovorů, které spolu vedly, začaly měnit pravidla angličtiny – zkracovaly jazykové struktury tak, že se komunikace stala pro programátory nesrozumitelnou; stroje si však i nadále rozuměly.

Video Horizont ČT24
video

Horizont ČT24: Zuckerbergovy vize pro Facebook

Facebook pak oba programy údajně vypnul; bulvární média sice tvrdí, že z obavy, že nad nimi ztrácí kontrolu, ve skutečnosti proto, že přestaly dělat to, co mají – tedy testovat si komunikaci, kterou jednou budou využívat při rozhovorech se zákazníky. Tito roboti totiž byli naprogramováni proto, aby na e-shopech vyjednávali a smlouvali s klienty. Měli si vyměňovat různě drahé předměty – míče za knihy, klobouky za nádobí.

Programy ale velmi rychle přešly na jakousi formu stenografie, tedy zkrácenou formu angličtiny bez mnoha slov, se zkrácenými syntaktickými vazbami. Podívejte se na záznam jejich reálného dialogu:

Záznam z diskuze dvou botů
Zvětšit obrázek Zmenšit obrázek Zvětšit obrázek na celou obrazovku
Záznam z diskuse dvou botů
Zdroj: Independent

Analytici Facebooku tento experiment opustili – takto komunikující stroje by byly ve skutečném vyjednávání s lidmi k ničemu. Záznam komunikace mezi stroji je však velmi poučný pro jazykovědce, kteří se z něj mohou dozvědět, jaká pravidla pro využití angličtiny umělé inteligence použily.

Nový jazyk robotů

„Chatboty si zjevně vytvořily něco jako kódovou řeč,“ uvedl pro britský deník Independent výzkumný pracovník z divize výzkumu umělé inteligence Facebooku Dhruv Batra. „Stejně jako když říkám ,pětkrát‘, vykládáte si to tak, že bych chtěl pět kopií nějakého zboží položky. Není to vlastně tak odlišné od způsobu, jakým si lidské komunity vytvářejí zkratky.“

Tento experiment ve Facebooku proběhl již přibližně před měsícem, jako první informoval server FastCo; detaily o něm se však dostaly na veřejnost teprve nyní. Nejde o zdaleka jediný pokus, během něhož si umělá inteligence vybudovala vlastní jazyk. Například na začátku letošního roku společnost Google oznámila, že umělá inteligence, kterou využívá pro překládání mezi jazyky, si vytvořila svůj vlastní jazyk, do něhož si překládala. Vývojáři v Google však s tímto výsledkem byli na rozdíl od Facebooku spokojení a nechali stroj, aby tento trik využíval i nadále.