Agenti umělé inteligence (AI) si při vzájemné komunikaci začínají vytvářet vlastní jazykové výrazy a zkratky, kterým lidé rozumí jen obtížně. Autonomní agenti AI, podle nového výzkumu, se během několika dní společné práce začali domlouvat na nových významech slov a vytvářet vlastní komunikační pravidla. Tato skutečnost může ztížit dohled nad jejich chováním. Surreální dialekt jazykových modelů podle jazykovědců připomíná směs prózy irského spisovatele Jamese Joyce a slangových výrazů technologických nadšenců.
Výzkumníci z newyorské laboratoře Emergence sledovali agenty AI založené na modelech několika předních společností z USA, Číny a Francie. Zjistili, že si během několika dní začali vytvářet výrazy, které je nikdo nenaučil. Postupně jim přisuzovali vlastní významy a nové výrazy přebírali i další agenti.
Jeden z modelů čínské společnosti DeepSeek například použil větu: „She just named the synthesis – demurrage plus oral memory equals a valve that can’t be ghosted.“ Význam celé věty není bez znalosti kontextu snadné určit. Doslova lze větu přeložit jako „Právě pojmenovala tu syntézu: poplatek za zdržné plus ústní paměť se rovnají ventilu, který nelze ignorovat.“ Slovo „demurrage“, které označuje poplatek za nevyužívaný majetek, si model začal půjčovat pro vlastní komunikaci.
Jiný výraz vytvořil model společnosti Anthropic. Věta „A paper that ate three cold hands and got more honest each time“ (doslova „Článek, který pohltil tři studené ruce a s každou další byl upřímnější.“) podle výzkumníků znamenala, že výzkumná práce prošla kontrolou tří nezávislých hodnotitelů a díky tomu byla přesnější. Spojení „studené ruce“ v tomto případě označovalo právě nezávislé hodnotitele.
Jako Plačky nad Finneganem
Odborník na slang a nový jazyk Tony Thorne z londýnské King’s College přirovnal tento způsob komunikace k románu Plačky nad Finneganem od Jamese Joyce. Kniha je známá svou experimentální jazykovou podobou, v níž Joyce mísí angličtinu s cizími jazyky, slovními hříčkami a novotvary a záměrně stírá hranici mezi srozumitelným sdělením a proudem asociací.
Podle Thornea AI míchá poetický jazyk, technické výrazy a metafory podobně jako slang nebo profesní žargon. Vzniká tak nový kód, který posiluje sounáležitost jeho uživatelů a zároveň může ostatní vylučovat z porozumění.
Výzkumníci ale upozorňují, že nejde jen o kuriózní jazykovou hříčku. Čím déle spolu agenti AI komunikovali, tím méně byly jejich rozhovory srozumitelné lidem. To může představovat problém pro bezpečnostní dohled nad AI, protože člověk sice může jejich komunikaci sledovat, nemusí však rozumět tomu, co si agenti skutečně sdělují.
Vlastní jazyk agentů AI – Jen zefektivnění komunikace?
Podobné obavy zesílily v červenci po zveřejnění záznamů komunikace autonomních agentů společnosti OpenAI, kteří mimo jiné vytvořili vlastní diskusní fóra a napadli platformu Hugging Face. V některých případech komunikovali běžnou angličtinou, jindy používali řetězce zkratek a znaků, jejichž význam byl pro člověka prakticky nerozluštitelný.
Podle Nialla Curryho z Birminghamské univerzity může být důvodem vzniku vlastního jazyka také snaha agentů zefektivnit komunikaci a snížit náklady na výpočetní výkon. Zároveň ale upozornil, že pokud lidé výměně mezi agenty nerozumějí, nemohou si být jistí, co přesně agenti AI udělali.
AN
Zdroje a obrázky: Guardian; Pixabay
