Rozpoznat hlas umělé inteligence (AI) od toho lidského je téměř nemožné. V současné době již dokáže umělá inteligence napodobit mluvu člověka tak dokonale, že skoro nejde poznat rozdíl. V případě obrazu a videa je tomu jinak, tam to ještě úplně dokonalé není, ovšem v blízké době to technologie dožene. Uvedla to Barbara Zitová z Ústavu teorie informace a automatizace AV ČR. Ve středu europoslanci schválili nová pravidla pro fungování umělé inteligence.
„Technologie AI se rychle posouvá kupředu, neboť se zvedá výpočetní síla, experti sbírají větší množství dat a hlavně tím, jak je ta oblast stále zajímavější, tak ten výzkum začíná dělat více lidí,“ uvedla Zitová.
Deep fake snadno a rychle
Vytvořit takzvaný deep fake je podle vědkyně možné velice rychle. Stačí většinou dvě minuty toho daného člověka. Anglický termín složený ze slov deep (hluboký) a fake (podvrh) se používá k označení pokročile padělaných videí, zvuků či snímků, které jsou často jen obtížně rozeznatelné od skutečnosti.
Podle odbornice v dnešní době softwary nabízí jakousi ochranu v podobě souhlasu konkrétního člověka, ale určitě se najdou softwary, u kterých se to dá obejít. „U audia stačí i minutový záznam a z mnou zkoušené aplikace vím, že tam ani žádné omezení a potřeba souhlasu není,“ dodala Zitová.
Vytvořit deep fake podle Zitové dokáže i laik. „Technologie je dostupná široké veřejnosti. Některé firmy své služby začínají zpoplatňovat, avšak to neodradí ty, kteří se takovým podvrhem pokouší něčeho dosáhnout,“ řekla vědkyně.
Mluvím po telefonu s člověkem či AI?
Ověřit si identitu člověka na druhé straně telefonu lze nějakou informací, kterou znají pouze dotyční či nějakým heslem. Další možností je přemýšlet nad obsahem sdělení a v nejlepším případě zavolat danému člověku zpátky. „Je reálné, že budeme mít na mobilech aplikaci, která bude ověřovat, jestli hlas na druhé straně produkuje AI nebo člověk,“ zmínila Zitová. Banky by podle ní měly odstoupit od ověřování identity hlasem.
Média a politika
Nejčastěji se deep fake objevuje v médiích, politice. V současné době je i hrozbou před volbami, míní expertka. „Umělou inteligenci nemůžeme zakázat, nějak omezit ano, ale tou hlavni ochranou je vzdělávání v této oblasti a osvěta od médií,“ uvedla Zitová.
Akt o umělé inteligenci
Europoslanci ve středu schválili nová pravidla pro fungování umělé inteligence. Akt o umělé inteligenci je podle expertů prvním svého druhu na světě. Nařízení zavádí klasifikaci technologií podle způsobu využití a nastavuje různé úrovně omezení podle míry souvisejících rizik. Některé systémy chce EU zcela zakázat, další nástroje jako algoritmy na rozpoznávání obličejů budou podléhat silné regulaci.
„Nová pravidla, které přijali europoslanci, mohou zavést v praxi určitá omezení v jakých oblastech se to bude nasazovat a používat a za jakých podmínek. Dodavatelé budou muset mít potvrzení, zdroje dat a podobně. Ale zároveň je tam prvek toho, že v okamžiku, když s vámi bude mluvit umělá inteligence, tak musí lidé vědět, že mluví s ní a ne s reálným člověkem,“ řekla Zitová.
AN
Zdroje a obrázky: AVČR; Pixabay
Napsat komentář