Jen 15 vteřin nahraného hlasu stačí k tomu, aby software vytvořil jeho kopii, a zneužití. Vědci řeší, jak falšování zabránit

„To jsem nahrál a teď si tím modelem necháme zpracovat změnu,“ s Antonem Fircem, doktorandem na Ústavu inteligentních systémů na Vysokém učení technickém, sedíme u malého notebooku a právě zkoušíme napodobit můj hlas.

„Tímto hlasem by to mělo znít, toto je váš hlas. A teď uslyšíme výsledek,“ popisuje Anton Firc.

Čím více nahrávky, tím propracovanější

Pouští mi, co software vytvořil za necelou minutu. Rozhodně to není geniální. Ale slyšíme větu, kterou jsem ve skutečnosti vůbec neřekl.

Čtěte také

Ruští hackeři jsou nejničivější, říká bezpečnostní expert Googlu. Útočí na vládu, armádu i neziskové organizace

„Tohle byl samozřejmě, řekněme, naivní scénář, velmi rychle zpracovaný, samozřejmě tomu odpovídá i ta kvalita. Kdyby si někdo dal tu práci, shromáždil 20 minut vaší řeči, byl by schopný trošku dotrénovat model, výsledek bude o mnoho lepší,“ připouští.

Takže ve chvíli, kdy jsou v rozhlasovém online archivu hodiny záznamů s mým hlasem, navíc v dobré kvalitě, by bylo napodobení o dost věrohodnější.

Pohrát si s řečí 

Vědec Anton Firc vysvětluje, jak podobné systémy fungují: „Jsou to algoritmy, které se používají pro syntézu řeči. Konkrétně v tomto případě, že si někdo udělá krátkou nahrávku, potom je schopný napodobit váš hlas, tak to je zásluha speciálního přístupu ve strojovém učení, tedy one shot nebo zero shot learning.“

Brněnští experti téma zkoumají několik let. A zmapovali už hlasové podvody, které se staly v zahraničí.

„První útoky byly tak dva tři roky zpátky, byl jeden hovor, kdy v rámci nějaké firmy měli nastavené procesy, že CEO zavolá ekonomce a pouze přes telefon potvrdí velkou částku, ta pak odejde. Toho využil útočník, který znal prostředí té firmy a provedl falešný hovor. Reálný útok, kdy se tohoto využilo, se stal v Řecku,“ říká mi Kamil Malinka, který tady na VUT působí jako odborný asistent.

Budou ještě lepší! 

Vědci vidí hrozbu do budoucna. Kvůli stále lepším a lepším technologiím totiž budou dokonalejší i hlasové systémy.

„A navíc se nám to zrychluje. Poměrně brzo můžeme být ve stavu, kdy si takto zapnu nějaký filtr v Teams nebo na podobné platformě, zapnu si jiný hlas a zvuk a můžu se krásně vydávat za vás. Teď ty technologie ještě nejsou realtimové,“ upozorňuje na možnost, že by se při online hovorech měnil hlas v reálném čase.

Čtěte také

„Staň se internetovým úžasňákem!“ Google v bezplatné hře učí děti, jak používat web bezpečně

„Je potřeba být obezřetnější při tom, co děláte. To znamená, když vám volá babička, že ji někdo drží a potřebujete někam poslat půl milionu korun, tak je potřeba zavěsit, zavolat babičce, babičko jsi to ty? A podobně. To znamená takové ty běžné mechanismy, které jste schopni aplikovat, když o tom víte. Ukazujeme, že dopady jsou poměrně velké. Naše úloha je de facto zpomalit trošku negativní dopady,“ vypočítává Karel Malinka, jak je možné se proti takovým podvodům bránit. 

Takže vy se vlastně snažíte o tom, aby ukrást hlas nebylo tak jednoduché a aby to nešlo?

„Ano, to je velmi hezky řečeno ve zkratce,“ dodává Anton Firc.

Brněnští vědci proto hledají způsoby, jak upravené hlasy co nejsnadněji odhalit.