Z nového AI nástroje VASA-1 má obavy i jeho vlastní tvůrce, Microsoft
Microsoft představil novou vývojovou platformu VASA-1, která pokořila všechny dosažené mety v deepfake. Umí ze statického obrázku, ukázky hlasu a textového skriptu vytvořit tak realistické video, že to vyděsilo i Microsoft.
Vasa-1, zrozena v lůně Microsoftu, boří dosavadní dosažené mety mezi deepfake videi. Dokáže rozmluvit obrázek natolik věrohodně, že divák prakticky nedokáže rozeznat, že se jedná o deepfake.
Na co jej tedy potřebujeme? Nástroj má samozřejmě mnoho možností využití, například k obohacení digitální komunikace, zpřístupnění vzdělávání nebo terapeutickou podporu. Microsoft se však z etických důvodů zdráhá uvolnit VASA-1 pro veřejnost. Obává se totiž zneužití pro deepfake.
Rozmluví i Monu Lisu
Vasa-1 tak rozmluvila, tedy dokonce rozrapovala, pět set let strnulou Monu Lisu z díla geniálního Leonarda Da Vinciho. Přitom v podstatě nejde o žádnou přelomovou technologii, ale pouze o další krok v raketovém evolučním vývoji AI.
I když může být sledovat rapující Monu Lisu velmi zábavné, jen těžko budete uvažovat nad tím, zda nejde o skutečnost. Představte si ale video vytvořené rozmluvením fotografie, kde je až neuvěřitelně synchronizován pohyb rtů s řečí a zároveň s přirozenými pohyby obličeje a hlavy.
Ostatní dostupné nástroje pro tvorbu deepfake jsou rozhodně méně propracované. I proto Microsoft věří, že VASA-1 je technologicky nejpokročilejší a bude tedy obtížnější její vytvořené produkty od skutečného videa rozpoznat.
Nejprve regulace
Vývoj deepfake technologií vyvolává otázky ohledně šíření dezinformací a manipulací s veřejným míněním. Je proto nanejvýš důležité, aby byl nástroj užíván zodpovědně a s ohledem na etické aspekty. Obava Microsoftu ze zneužití nástroje je tak více než na místě.
Microsoft plánuje Vasa-1 zpřístupnit veřejnost až po zavedení přísných regulačních opatření. Do té doby bude platforma dostupná pouze pro výzkumné a vývojové účely.
Microsoft tvrdí, že jeho nový model zastíní konkurenci a pravděpodobně také otevře brány světa, kde bude ještě obtížnější realitu od fikce rozeznat.
Připravila: Petra Sauerová
Foto: Microsoft