Google AI generuje realistyczne fałszywe klipy Fortnite, oszukuje widzów

Google niedawno zaprezentował Veo 3, zaawansowane narzędzie do generowania wideo AI, które ma możliwość produkcji niezwykle realistycznych klipów rozgrywki Fortnite. To narzędzie, które zostało uruchomione w tym tygodniu, wywołało znaczne zainteresowanie i obawy ze względu na jego zdolność do tworzenia realistycznej treści wideo z prostych podpowiedzi tekstu, wraz z autentycznym dźwiękiem.

Możliwości Veo 3 wykraczają poza tylko wideo; Może również generować realistyczny dźwięk, odróżnia go od innych narzędzi AI, takich jak Sora openai. W ciągu zaledwie dwóch dni od premiery użytkownicy eksperymentują z Veo 3, z powodzeniem tworząc filmy z rozgrywki Fortnite, które zawierają komentarz fałszywego streamera. Jakość tych klipów jest tak wysoka, że ​​można je łatwo pomylić z prawdziwymi treściami z platform takich jak YouTube lub Twitch.

Technicznie VEO 3 nie narusza materiałów chronionych prawem autorskim, chociaż jasne jest, że sztuczna inteligencja została przeszkolona w zakresie ogromnej ilości materiału do rozgrywki w Fortnite dostępnym online. Pozwala to na generowanie przekonujących reprezentacji gry bez wyraźnej zgody Epic Games, programistów Fortnite. Na przykład klip pokazujący streamer świętujący zwycięstwo za pomocą tylko Pickaxe został stworzony z prostym numerem dziewięcio-słowowym: „Streamer otrzymał zwycięstwo Royale z tylko jego Pickaxe”.

Implikacje zdolności Veo 3 rodzą znaczące pytania poza problemami praw autorskich. Potencjał niewłaściwego użycia w tworzeniu dezinformacji i podważaniu zaufania do legalnej treści jest palącym problemem. Reakcje w mediach społecznościowych podkreśliły trudność w rozróżnieniu materiału realnego i AI, a niektórzy użytkownicy wyrażali alarm w potencjalnym wpływie technologii.

Aby zilustrować szersze możliwości Veo 3, wygenerowano fałszywy raport prasowy na temat nieistniejących targów samochodowych, wraz z sfabrykowanymi rozmówcami i pytaniami, wszystko z jednego podpowiedź. To pokazuje wszechstronność narzędzia poza gierami wideo.

Microsoft wszedł również na arenę zawartości wideo generowanej przez AI ze swoim programem Muse, wyszkolonym na materiałach z gry krwawionej z gry Xbox. Ujawnienie Muse, a następnie zdolność do generowania fałszywej rozgrywki Quake 2, wywołała dyskusje na temat potencjalnego wpływu na ludzką kreatywność i przemieszczenie pracy w branży gier.

Co ciekawe, sam Fortnite włączył technologię AI. W zeszłym tygodniu gra wprowadziła funkcję umożliwiającą graczom rozmowę z Darthem Vaderem, wykorzystując generatywną sztuczną inteligencję wyszkoloną w głosie Jamesa Earla Jonesa. Ten ruch, choć oficjalnie licencjonowany i sankcjonowany przez rodzinę Jonesa, spotkał się z krytyką i doprowadził do niesprawiedliwego zarzutu praktyki pracy z powodu związku z SAG-Aftra.

W celu uzyskania dalszych informacji IGN skontaktowało się z Epic Games w celu komentarza na temat korzystania z treści Fortnite przez Veo 3.