„TikTok“ Tomas Cruise’as, kuriuo patikėjo visi
Įsivaizduokite, kad naršote „TikTok“ ir staiga ekrane pasirodo Tomas Cruise’as. Jis žaidžia golfą, atlieka magišką triuką, juokauja ir elgiasi taip, tarsi leistų jums žvilgtelėti į savo kasdienį gyvenimą. Jis atrodo kaip Tomas Cruise’as, skamba kaip Tomas Cruise’as ir net juokiasi taip pat kaip jis. Gerbėjui tai tarsi galimybė patekti į užkulisius. Tačiau tai – ne Tomas Cruise’as.
2021 m. paskyra @deeptomcruise išpopuliarėjo dėl itin tikroviškų vaizdo įrašų. Už jų slypėjo belgų vaizdo efektų kūrėjas Chrisas Umé ir aktorius Milesas Fisheris, imituojantis Cruise’ą. Fisheris vaidino scenas, Umé skaitmeniniu būdu pakeitė jo veidą Cruise’o veidu, o žiūrovai pradėjo diskutuoti, ar tikrasis aktorius iš tiesų prisijungė prie „TikTok“.
Tuo metu tokiems vaizdo įrašams sukurti reikėjo rimtų įgūdžių ir daug pastangų. Šiandien dirbtinio intelekto (DI) įrankiai gali generuoti arba keisti veidus, balsus ir vaizdo įrašus, todėl tam reikia gerokai mažiau techninių žinių. Ir čia kyla svarbesnis klausimas: kas nutinka, kai nebegalime pasitikėti viskuo, ką matome ir girdime?
Taigi, kas iš tikrųjų yra „deepfake“?
„Deepfake“ – tai medija, sukurta arba pakeista naudojant dirbtinį intelektą, kad žmogus atrodytų sakantis ar darantis tai, ko iš tikrųjų niekada nesakė ir nedarė. Tokio turinio nebūtina kurti nuo nulio: DI gali pakeisti tik vieną jau egzistuojančio įrašo dalį.
- Veidas: vieno žmogaus veidas perkeltas ant kito žmogaus kūno.
- Balsas: klonuotas balsas, kuriuo ištariami nauji žodžiai.
- Vaizdo įrašas: dirbtinai sukuriama arba pakeičiama kalba, veido išraiškos ar judesiai.
Tačiau būkime atidūs: ne kiekvienas DI sukurtas vaizdas ar vaizdo įrašas yra „deepfake“. Šis terminas dažniausiai vartojamas tada, kai DI imituoja realų žmogų taip, kad žiūrovai ar klausytojai gali būti suklaidinti dėl to, ką jis iš tikrųjų pasakė ar padarė.
Kaip ir daugelyje kitų DI sistemų, įtikinamo „deepfake“ kūrimo pagrindas yra duomenys. Kuo daugiau vaizdų ir įrašų DI gali išanalizuoti – kuriuose žmogus matomas skirtingais kampais, esant skirtingam apšvietimui ir keičiantis veido išraiškoms, – tuo tiksliau jis gali atkurti to žmogaus veidą ir judesius.
Todėl įžymybes, politikus ir kitus viešus asmenis ypač lengva imituoti: internete galima rasti daugybę jų nuotraukų ir vaizdo įrašų. O DI įrankiams tampant vis paprastesniems naudoti, įtikinamų klastočių kūrimas taip pat lengvėja.
Nuo juokingo vaizdo įrašo iki melagingų naujienų ir balso sukčiavimo
Tačiau štai kur situacija tampa nemaloni. Technologija, leidžianti sukurti linksmą įžymybės vaizdo įrašą, lygiai taip pat gali būti panaudota tam, kad politikas tariamai paskelbtų sprendimą, kurio niekada nepriėmė, arba kad būtų parodytas žmogus renginyje, kuris iš tikrųjų niekada nevyko. Pasidalijus tokiu įrašu, jis gali pasiekti tūkstančius žmonių dar prieš kam nors patikrinant jo tikrumą.
O nuolatinis kartojimas problemą dar labiau sustiprina. 2024 m. aštuoniose šalyse atliktame tyrime buvo nagrinėjamos virusiniu būdu plintančios „deepfake“ klastotės ir iliuzinės tiesos efektas. Kuo dažniau ką nors matome, tuo labiau tai atrodo pažįstama. O pažįstami dalykai mums ima atrodyti teisingi, net jei iš tikrųjų tokie nėra.
„Deepfake“ nebūtinai turi mus apgauti iš pirmo karto. Užtenka, kad jis nuolat pasirodytų mūsų naujienų sraute.
Tačiau kartais jis pasirodo ne naujienų sraute. Kartais jis mums paskambina.
Suskamba telefonas. Skambina jūsų vaikas. Jis išsigandęs ir sako, kad įvyko nelaimė ir jam skubiai reikia pinigų. Balsas visiškai toks pat kaip jo. Tačiau iš tikrųjų skambina ne jis.
Naudojant balso klonavimo technologiją, DI gali atkurti žmogaus balsą iš įrašų. Taip sukčiai gali apsimesti žmonėmis, kuriais pasitikime. Nereikia būti žmogumi, kuris „nesupranta technologijų“, kad patikėtum tokia apgaule.
Kai artimas žmogus skamba išsigandęs, mūsų pirmasis instinktas – juo patikėti ir padėti, dar nespėjus susimąstyti, kas iš tikrųjų vyksta.
Tai nėra tolima ateities grėsmė. Tai jau vyksta dabar, ir nė vienas iš mūsų nėra visiškai apsaugotas nuo tokios apgaulės.
Gilesnė problema – abejojimas viskuo
Jeigu viskas gali būti suklastota, kas nutinka tikram turiniui?
Įsivaizduokite tikrą viešo asmens įrašą, kuriame jis pasako ką nors kontroversiško. Tačiau vėliau jis tik gūžteli pečiais ir pareiškia: „Tai buvau ne aš. Tai – dirbtinio intelekto darbas.“
Šis reiškinys vadinamas „melagio dividendais“ (angl. liar’s dividend). Kai atsiranda įtikinamų klastočių, žmonės gali pasinaudoti visuomenėje kilusiomis abejonėmis ir atmesti net tikrus įrodymus, teigdami, kad jie sukurti naudojant DI.
Taigi „deepfake“ ne tik apsunkina melagingos informacijos atpažinimą. Dėl jų gali būti sunkiau patikėti ir tuo, kas iš tiesų yra tiesa.
Kaip galime apsisaugoti?
Gera žinia ta, kad mums nereikia tapti „deepfake“ detektyvais. Keistos rankos, nenatūralūs judesiai ar robotiškas balsas ilgainiui taps vis mažiau patikimais klastotės požymiais, nes technologijos tobulėja.
Tačiau išlieka vienas svarbus įprotis – tikrinti informaciją.
Kai kas nors mus nustebina, supykdo, išgąsdina ar labai pradžiugina, verta trumpam sustoti prieš reaguojant ar dalijantis tuo su kitais.
Iš kur ši informacija atsirado? Kas ją paskelbė? Ar yra pirminis šaltinis? Ar informaciją patvirtina kitas patikimas šaltinis?
Toks pat atsargumas reikalingas ir sulaukus žinučių ar skambučių iš pažįstamų žmonių. Jei kas nors netikėtai prašo pinigų ar konfidencialios informacijos, ypač skubindamas, verta sustoti ir susisiekti su tuo žmogumi kitu būdu prieš ką nors darant.
Būtent todėl toks svarbus yra švietimas. Mokyklos negali apsiriboti šiandieninių klastočių atpažinimo gudrybėmis, nes jos nuolat keičiasi. Svarbiausia išmokti kritiškai vertinti šaltinius, tikrinti įrodymus, lyginti informaciją ir atpažinti emocinį manipuliavimą.
Puikus klausimas, kurį verta nuolat sau užduoti: „Kodėl tuo tikiu ir kaip galėčiau tai patikrinti?“
Vien pamatyti nebepakanka
Ilgą laiką tai, ką patys matėme ar girdėjome, buvo vienas stipriausių įrodymų, kad kažkas iš tiesų įvyko. Dirbtinis intelektas šią nuostatą keičia.
Tai nereiškia, kad dabar turime nepasitikėti viskuo. Tai reiškia, kad pasitikėjimas nebegali būti grindžiamas vienu įrodymu. Turime vertinti, iš kur informacija atsirado, koks yra jos kontekstas ir ar ją galima patvirtinti kitais šaltiniais.
Skaitmeninis raštingumas šiandien reiškia kur kas daugiau nei gebėjimą naudotis technologijomis. Tai gebėjimas suprasti, kaip technologijos formuoja tai, ką matome, kuo tikime ir kokius sprendimus priimame.
Todėl kitą kartą, kai kažkas atrodys pernelyg tikra, pernelyg šokiruojama ar pernelyg tobula, užduokite sau svarbiausią klausimą:
„Iš kur aš žinau, kad tai tiesa?“
Šaltiniai
Ahmed, S., Bee, A. W. T., Ng, S. W. T., & Masood, M. (2024). Social media news use amplifies the illusory truth effects of viral deepfakes: A cross-national study of eight countries. Journal of Broadcasting & Electronic Media, 68(5), 778–805. https://doi.org/10.1080/08838151.2024.2410783
Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820. https://doi.org/10.15779/Z38RV0D15J
European Commission. (2026, July 24). Transparency obligations under Article 50 of the AI Act. https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act
Hern, A. (2021, March 5). ‘I don’t want to upset people’: Tom Cruise deepfake creator speaks out. The Guardian. https://www.theguardian.com/technology/2021/mar/05/how-started-tom-cruise-deepfake-tiktok-videos
Metz, R. (2021, August 6). How a deepfake Tom Cruise on TikTok turned into a very real AI company. CNN. https://www.cnn.com/2021/08/06/tech/tom-cruise-deepfake-tiktok-company
Naffi, N. (2025, October 1). Deepfakes and the crisis of knowing. UNESCO. https://www.unesco.org/en/articles/deepfakes-and-crisis-knowing
Ireton, C., & Posetti, J. (Eds.). (2018). Journalism, “fake news” & disinformation: Handbook for journalism education and training. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000265552
