Demokratijos užtikrinimas: navigacija sintetinės medijos ir „deepfake“ rizikomis rinkimų cikluose

• Sintetinė medija ir „deepfake“: rinkos panorama ir pagrindiniai veiksniai
• Išsivystančios technologijos formuojančios sintetinę mediją ir „deepfake“ galimybes
• Pramonės žaidėjai ir strateginis pozicionavimas sintetinėje medijoje
• Numatoma rinkos plėtra ir priėmimo trajektorijos
• Geografiniai centrai ir regioninė dinamika sintetinėje medijoje
• Sintetinės medijos evoliucijos rinkimų kontekstuose numatymas
• Rizikos, kliūtys ir strateginės galimybės užtikrinant rinkimus
• Šaltiniai ir nuorodos

“Dirbtinio intelekto pažanga leido sukurti sintetinę mediją – turinį, kuris generuojamas arba manipuliuojamas dirbtinio intelekto – neįtikėtinu mastu.” (šaltinis)

Sintetinė medija ir „deepfake“: rinkos panorama ir pagrindiniai veiksniai

Sintetinės medijos ir „deepfake“ technologijų greitas vystymasis keičia informacijos panoramą, pateikdamas tiek galimybių, tiek reikšmingų rizikų 2025 metų rinkimų ciklui. Sintetinė medija – turinys, generuojamas arba manipuliuojamas dirbtinio intelekto, įskaitant „deepfake“ – tampa vis labiau išsivysčiusia, todėl sunku atskirti autentišką ir suklastotą medžiagą. Tai kelia tiesioginę grėsmę rinkimų vientisumui, nes piktybiniai veikėjai gali naudoti „deepfake“, kad platintų dezinformaciją, imituotų kandidatus arba manipuliuotų visuomenės nuomone dideliu mastu.

Pagal Gartner ataskaitą, 2026 metais 80% vartotojų turėtų naudoti generacinio dirbtinio intelekto įrankius, kas parodo sintetinės medijos pritaikymą plačiajame vartojime. Deeptrace ataskaita vertino, kad „deepfake“ vaizdo įrašai kas šešis mėnesius dvigubėja, ir politiniai „deepfake“ atvejai auga. 2024 metais New York Times pranešė apie AI sukurtas robokvailas, imituojančias politinius figūras, išryškinant tikrąsias šių technologijų pasekmes demokratiniams procesams.

Pagrindiniai veiksniai, užtikrinantys 2025 metų rinkimų ciklą, apima:

• Reguliavimo veiksmai: Vyriausybes įgyvendina naujas teisės normas, kad spręstų sintetinės medijos grėsmes. Europos Sąjungos Skaitmeninių paslaugų aktas ir JAV Federalinės rinkimų komisijos svarstymas dėl taisyklių AI sukurtoms politinėms reklamoms yra ryškūs pavyzdžiai.
• Technologiniai sprendimai: Įmonės investuoja į „deepfake“ atpažinimo įrankius. Microsoft Video Authenticator ir „Google“ Deepfake Detection Challenge yra pirmaujančios iniciatyvos, skirtos identifikuoti manipuliuotą turinį.
• Viešasis sąmoningumas: Žiniasklaidos raštingumo kampanijos ir faktų tikrinimo partnerystės yra plečiamos, kad padėtų rinkėjams atpažinti ir pranešti apie sintetinę mediją. Organizacijos kaip First Draft ir Tarptautinė faktų tikrinimo tinklas yra šių pastangų centras.
• Bendradarbiavimas: Kryžminis bendradarbiavimas tarp technologijų įmonių, vyriausybių ir pilietinės visuomenės yra svarbus. Turinio autentiškumo iniciatyva sujungia pramonės lyderius, kad sukurtų standartus turinio kilmei ir autentiškumui.

Artėjant 2025 metų rinkimams, sintetinės medijos ir rinkimų saugumo sankirta liks svarbia tema politikams, technologijų teikėjams ir visuomenei. Proaktyvūs veiksmai, tvirti atpažinimo įrankiai ir koordinuoti atsakymai yra būtini norint apsaugoti demokratinius procesus nuo „deepfake“ trikdžių potencialo.

Išsivystančios technologijos formuojančios sintetinę mediją ir „deepfake“ galimybes

Sintetinė medija ir „deepfake“ – AI generuoti garsai, vaizdo įrašai ir vaizdai, kurie įtikinamai imituoja realius žmones – sparčiai vystosi, keliančios reikšmingų susirūpinimų dėl 2025 metų rinkimų ciklo vientisumo. Kai generacinio AI įrankiai tampa vis labiau prieinami ir išsivysčiusiais, piktybinių veikėjų galimybės naudoti „deepfake“ dezinformacijai, rinkėjų manipuliavimui ir reputacijos atakoms padidėjo eksponentiškai.

Naujausi avancai generatyviame AI, tokie kaip „OpenAI“ Sora vaizdo sintezei ir „ElevenLabs“ balsų klonavimo technologija, padarė lengviau nei bet kada anksčiau kurti hiperealistišką sintetinį turinį. Pagal Gartner ataskaitą, iki 2025 metų 80% vartotojų įmonių turėtų naudoti generatyvų AI turinio kūrimui, kas parodo tiek technologijos paplitimą, tiek potencialaus netinkamo naudojimo mastą.

Rinkimų kontekste „deepfake“ jau buvo paversta ginklu. 2024 metais JAV Federalinė ryšių komisija (FCC) uždraudė AI generuojamas robokvailas po to, kai „deepfake“ garso įrašas, kuriame buvo imituojamas prezidentas Joe Biden, buvo panaudotas tam, kad atkalbėti rinkėjus nuo dalyvavimo New Hampshire pirmaklaučių balsavime (FCC). Panašiai, Europos Sąjungos Praktikos kodeksas dėl dezinformacijos dabar reikalauja, kad platformos žymėtų sintetinį turinį ir greitai pašalintų su rinkimais susijusius „deepfake“.

Norint apsaugoti 2025 metų rinkimų ciklą, yra taikomos kelios strategijos:

• AI atpažinimo įrankiai: Įmonės kaip Deepware ir Sensity AI siūlo sprendimus, skirtus nustatyti manipuliuotą mediją, nors ginkluotės lenktynės tarp kūrėjų ir detektorių tęsiasi.
• Teisės aktai ir reguliavimas: Tokios šalys kaip JAV, JK ir Indija svarsto ar priima įstatymus, kriminalizuojančius piktybiško „deepfake“ naudojimą, ypač politiniuose kontekstuose (Brookings).
• Platformų politikos: Socialinių tinklų gigantai, tokie kaip „Meta“ ir „X“ (buvusi Twitter), atnaujino politiką, kad žymėtų arba pašalintų „deepfake“, ypač tuos, kurie orientuoti į rinkimus (Meta).
• Viešųjų sąmoningumo kampanijos: Vyriausybės ir NGO investuoja į skaitmeninį raštingumą, kad padėtų rinkėjams atpažinti ir pranešti apie sintetinę mediją.

Atsirandant sintetinės medijos galimybėms, daugiašalis požiūris, apimantis technologijas, reguliavimą ir švietimą, bus būtinas norint apsaugoti demokratinį procesą 2025 metų rinkimų cikle.

Pramonės žaidėjai ir strateginis pozicionavimas sintetinėje medijoje

Sintetinės medijos ir „deepfake“ technologijų greitas vystymasis keičia informacijos panoramą, ypač artėjant 2025 metų rinkimų ciklui. Pramonės žaidėjai – įskaitant įsitvirtinusias technologijų milžines, specializuotas naujas įmones ir kryžminio sektoriaus koalicijas – aktyviai kuria įrankius ir strategijas, kad sumažintų riziką, kylančią dėl manipuluoto turinio. Jų pastangos yra svarbios užtikrinant rinkimų vientisumą ir visuomenės pasitikėjimą.

• Didžiosios technologijų įmonės: Pagrindinės platformos, tokios kaip Meta, Google ir Microsoft, išplėtė savo rinkimų vientisumo programas. Šios iniciatyvos apima AI galia paremtą „deepfake“ atpažinimą, sintetinės medijos žymėjimą ir partnerystes su faktų tikrintojais. Pavyzdžiui, Meta sistema „Content Credentials“ jungia kilmės duomenis su vaizdais ir vaizdo įrašais, padedant vartotojams patvirtinti autentiškumą.
• Specializuotos naujos įmonės: Įmonės kaip Deeptrace (dabar Sensity AI), Verity ir Truepic yra pirmaujančios „deepfake“ atpažinimo srityje. Jų sprendimai remiasi mašininio mokymosi metodais, siekiant realiuoju laiku identifikuoti manipuliuotą mediją, teikiant API ir platformas naujienų redakcijoms, socialiniams tinklams ir vyriausybinėms institucijoms.
• Pramonės koalicijos ir standartai: Turinio autentiškumo iniciatyva (CAI), kurią remia Adobe, Microsoft ir kiti, kuria atvirus standartus medijos kilmei. Partnerystė dėl AI taip pat koordinuoja kryžmines pramonės atsakymus, įskaitant geriausias praktikas sintetinės medijos atskleidimui ir viešajam švietimui.
• Reguliavimo ir politikos įsitraukimas: Pramonės dalyviai vis dažniau bendradarbiauja su politikais. JAV vykdomasis įsakymas dėl AI (2023 m. spalio mėn.) reikalauja žymėti ir nustatyti kilmę, kai technologijų įmonės pažadėjo laikytis šių reikalavimų prieš 2025 m. rinkimus.

Nežiūrint šių pastangų, išlieka iššūkių. „Deepfake“ sudėtingumas pranoksta atpažinimo galimybes, o pasaulinis socialinės medijos pobūdis apsunkina įgyvendinimą. Tačiau pramonės dalyvių strateginis pozicionavimas – per technologinę inovaciją, koalicijų kūrimą ir reguliavimo suderinimą – bus svarbus, siekiant atsverti sintetinės medijos grėsmes ir apsaugoti demokratinį procesą 2025 ir vėliau.

Numatoma rinkos plėtra ir priėmimo trajektorijos

Sintetinės medijos ir „deepfake“ technologijų greitas vystymasis turės reikšmingą poveikį 2025 metų rinkimų ciklui, skatindamas skubias būtinybes užtikrinti tvirtas apsaugos ir reguliavimo struktūras. Sintetinė medija – turinys, generuojamas arba manipuliuojamas dirbtinio intelekto, įskaitant „deepfake“ – patyrė exponentinį augimą tiek sudėtingumo, tiek prieinamumo požiūriu. Pagal Gartner ataskaitą, 80% vartotojų įmonių planuoja iki 2026 metų naudoti generatyvų AI, kas pabrėžia šių technologijų paplitimą.

Rinkos prognozės rodo, kad pasaulinė sintetinės medijos rinka pasieks 64,3 milijardo USD iki 2030 metų, išaugusi nuo 10,8 milijardo 2023 metais, tai atspindi 29,1% compound annual growth rate (CAGR). Šis augimas skatinamas AI pažangos, padidėjusios paklausos po personalizuoto turinio ir vartotojams draugiškų „deepfake“ kūrimo įrankių plitimas. Politinė arena yra ypač pažeidžiama, nes piktybinių veikėjų galimybės skleisti dezinformaciją, imituoti kandidatus ir sumažinti visuomenės pasitikėjimą yra didelės.

Artėjant 2025 metų rinkimų ciklui, vyriausybės ir technologijų platformos skatina atpažinimo ir autentifikavimo sprendimų diegimą. Europos Sąjungos AI aktas ir JAV Vykdomasis įsakymas dėl saugios, patikimos ir pasitikėjimo vertos dirbtinio intelekto normuoja skaidrumą ir žymėjimą AI generuotam turiniui. Pagrindinės platformos, tokios kaip „Meta“ ir „Google“, paskelbė planus žymėti sintetinę mediją ir patobulinti atpažinimo galimybes prieš svarbius rinkimus (Meta, Google).

• Priėmimo trajektorija: Tikimasi, kad sintetinės medijos įrankių priėmimas paspartės, kai politinės kampanijos naudos AI tiksliniam žiniasklaidai ir įsitraukimui, tuo tarpu priešininkai gali išnaudoti pažeidžiamumus dezinformacijai.
• Safeguarding measures: Rinka, skirta „deepfake“ atpažinimui ir turinio autentifikavimui, tikėtina, augti lygiagrečiai, su tokiomis įmonėmis kaip Deepware ir Sensity AI vadovaujančiomis inovacijoms realiuoju laiku.
• Reguliavimo perspektyva: Tikėtina, kad politikai įves griežtesnius atskleidimo reikalavimus ir baudas už piktybišką naudojimą, formuodami sintetinės medijos peizažą iki 2025 ir vėliau.

Kadangi sintetinė medija tampa vis labiau paplitusi, inovacijų, reguliavimo ir atpažinimo tarpusavio sąveika apibrėš 2025 metų rinkimų ciklo vientisumą ir nustatys precedentus būsimoms demokratiniams procesams.

Geografiniai centrai ir regioninė dinamika sintetinėje medijoje

Sintetinės medijos ir „deepfake“ plitimas formuoja globalų rinkimų peizažą, ypatingai dideliu intensyvumu regionuose, susiduriančiuose su lemiamais rinkimais 2025 metais. Kai generacinio AI įrankiai tampa vis labiau prieinami, manipuliuotų garso, vaizdo ir atvaizdų poveikis visuomenės nuomonei ir rinkėjų elgesiui išaugo. Pasak Europol ataskaitos, „deepfake“ vis dažniau naudojami dezinformacijos kampanijose, siekiant politinių tikslų Europoje, Šiaurės Amerikoje ir Azijoje.

Jungtinės Amerikos Valstijos: 2024 metų prezidentinių rinkimų ciklo metu padidėjo AI generuotų robokvailų ir netikrų kampanijų reklamų, kas paskatino Federalinę ryšių komisiją (FCC) vasario mėnesį uždrausti AI generuotų balsų skambučius (FCC). Artėjant 2025 metų vietiniams ir valstybės rinkimams, JAV valdžia investuoja į atpažinimo įrankius ir viešųjų sąmoningumo kampanijas. Vidaus saugumo departamentas taip pat pradėjo iniciatyvas, skirtas priešintis AI pagrįstam rinkimų kišimuisi (DHS).

Europa: Turint daugiau nei 70 rinkimų, planuojamų per visą žemyną 2024-2025 m., Europos Sąjunga prioritetizuoja sintetinės medijos reguliavimą. Europos Sąjungos Skaitmeninių paslaugų aktas, įsigaliosiantis 2024 m., reikalauja, kad platformos žymėtų „deepfake“ ir greitai pašalintų žalingą turinį (Europos Komisija). Tokios šalys kaip Vokietija ir Prancūzija vykdo AI atpažinimo partnerystes su technologijų įmonėmis, kad apsaugotų rinkimų procesus.

Azijos-Pacifikas: Indija, Indonezija ir Pietų Korėja yra regione karščiausios vietos, kai neseniai vykę rinkimai buvo sugadinti viralinėmis „deepfake“, taikomas kandidatams ir partijoms. 2024 metų Indijos generalinių rinkimų metu buvo pranešta apie daugiau nei 50 „deepfake“ vaizdo įrašų, per pirmą mėnesį (BBC). Indijos Rinkimų komisija nuo to laiko įpareigojo socialinių tinklų platformas pažymėti ir pašalinti sintetinį turinį per tris valandas nuo pranešimo.

• Pagrindiniai apsaugos veiksmai: Vyriausybės diegia AI pagrindu veikiančius atpažinimo įrankius, reikalauja greito turinio pašalinimo ir didina baudas piktybiniams veikėjams.
• Regioninis bendradarbiavimas: Kryžminės iniciatyvos, tokios kaip ES-JAV Prekybos ir technologijų taryba, skatina informacijos dalijimąsi ir geriausias praktikas (ES Komisija).

Artėjant 2025 metų rinkimų ciklui, sintetinės medijos grėsmių ir regioninių atsakymų sąveika bus kritiškai svarbi rinkimų vientisumui visame pasaulyje užtikrinti.

Sintetinės medijos evoliucijos rinkimų kontekstuose numatymas

Sintetinės medijos, ypač „deepfake“, greitas pažanga kelia reikšmingų iššūkių 2025 metų rinkimų ciklo vientisumui. „Deepfake“, kuris naudoja dirbtinį intelektą, kad sukurtų hiperealistiškus, bet suklastotus garso, vaizdo ar atvaizdus, tampa vis labiau sudėtingas ir prieinamas. Pasak Gartner ataskaitos, iki 2026 metų 80% vartotojų turėtų kasdien bendrauti su generatyviais AI modeliais, kas pabrėžia iš šių technologijų paplitimą.

Rinkimų kontekste sintetinė medija gali būti paversta ginklu dezinformacijai skleisti, kandidatų imituoti ar manipuliuoti visuomenės nuomone. 2024 metų rinkimų ciklas Jungtinėse Valstijose jau stebėjo AI generuotų robokvailų ir manipuliuotų vaizdo įrašų panaudojimą, kas privertė Federalinę ryšių komisiją (FCC) vasario mėnesį uždrausti AI generuotas balsas robokvailuose 2024 m. (FCC). Artėjant 2025 metų rinkimų ciklai įvairiose šalyse, tikėtina, kad sudėtingų ir plačiai paplitusių „deepfake“ kampanijų rizika augs.

• Atpažinimas ir atsakymas: Technologijų įmonės ir vyriausybės investuoja į atpažinimo įrankius. „Meta“, „Google“ ir „OpenAI“ paskelbė planus pažymėti AI generuotą turinį ir patobulinti detekcijos algoritmus (Reuters).
• Teisiniai veiksmai: Keletas jurisdikcijų įstatymus, siekdamos kriminalizuoti piktybišką „deepfake“ naudojimą rinkimuose. Europos Sąjungos Skaitmeninių paslaugų aktas ir JAV DEEPFAKES Accountability Act yra pavyzdžiai reglamentavimo atsakymų (Euronews).
• Viešas sąmoningumas: Žiniasklaidos raštingumo kampanijos buvo plečiamos, kad padėtų rinkėjams identifikuoti ir užduoti klausimų apie įtartiną turinį. 2023 metų Pew Research Center apklausa parodė, kad 63% amerikiečių yra susirūpinę dėl „deepfake“ poveikio rinkimams (Pew Research Center).

Užtikrinant 2025 metų rinkimų ciklą bus būtinas daugiašalis požiūris: tvirti atpažinimo technologijos, aiškūs teisiniai rėmai ir plačiai pritaikytas viešasis švietimas. Kai sintetinės medijos įrankiai tampa galingesni ir labiau prieinami, proaktyvūs veiksmai yra būtini siekiant išsaugoti rinkimų pasitikėjimą ir demokratinius procesus.

Rizikos, kliūtys ir strateginės galimybės užtikrinant rinkimus

Sintetinė medija ir „deepfake“: 2025 metų rinkimų ciklo užtikrinimas

Sintetinės medijos ir „deepfake“ plitimas kelia reikšmingas rizikas 2025 metų rinkimų ciklo vientisumui. „Deepfake“ – AI generuoti garsai, vaizdo įrašai ar atvaizdai, kurie įtikinamai imituoja realius žmones – gali būti paversti ginklu dezinformacijai skleisti, manipuliuoti visuomenės nuomone ir pakenkti pasitikėjimui demokratiniais procesais. Pagal Gartner ataskaitą, iki 2025 metų 80% vartotojų įmonių turėtų naudoti „deepfake“ marketingui, tačiau ta pati technologija vis labiau prieinama piktybiniams veikėjams.

• Rizikos: „Deepfake“ gali būti naudojamas imituoti kandidatus, skleisti melagingas teiginius ar kurti suklastotus įvykius. 2024 metais „deepfake“ robokvailas, imituojantis JAV prezidentą Joe Biden, ragino rinkėjus praleisti New Hampshire pirmaklaučių balsavimą, išryškindamas realią šios technologijos poveikį (The New York Times).
• Kliūtys: Deepfake atpažinimas išlieka techniniu iššūkiu. Nors AI atpažinimo įrankiai gerėja, priešai nuolat tobulina savo metodus, kad išvengtų atpažinimo. Be to, sintetinės medijos platinimas socialinių tinklų platformose pranoksta faktų tikrintojų ir institucijų galimybes reaguoti (Brookings Institution).
• Strateginės galimybės:
  • Reguliavimas ir politika: Vyriausybės imasi veiksmų, kad spręstų šias grėsmes. Europos Sąjungos Skaitmeninių paslaugų aktas ir JAV Federalinės rinkimų komisijos svarstymas dėl AI generuotų politinių reklamų taisyklių yra žingsniai, skirti atsakomybei (Politico).
  • Technologiniai sprendimai: Įmonės kaip Microsoft ir Google kuria žymėjimo ir autentiškumo įrankius, kad autentifikuotų mediją (Microsoft).
  • Viešasis sąmoningumas: Žiniasklaidos raštingumo kampanijos ir greito atsako faktų tikrinimas gali padėti rinkėjams atpažinti ir atsispirti manipuliavimui.

Artėjant 2025 metų rinkimų ciklui, bus būtinas daugiašalis požiūris – apimantis reguliavimą, technologijas ir švietimą – siekiant sumažinti sintetinės medijos rizikas ir apsaugoti demokratinius procesus.

Šaltiniai ir nuorodos

• Sintetinė medija ir „deepfake“: 2025 metų rinkimų ciklo užtikrinimas
• The New York Times
• Europos Komisija
• Microsoft
• Google
• First Draft
• Tarptautinė faktų tikrinimo tinklas
• Turinio autentiškumo iniciatyva
• balsų klonavimas
• Deepware
• Sensity AI
• Brookings Institution
• Meta
• Truepic
• Partnerystė dėl AI
• Vykdomasis įsakymas dėl saugios, patikimos ir pasitikėjimo vertos dirbtinio intelekto
• 64,3 milijardo USD iki 2030 metų
• Europol ataskaita
• BBC
• ES Komisija
• Euronews
• Pew Research Center
• Politico