Kuidas meid sotsiaalmeedias manipuleeritakse.
Google tõlkis. Dr Pekka Kallioniemi on sotsiaalmeedia ja desinformatsiooni asjatundja, kes on töötanud Tampere Ülikoolis sõltumatu konsultandina ning olnud seal ka järeldoktorantuuris. Tema põhiline uurimisvaldkond oli inimese ja arvuti vaheline suhtlus. Lisaks akadeemilisele huvile tipptehnoloogia vastu on ta uurinud Venemaa veebipõhiseid infooperatsioone ja desinformatsioonikampaaniaid. Oma uurimistöös keskendub ta sellele, kuidas tehnoloogiate, nagu ChatGPT, süvavõltsingute ja generatiivse tehisintellekti kasutuselevõtt võib tulevikus mõjutada veebipõhiseid infooperatsioone ja desinformatsiooni levitamist.
Artikkel.
Maailmas, kus rohkem inimesi saab oma uudiseid sotsiaalmeediast kui ajalehtedest või televisioonist, on aeg esitada raske küsimus: kui suur osa sellest, mida me veebis näeme, on tõeline? Ebamugav vastus on: vähem, kui me arvame. See, mida me sageli autentse avaliku arvamusena tajume, on üha enam manipuleerimise tulemus – seda teevad robotid, tasulised võltskontode armeed, turundusfirmad, tehisintellekti loodud uudiste saidid ja isegi terved riigid, kes muudavad teabe relvaks. Ja suurem osa sellest toimub otse silme ees.
Alustame millegi häirivalt lihtsaga: pitsa hinna eest saab osta tohutu mõjuvõimu. Vabakutseliste turgudel kulub vaid mõne hiireklõpsuga tuhandete võltsjälgijate, meeldimiste, jagamiste ja kommentaaride ostmiseks platvormidel nagu Instagram, TikTok, YouTube ja X (endine Twitter). Küsi endalt: kui palju teie enda postitusi on kunagi saanud tuhandeid meeldimisi või jagamisi? Vastus on enamiku inimeste jaoks ilmselt mitte ükski – mis teebki selle manipuleerimise nii petlikuks. Neid kaasatust suurendavaid teenuseid pakutakse tavaliselt sellistest riikidest nagu India, Filipiinid ja Vietnam, kus õitsev digitööliste tööstusharu on muutnud võltsmõjutamise täiskohaga äriks.
Olgu selleks siis populaarsust teesklev mõjutaja, klientide kiitust simuleeriv ettevõte või poliitiline tegelane, kes püüab äärmuslikku arvamust peavooluks muuta – see võltskaasamise äri moonutab meie infokeskkonda. Raske on öelda, mis on trendikas, kuna inimesed hoolivad, ja mis on trendikas, kuna keegi maksis selle trendiks muutmise eest.
Miski selles pole uus. Aastaid on ettevõtted tegelenud sotsiaalmeedia manipuleerimisega turunduse varjus – tellides nn „astroturfingu“ kampaaniaid, kus võltskontod esinevad tavaliste inimestena, kes toetavad toodet või ründavad konkurenti. Need taktikad piirdusid kunagi tarbijabrändide edendamisega, kuid nüüd on need levinud ka poliitikasse. Poliitilised tegelased, PR-firmad ja isegi valitsused kasutavad samu kaasamistaktikaid, mida kunagi kasutati tossude või limonaadi müümiseks, ideoloogiate müümiseks, vastaste mustamiseks ja desinformatsiooni levitamiseks. See, mis algas kommertsliku nüansina, on nüüd poliitiline sõda.
Salakavalam manipuleerimisvorm ei ole ajendatud ideoloogiast, vaid kasumist. Kaasamisfarmid – mis asuvad sageli sellistes riikides nagu India, Filipiinid ja Vietnam – kasutavad tohutu publiku kasvatamiseks nn raevufarme. Need operaatorid kasutavad ära lõhestavat kultuurilist ja poliitilist sisu (sageli selliste liikumiste nagu MAGA ümber), et esile kutsuda viha, hõimude lojaalsust ja obsessiivset kaasatust.
See toimib nii: kontod postitavad ööpäevaringselt provotseerivat, varastatud või ümbersõnastatud sisu – mis on nüüd tehisintellekti abil hõlpsasti automatiseeritav –, mis on loodud pahameele õhutamiseks ning meeldimiste, jagamiste ja kommentaaride ligimeelitamiseks. Need postitused keerlevad sageli polariseerivate teemade ümber, nagu immigratsioon, vaktsiinid, kliimamuutused, rass, sugu ja muud probleemid, mis garanteerivad tugevate emotsionaalsete reaktsioonide tekkimise. Mida rohkem kaasatust, seda suurem ulatus. Mida suurem ulatus, seda suurem reklaamitulu. Reklaamijagamismudelitega platvormidel nagu YouTube, Facebook ja X võib isegi tagasihoidlikult edukas raevukonto teenida sadu või tuhandeid dollareid kuus – elumuutev sissetulek maailma osades, kus keskmine palk on palju madalam.
Nagu 404 Media 2025. aasta uuringus selgus, pärineb suur osa Facebooki tehisintellekti loodud rämpssisust Filipiinide ja Vietnami sisufarmidest, kus madalapalgalised töötajad toodavad klikisööda, tehisintellekti rämpsu ja ümberjutustatud poliitilist pahameelt, mille eesmärk on suurendada kaasatust ja reklaamitulu. See, mis näeb välja nagu vihaste kodanike armee, võib tegelikult olla paar sülearvutit Ho Chi Minhi linna või Manila kohvikus. Ja see, mis näeb välja nagu poliitiline tribalism, võib tegelikult olla ärimudel – emotsioonide relvastamine klikkide ja raha vastu.
Sotsiaalmeedia algoritmid on loodud seadma esikohale sisu, mis kutsub esile tugevaid emotsionaalseid reaktsioone – eriti viha, hirmu või moraalset pahameelt. Tulemus: platvormid mitte ainult ei salli raevu külvavat sisu, vaid sageli võimendavad seda. Kaasatus muutub nähtavuseks. Nähtavusest saab viraalsus.
See loob tagasisideahela. Botid ja võltskaasatus tõstavad sisu voos ülespoole. Algoritm korjab selle üles ja annab sellele veelgi hoogu. Inimesed näevad seda, reageerivad ja jagavad seda – uskudes, et see on orgaaniliselt populaarne. See loob illusiooni konsensusest või veel hullem, tõe illusiooni.
Selle sisuga suhtlevad kasutajad sorteeritakse kiiresti kajakambritesse, kus nad näevad ainult postitusi, mis kinnitavad nende uskumusi. See isoleerib kogukondi, radikaliseerib üksikisikuid ja muudab kasutajad tulevaste manipulatsioonide – nii poliitiliste kui ka muude – suhtes haavatavamaks. Samuti nõrgestab see ühiskonna võimet pidada konstruktiivset arutelu või tunnistada objektiivseid fakte, mis on toimiva demokraatia jaoks hädavajalikud.
Desinformatsioonimajandust on võimendanud generatiivne tehisintellekt. 2024. aasta alguses kulutas ajakirjanik Jack Brewster vabakutseliste platvormil Fiverr vaid 105 dollarit, et ehitada täisautomaatne TI propagandaveebisaidil. Ta palkas alltöövõtja looma võltsitud uudistekanali, mis kasutaks tehisintellekti – sealhulgas ChatGPT-d – pärisartiklite ümberkirjutamiseks ja parteilise tegevuskava edendamiseks, avaldades kümneid lugusid päevas ilma igasuguse järelevalveta. See võttis vähem kui nädala. Arvestades, kui kiiresti tehisintellekt on sellest ajast alates arenenud, oleks see tänapäeval tõenäoliselt odavam, kiirem ja nõuaks veelgi vähem oskusi. Sisenemisbarjäär on kadunud – ja kuna tehisintellekt muutub võimsamaks ja kättesaadavamaks, muutub interneti üleujutamine veenvate, hästi kirjutatud valedega ainult lihtsamaks.
Venemaa on need taktikad järgmisele tasemele viinud. France24 ja teiste uurimiste kohaselt ujutavad Venemaa võrgud internetti üle miljonite võltsitud uudisteveebisaitidega – masinloodud ja tõlgitud kümnetesse keeltesse. Need saidid propageerivad Kremli-meelseid narratiive, kirjutavad ümber ajalugu ja toovad nõusolekut. Nende eesmärk ei ole mitte ainult avaliku arvamuse mõjutamine, vaid ka tehisintellekti mudelite andmekogumite mürgitamine, taktika, mida tuntakse kui “LLM-i peibutamist”.
Interneti üleujutamisega usutava, kuid vale sisuga on nende operatsioonide eesmärk rikkuda teadmiste tulevikku ennast. Kui suuri keelemudeleid treenitakse saastunud andmete põhjal, võivad nad hakata valeinformatsiooni papagoilikult levitama, seda ise teadmata. See on valeinformatsiooni uus piir: mitte ainult inimeste mõjutamine, vaid ka neid mõjutavate algoritmide mõjutamine.
Kuid on oluline mõista, et mitte kõik manipulatsioonid ei pärine Venemaa või Hiina trollifarmidest. Desinformatsioon on nüüd tohutu, globaliseerunud äri – ökosüsteem lugematute osalejatega, kellest igaüks ajab oma tegevuskava. Mõned on rahaliselt motiveeritud, ajades taga reklaamitulu ja klikkidel põhinevat kasumit. Teised on poliitilised aktivistid, ideoloogilised äärmuslased, ettevõtete lobistid või riiklikult toetatud agendid. Manipuleerimisvahendid on nüüd laialdaselt kättesaadavad, mis tähendab, et igaüks – alates natsionalistlikust rühmitusest Euroopas kuni vabakutselise töövõtjani Kagu-Aasias – saab läbi viia propagandakampaaniat. Lahinguväli on killustatud, konkurentsitihe ja mürast küllastunud. Ja selles kaootilises maastikus muutub tõde sageli ebapopulaarseks ja ebaoluliseks.
