V začetku tega meseca je družba Snap skupaj z drugimi vodilnimi tehnološkimi podjetji, prejela pismo več kot 200 organizacij civilne družbe, raziskovalcev in novinarjev, ki nas spodbujajo, da okrepimo naše prizadevanje za zaščito integritete volitev v letu 2024. Zelo cenimo njihovo zagovorništvo in delimo njihovo zavezanost k temu, da ljudem po vsem svetu omogočimo sodelovanje na volitvah. Hkrati se trudimo storiti vse, kar je v naši moči, da pomagamo zaščititi našo demokracijo.

Ob upoštevanju pomembnosti teh tematik in globoke odgovornosti, ki jo čutimo do stotin milijonov ljudi, ki uporabljajo aplikacijo Snapchat za komuniciranje s svojimi prijatelji in družino ter za spoznavanje sveta prek naših vsebin, smo se odločili, da naš odziv javno objavimo. V nadaljevanju lahko preberete naše pismo in spoznate več o naših načrtih za letošnje volitve.

***

21. april 2024

Spoštovane organizacije civilne družbe:

Zahvaljujemo se vam za vašo nenehno budnost in zagovorništvo v tem letu izjemne volilne dejavnosti po vsem svetu. Zahvaljujemo se za priložnost, da lahko delimo več o tem, kako se družba Snap loteva svojih odgovornosti v tem okolju, ter kako se ta prizadevanja ujemajo z dolgoletnimi vrednotami naše družbe.

Pregled pristopa aplikacije Snapchat

Naš pristop k integriteti platforme v povezavi z volitvami je kompleksen. Na splošno vključuje osnovne elemente:

• Predvidene varnostne funkcije izdelka;

• Jasni in premišljeni pravilniki;

• Temeljit pristop k političnim oglasom;

• Sodelovalne, usklajene operacije; In

• ponujanje orodij in virov za pomoč uporabnikom aplikacije Snapchat.

Skupno ti stebri podpirajo naš pristop k omilitvi različnih tveganj, povezanih z volitvami, obenem pa zagotavljajo, da imajo uporabniki aplikacije Snapchat na voljo orodja in informacije, ki podpirajo njihovo sodelovanje v demokratičnih postopkih po celem svetu.

1. Predvidene varnostne funkcije izdelka

Že od samega začetka je bila aplikacija Snapchat zasnovana na drugačen način kot tradicionalna družbena omrežja. Snapchat ne odpre neskončnega, neurejenega seznama vsebin in ne omogoča javljanja v živo.

Zelo dobro se zavedamo, da največje grožnje zaradi škodljivih digitalnih dezinformacij izvirajo iz hitrosti in obsega, s katerim jih nekatere digitalne platforme širijo. Naše politike in arhitektura platforme omejujeta priložnosti za nepreverjene ali neurejene vsebine, da bi neovirano dosegale pomembne razsežnosti. Namesto tega predhodno moderiramo vsebino, preden jo razširimo na veliko ciljno skupino in širše omejujemo distribucijo novic in političnih informacij, razen če izvirajo od zaupanja vrednih založnikov in ustvarjalcev (vključno na primer z medijskimi organizacijami, kot so The Wall Street Journal in The Washington Post v ZDA, Le Monde v Franciji ter Times Now v Indiji. 

V preteklem letu je bila uvedba generativnih funkcij umetne inteligence v aplikaciji Snapchat izvedena z enako mero premišljenosti. Omejujemo sposobnosti naših izdelkov z umetno inteligenco pri ustvarjanju vsebine ali podob, ki bi se lahko uporabile za oslabitev državljanskih procesov ali zavajanje volivcev. Naš klepetalni robot, My AI na primer, lahko zagotavlja informacije o političnih dogodkih ali kontekstu socialnih vprašanj; programiran je tako, da ne izraža mnenj o političnih kandidatih ali spodbuja uporabnikov aplikacije Snapchat h glasovanju za določen izid. V naših funkcijah za pretvorbo besedila v sliko smo sprejeli sistemske omejitve glede ustvarjanja tveganih vsebinskih kategorij, vključno s podobami znanih političnih osebnosti.

Že več kot desetletje in skozi več volilnih ciklov igra naša produktna arhitektura ključno vlogo pri ustvarjanju izjemno neugodnega okolja za tiste, ki želijo motiti državne postopke ali podirati informacijsko okolje. In dokazano uspešno deluje. Naši najnovejši podatki kažejo, da je od 1. januarja do 30. junija 2023 skupno število izvršitev na globalni ravni zaradi škodljivih lažnih informacij (vključno s tveganji za integriteto volitev) predstavljalo le 0,0038 % celotne izvršene vsebine, s čimer se uvršča v najnižje kategorije verjetnosti škode na naši platformi.

V letu 2024 bomo nadaljevali s pristopom, ki izpostavlja izdelke, k našim prizadevanjem za integriteto platforme, vključno z našimi zavezami kot podpisniki Tehnološkega pakta za boj proti zavajanju z uporabo umetne inteligence na volitvah leta 2024.

2. Jasni in premišljeni pravilniki

Kot dopolnilo k našim varnostnim ukrepom za izdelke smo uvedli niz pravilnikov, ki prispevajo k napredku varnosti in integritete v kontekstu pomembnih dogodkov, kot so volitve. V naših smernicah skupnosti je izrecno prepovedano širjenje škodljivih lažnih informacij, sovražnega govora ter groženj ali pozivov k nasilju.

Kar zadeva škodljivo vsebino v povezavi z volitvami, so naše zunanje politike močne in podprte s strani vodilnih raziskovalcev na področju integritete informacij. Navajajo specifične kategorije škodljive vsebine, ki so prepovedane, vključno z:

• Proceduralne motnje: dezinformacije, ki se nanašajo na dejanske volitve ali državljanske postopke, kot so napačne informacije o pomembnih datumih, urah ali pogojih za udeležbo;

• Motnje pri sodelovanju: vsebina, ki vključuje zastraševanje glede osebne varnosti ali širjenje govoric z namenom odvračanja od sodelovanja pri volilnem ali državljanskem procesu;

• Prevara ali nezakonito sodelovanje: vsebina, ki spodbuja ljudi k lažnemu predstavljanju z namenom sodelovanja v državljanskem postopku ali nezakonitemu oddajanju ali uničevanju glasovnic; in

• Delegitimizacija državljanskih postopkov: vsebina, ki si prizadeva diskreditirati demokratične institucije na podlagi napačnih ali zavajajočih trditev na primer o rezultatih volitev.

Prav tako zagotavljamo notranje smernice za zagotavljanje, da naše ekipe za moderiranje razumejo načine, na katere se tveganja volitev pogosto prepletajo z drugimi kategorijami škode, vključno s sovražnim govorom, mizoginijo, ciljanim nadlegovanjem ali celo zlorabo identitete.

Naši pravilniki veljajo za vse vrste vsebin na naši platformi, bodisi ustvarjene s strani uporabnikov ali z umetno inteligenco.¹Prav tako poudarjamo, da se vsi pravilniki enako uporabljajo za vse uporabnike aplikacije Snapchat, ne glede na njihov ugled. V vseh primerih je naš pristop do škodljive in zavajajoče vsebine preprost: odstranimo jo. Ne označujemo je, ne premikamo je nižje v viru; preprosto jo odstranimo. Uporabniki aplikacije Snapchat, ki kršijo naša pravila glede vsebine, prejmejo opomin in opozorilno sporočilo; če nadaljujejo s takšnimi kršitvami, lahko izgubijo pravice v svojem računu (vendar imajo vsi uporabniki aplikacije Snapchat možnost pritožbe na našo odločitev).

3. Temeljit pristop k političnim oglasom

Kot platforma, ki dovoljuje politično oglaševanje v kontekstu demokratičnih volitev, smo se resno lotili sprejemanja strogih praks za zmanjšanje tveganj za integriteto volitev. Posebej pomembno je, da je vsak politični oglas v aplikaciji Snapchat pregledan in preverjen s strani človeških preverjevalcev dejstev, preden ga objavimo na naši platformi. Za podporo tem prizadevanjem po potrebi sodelujemo z družbo Poynter in drugimi organizacijami članicami mednarodnega omrežja za preverjanje dejstev, da zagotovimo neodvisne, nepolitične ocene o tem, ali lahko potrdimo trditve oglaševalcev. Pri našem preglednem postopku političnih oglasov temeljito preverimo morebitno zavajajočo uporabo umetne inteligence pri ustvarjanju zavajajočih slik ali vsebine.

Za zagotavljanje transparentnosti mora biti v oglasu jasno navedeno ime plačnika. V skladu z našimi pravilniki za politične oglase ne dovolimo, da bi jih plačevale tuje vlade ali katerikoli posamezniki ali subjekti zunaj države, kjer potekajo volitve. Verjamemo, da je v javnem interesu, da se lahko vidi, kateri politični oglasi so odobreni za prikazovanje, zato vodimo Knjižnico političnih oglasov, ki vključuje informacije o ciljih, stroških in drugih vpogledih.

Za zagotovitev skladnosti s temi postopki, naša politika komercialnih vsebin vplivnežem prepoveduje promoviranje plačanih političnih vsebin zunaj tradicionalnih oglasnih formatov. To zagotavlja, da vse plačane politične vsebine upoštevajo naše prakse pregledovanja oglasov in zahteve za oznake.

4. Sodelovalne, usklajene operacije

Pri družbi Snap izvajamo skupinski pristop pri operativnem uveljavljanju varnostnih mehanizmov za integriteto volitev. Znotraj podjetja smo vzpostavili multifunkcionalno ekipo za integriteto volitev, ki vključuje strokovnjake za dezinformacije, politično oglaševanje in kibernetsko varnost, z namenom spremljanja vseh relevantnih dogodkov v povezavi z volitvami po svetu v letu 2024. Raznolikost zastopanih področij v tej skupini odraža naš pristop, ki zajema celotno podjetje pri varovanju integritete platforme. Vključuje predstavnike oddelkov za zaupanje in varnost, moderiranje vsebin, inženiring, izdelke, pravne zadeve, politiko, operacije zasebnosti, varnost in druga področja.

Pri moderiranju in izvajanju vsebin ohranjamo jezikovne sposobnosti, ki so primerne za vse države, v katerih deluje družba Snap. Prav tako smo vzpostavili protokol za odziv v kriznih situacijah, ki zagotavlja operativno prilagodljivost v primeru visoko tveganih globalnih dogodkov.

Ta duh usklajevanja je razširjen tudi na zunanja sodelovanja. Redno sodelujemo z deležniki demokracije in organizacijami civilne družbe za nasvete, vpoglede v raziskave ter za poslušanje pomislekov ali prejemanje eskalacij incidentov. (Številni podpisniki vašega pisma so še vedno naši cenjeni partnerji za te namene.) Pogosto seznanjamo vlade in uradnike za volitve z našim pristopom k integriteti platforme. Prav tako sodelujemo v pobudah več deležnikov, kot smo to storili letos, na primer z organizacijami civilne družbe, volilnimi organi in drugimi deležniki industrije, pri oblikovanju prostovoljnih smernic za integriteto volitev tehnoloških podjetij. In pozdravljamo dodatne priložnosti za konstruktivno sodelovanje z vsemi deležniki pri podpori zmanjševanja digitalnih tveganj za civilne postopke.

5. Ponujanje orodij in virov za pomoč uporabnikom aplikacije Snapchat

Pri družbi Snap smo vedno verjeli, da je državljansko angažiranje ena najmočnejših oblik samoizražanja. Kot platforma, ki pomaga ljudem pri samoizražanju in ima pomemben doseg med novimi in prvič registriranimi volivci, si prizadevamo, da naši skupnosti omogočimo dostop do natančnih in zaupanja vrednih informacij o novicah in svetovnih dogodkih, vključno s tem kje in kako lahko glasujejo na lokalnih volitvah.

V letu 2024 bodo ta prizadevanja usmerjena v tri stebre, ki so ostali nespremenjeni skozi leta:

• Izobraževanje: zagotavljanje dejanske in relevantne vsebine o volitvah, kandidatih in vprašanjih prek naših vsebinskih in partnerskih sodelovanj v storitvi Discover.

• Registracija: spodbujanje uporabnikov aplikacije Snapchat, da se registrirajo za glasovanje s pomočjo verodostojne državljanske infrastrukture tretjih strani.

• Vključevanje: ustvarjanje navdušenja v aplikaciji glede državljanskega udejstvovanja ter spodbujanje uporabnikov aplikacije Snapchat h glasovanju pred volitvami oziroma na dan volitev.

Veliko teh načrtov je trenutno v pripravi za leto 2024, vendar bodo gradili na mnogih uspehih, ki smo jih dosegli v preteklih letih pri povezovanju uporabnikov aplikacije Snapchat z informativnimi viri.

Sklep

V tako pomembnem trenutku tako za demokracije po svetu kot za pospeševanje močnih novih tehnologij, je še vedno pomembno, da so platforme transparentne glede svojih vrednot. Glede tega so naše vrednote popolnoma jasne: odločno zavračamo vsakršno zlorabo naše platforme, ki bi lahko ogrozila državljanske procese ali predstavljala tveganje za varnost uporabnikov aplikacije Snapchat. Ponosni smo na do sedaj dosežene rezultate, vendar moramo še naprej ostati budni glede tveganj, povezanih z volitvami. Za to se vam še enkrat zahvaljujemo za vaše konstruktivno angažiranje pri teh vprašanjih.

Lep pozdrav,

Kip Wainscott

Vodja za pravilnike platforme