Govor mržnje na društvenim mrežama predstavlja ozbiljan društveni problem u savremenom svijetu, uključujući i Bosnu i Hercegovinu. Digitalne platforme kao što su Facebook, Twitter, TikTok, Instagram i YouTube omogućavaju brzu razmjenu informacija, ali istovremeno pružaju prostor za širenje netolerancije, predrasuda i mržnje prema različitim grupama i pojedincima. Kroz algoritme koji podstiču angažman, društvene mreže često favorizuju sadržaje koji izazivaju emocionalne reakcije, uključujući one koji sadrže elemente govora mržnje.

U Bosni i Hercegovini, zemlji s kompleksnim društvenim i političkim kontekstom, govor mržnje dodatno doprinosi podjelama i narušava međuljudske odnose. Posljedice govora mržnje nisu ograničene samo na virtuelni prostor; one mogu dovesti do povećane netrpeljivosti u stvarnom životu, ugrožavajući društvenu koheziju i stabilnost. Ovaj rad ima za cilj istražiti kako algoritmi društvenih mreža doprinose širenju govora mržnje, koji oblici govora mržnje su najčešći na ovim platformama, te kakvi su mogući načini borbe protiv ovog fenomena. Posebna pažnja biće posvećena istraživanju uloge tehnologije u amplifikaciji negativnog sadržaja i načinima na koje društvo može odgovoriti na ovaj izazov.

Algoritmi društvenih mreža imaju za cilj personalizaciju sadržaja prema korisničkim interakcijama, analizirajući ponašanje korisnika – od lajkova do vremena provedenog na određenim objavama. U teoriji, njihova funkcija bi trebala biti pružanje relevantnih informacija. U praksi, ovi algoritmi favorizuju sadržaj koji izaziva jake emocionalne reakcije, što često dovodi do amplifikacije negativnog sadržaja, uključujući govor mržnje.

Onda dolazimo do pitanja kako i  na koji način algoritmi amplificiraju govor mržnje? Jedan od ključnih izazova leži u prirodi algoritamskog preporučivanja sadržaja. Istraživanja su pokazala da algoritmi ne prave razliku između pozitivnih i negativnih interakcija. Ovo dovodi do situacije gdje sadržaj koji izaziva intenzivne reakcije – čak i negativne ili uvredljive – postaje vidljiviji. U takvom okruženju, govor mržnje ne samo da postaje prisutan, već i normalizovan u svakodnevnim interakcijama.

Fotografije: privatna arhiva

– Iako društvene mreže s jedne strane nisu same direktno odgovorne za sadržaje koje njihovi korisnici dijele, s druge strane, zahvaljujući sofisticiranim algoritmima, odgovorne su za način distribucije takvih sadržaja. Iako princip rada takvih algoritama nije otvoren za javnost i možemo tek posredno zaključivati na koji način funkcionišu, činjenica je da platforme prikupljaju podatke i na bazi algoritama odlučuju koje će sadržaje učiniti korisnicima vidljivijim, a koje ne, u što svakako spada i govor mržnje. Na ovaj način platforme, koje su prvobitno služile samo za zabavu i komunikaciju, postaju ustvari poligon za zloupotrebu i manipulaciju. U tom smislu posebno zabrinjava činjenica da su konzumenti takvih sadržaja pretežno mladi ljudi, s obzirom da su upravo mladi ljudi najbrojniji korisnici većine društvenih mreža. Stoga je od izuzetne važnosti što intenzivnije raditi na medijskom i informatičkom opismenjavanju mladih, kako bi bili spremni prepoznati sve negativne izazove koje društvene mreže sa sobom nose i kako bi znali pravilno istražiti i procijeniti sadržaje na koje nailaze, ne uzimajući ih zdravo za gotovo. U tom smislu treba spomenuti i Akt EU o digitalnim uslugama (Digital Services Act, DSA), kao pokušaj EU da uspostavi regulaciju štetnih sadržaja u online sferi, a što je svakako i naša država dužna implementirati u domaće zakonodavstvo –  dodala je Elma Džaferović, iz Regulatorne agencije za komunikacije BiH.

Pitanje je, zašto algoritmi favorizuju polarizovane narative? Glavni razlog leži u motivaciji za povećanjem angažmana korisnika. Kontroverzni postovi često privlače više interakcija, a time i veći broj pregleda. U tom procesu, platforme se suočavaju s moralnim dilemama: da li prioritet dati slobodi izražavanja ili zaštiti korisnika od štetnog sadržaja? Da bismo bolje razumjeli kako algoritmi utiču na percepciju govora mržnje, sprovedena je anketa među korisnicima društvenih mreža. Cilj je bio prikupiti podatke o njihovim iskustvima s negativnim sadržajem i njihovim stavovima prema njemu. Pitanja su se fokusirala na učestalost primjećivanja govora mržnje i percepciju algoritamskih preporuka. Pored anketa, uključeni su i intervjui sa stručnjacima iz oblasti digitalnih komunikacija i novinarstva, koji su osvijetlili kompleksnost problema i ukazali na moguće smjernice za unaprijeđenje algoritama. Ova kombinacija metoda omogućila je dublje razumijevanje uticaja algoritama na javni diskurs.

Kao ključni utjecaji na društvo, algoritmi društvenih mreža imaju višestruke efekte na širenje govora mržnje, uključujući:

1. Amplifikacija polarizovanog sadržaja: Negativni komentari i uvrede postaju sve prisutniji u online diskusijama. Korisnici se suočavaju s toksičnim okruženjem, što može odvratiti one s konstruktivnim mišljenjima od angažmana.
2. Prepoznavanje govora mržnje: Algoritmi se oslanjaju na ključne riječi i fraze, ali često ne uspjevaju da prepoznaju suptilne oblike mržnje. Na primjer: ironični ili neizravni komentari mogu proći neprimijećeno, dok su korisnici koji se bore protiv mržnje često pogrešno označeni.
3. Mentalno zdravlje: Kontinuirano izlaganje govoru mržnje može dovesti do anksioznosti i depresije. Mnogi korisnici se povlače iz online zajednica zbog toksičnosti, što dodatno umanjuje njihovu slobodu izražavanja.
4. Normalizacija mržnje: Kada algoritmi favorizuju uvredljive komentare, oni postaju deo svakodnevnog dijaloga. Urednici i kreatori sadržaja imaju odgovornost da osiguraju da njihov rad ne doprinosi ovoj normalizaciji.
5. Aktivizam i otpor: S druge strane, algoritmi takođe omogućavaju brzo širenje pozitivnih poruka i aktivizma. Organizacije koje se bore protiv govora mržnje koriste društvene mreže da okupe podršku i šire svest o ovim pitanjima.

 Jedan od ključnih problema leži u nedovoljnoj moderaciji sadržaja na platformama. Mnoge kompanije priznaju da je efikasnost njihovih timova za moderaciju često nedovoljna da bi se spriječilo širenje govora mržnje. Potrebno je razvijati napredne alate koji koriste tehnike mašinskog učenja za prepoznavanje i uklanjanje uvredljivog sadržaja. U isto vreme, važno je naglasiti da algoritmi moraju biti transparentni i etički. Kritičari često ističu da postoji rizik od pristranosti, što može naštetiti korisnicima s alternativnim stavovima ili aktivizmom. Razvijanje algoritama koji prepoznaju kontekst i suptilnosti jezika može poboljšati efikasnost moderacije.

Fotografija: Dnevni avaz

– Ovo što rade algoritmi na drustvenim mrezama, radi i naš mozak. Psihologija je odavno pokazala i dokazala da ljudi mnogo više žele da čuju i vide one informacije koje su u skladu sa njihovim stavovima i uvjerenjima. Da pojednostavim tražimo informacije koje su u skladu sa našim svjetonazorom, družimo se sa sebi sličnim ljudima, čitamo knjige i gledamo filmove koji nam oni preporučuju. Naravno, u realnom životu mnogo češće nailazimo na neistomišljenike i to nas donekle vraća u realnost, jer ih ne možemo blokirati. Društvene mreže nas uvjeravaju da smo mi u pravu jer nam daju informacije koje su nam potrebne, ali i ljude, koje čak i ne poznajemo, a koji podržavaju naša uvjerenja i boje ih emocijama (srce, emotikoni i sl.). Vremenom mi postajemo uvjereni da je to naša realnost. Tako da je naša pristrasnost, još više “napumpana” preko društvenih mreža. Poseban problem je odsustvo autoriteta, gdje autoriteti postaju oni koji govore ono što mi želimo da čujemo (antivakseri, ravnozemljaši i sl.). Virtualna prijateljstva nisu prava i mi to znamo, ali zbog toga mnogo manje vodimo računa kako se ophodimo prema neistomišljenicima i onda lako prelazimo granicu pristojnosti, a to znači da govor mržnje postaje normalan i poželjan – rekao je  Srđan Puhao, socijali psiholog, bloger i aktivista.

Kako se tehnologija nastavlja razvijati, neophodno je da društvene mreže preuzmu odgovornost za krei ranje sigurnog okruženja. Uzimajući u obzir njihov utjecaj na društvene norme i stavove, potrebno je raditi na stvaranju zdravijeg digitalnog prostora. Aktivnosti poput uključivanja ljudskih moderatora i jačanja zakonske regulative mogu pomoći u postizanju ovog cilja.

fOTOGRAFIJA: Privatna arhiva

– Algoritamsko sortiranje i distribucija sadržaja na društvenim mrežama donijelo je itekako velike izazove za savremena društva i demokratije. Na ovim mrežama, nerijetko se sloboda govora zloupotrebljava i širi govor mržnje i ostale vrste štetnih sadržaja. Evropska unija već dugo pokušava naći način kako da “dekodira” algoritme odnosno uredi situaciju u kojoj oni nerijetko veću pažnju i ranking daju polarizirajućim sadržajima – uključujući i one koji koriste govor mržnje. Digital Services Act (EU) koji je stupio na snagu 2022. godine nastoji utvrditi “jasnija pravila” kada je ova tema u pitanju, a nedavno je otvoren i Evropski centar za transparentnost algoritama, sve s ciljem da se smanjili loši utjecaji na ljude. No, ključna je stvar da velike platforme (društvene mreže) preuzmu odgovornost i pobrinu se za transparentnost obrazaca djelovanja algoritama koje koriste – kazala je  profesorica Lamija Silajdzić, sa Fakulteta političkih nauka u Sarajevu.

Algoritmi društvenih mreža igraju ključnu ulogu u oblikovanju online interakcija, a njihov uticaj na govor mržnje je složen i izazovan. Samo zajedničkim naporima možemo stvoriti prostor koji promoviše toleranciju, razumijevanje i inkluzivnost. Kritičko promišljanje o ulozi tehnologije u našem svakodnevnom životu ključno je za izgradnju boljeg digitalnog sveta. Ovaj istraživački rad predstavlja poziv na akciju za sve učesnike u ovom dijalogu: od korisnika društvenih mreža do njihovih kreatora i regulatora. Samo zajedničkim snagama možemo se suočiti s izazovima koje donose algoritmi i stvoriti prostor za konstruktivan dijalog i pozitivne promjene.

Objavljivanje ovog teksta je finasirano grantom Ministarstva vanjskih poslova Sjedinjenih Američkih Država (Department of State). Mišljenja, nalazi i zaključci koji su ovdje navedeni pripadaju autorima i ne odražavaju nužno mišljenja, nalaze i zaključke Ministarstva vanjskih poslova Sjedinjenih Američkih Država.

Naslovna fotografija: Canva, ilustracija

Autorica: Nejra Halilović