Brandie Nonnecke flet në Samitin e Politikave Teknologjike të Berkeley-t 2024, përkrah Janet Napolitano dhe Yoel Roth. Si drejtoreshë e CITRIS Policy Lab dhe projektit Our Better Web, Nonnecke po kërkon mënyra për t’i mbajtur përgjegjës kompanitë e mediave sociale për dëmet që shkaktojnë platformat e tyre.
30 Shtator 2024
Megjithëse shoqëria jonë është e varur nga skrollimi në mediat sociale, shumë prej nesh ndihen të shqetësuar kur shohin njoftimet që kanë humbur. Për çdo meme të zgjuar, fakt të shkëlqyer ose kafshë të dashur që kalon në feedin tonë, jemi po aq të prirur të hasim në një sulm të ashpër, fyerje racore ose koment plot urrejtje.
Por rreziqet potenciale shkojnë përtej ankthit. Një anketë e Pew Research nga viti 2021 zbuloi se një e katërta e amerikanëve kanë përjetuar forma të rënda të ngacmimit online, përfshirë kërcënime fizike, stalkim, ngacmim seksual dhe ngacmime të vazhdueshme, shpesh të lidhura me besimet e tyre politike. Dhe kjo nuk përfshin dëmet e tjera që shkakton fjalori i urrejtjes, dezinformimi dhe informacioni i rremë, të cilat janë edhe më të vështira për t’u matur.
Ndërkohë që shumë kompani mediatike po zhvillojnë udhëzime për komunitetin dhe po investojnë në moderatorë përmbajtjeje, si njerëzorë ashtu edhe algoritmikë, këto përpjekje duket se janë të pamjaftueshme për të frenuar valën e toksicitetit. Edhe kur platformat arrijnë të heqin përmbajtjen problematike dhe të ndalojnë përdoruesit, ata që janë objekt i urrejtjes ose ngacmimit online mbeten jashtëzakonisht të pafuqishëm. Pas gjithçkaje, vetëm disa klikime mjaftojnë që një përdorues i ndaluar të krijojë një llogari të re ose të ribëjë përmbajtjen e hequr.
Në UC Berkeley, studiuesit po imagjinojnë se si të mbështesin lirinë e shprehjes online duke minimizuar potencialin për dëm. Duke i mbajtur kompanitë e mediave sociale përgjegjëse, duke ndërtuar mjete për të luftuar fjalorin e urrejtjes online dhe duke mbështetur të mbijetuarit e abuzimit online, ata po punojnë për të krijuar hapësira online më të sigurta dhe më mikpritëse për të gjithë.
Lexoni edhe Një mënyrë e re për të parë paratë dhe lumturinë
“Ka shumë gjëra emocionuese në lidhje me mediat sociale që e bëjnë atë të pakapshëm. Mund të kemi bashkëpunim në kohë reale, mund të ndajmë arritjet tona, ëndrrat tona, historitë tona dhe idetë tona. Ky lloj ekspertize i grumbulluar ka vlerë reale,” tha Claudia von Vacano, drejtoreshë ekzekutive e D-Lab në Berkeley dhe udhëheqëse e Projektit për Matjen e Fjalorit të Urrejtjes. “Por mendoj se ne duhet të përdorim mjete për të siguruar që klima të jetë një ku askush të mos sillet i heshtur, të mos margjinalizohet ose, më keq akoma, të vihet në rrezik të vërtetë.”
‘Të tmerrshme, por ligjore’
Amendamenti i Parë kufizon aftësinë e qeverisë amerikane për të përcaktuar se çfarë mund dhe nuk mund të postohen online, duke e lënë kryesisht në dorë kompanitë e mediave sociale të vendosin se çfarë lloj përmbajtjeje do të lejohet. Falë një statute federale nga viti 1996 të quajtur Seksioni 230, kompanitë e mediave sociale gjithashtu nuk mund të mbahen përgjegjëse për përmbajtjen e krijuar nga përdoruesit, që do të thotë se nuk mund të paditen për fjalorin e urrejtjes, shpifjen ose materialet e tjera dëmtuese që përdoruesit postojnë në faqet e tyre.
“Mendoj se liria e shprehjes po lulëzon online,” tha Brandie Nonnecke, drejtoreshë e CITRIS Policy Lab dhe projektit Our Better Web. “Ne themi se është e tmerrshme, por është ligjore.”
Megjithatë, Seksioni 230 i jep këtyre kompanive gjithashtu lirinë të moderuar përmbajtjen e krijuar nga përdoruesit sipas dëshirës së tyre. Në fakt, ligji u përfshi në Aktin e Komunikimeve të Vitit 1996 për të inkurajuar kompanitë të hiqnin pornografinë dhe përmbajtjen e dhunshme nga platformat e tyre.
“Të gjithë përpiqen të fajësojnë Seksionin 230 për pse kemi fjalor urrejtjeje dhe përmbajtje dëmtuese online. Por kjo është në të vërtetë e gabuara,” tha Nonnecke. “Seksioni 230 në të vërtetë fuqizon platformat të moderuar përmbajtjen pa kërcënimin e një padie.”
Kompanitë e mediave sociale mund të mos jenë përgjegjëse për përmbajtjen që postojnë përdoruesit në platformat e tyre, por ato ende kanë një detyrë morale për të reduktuar dëmet që shkaktohen nga teknologjitë e tyre, thotë Nonnecke.
Në disa raste, ato mund të kenë një detyrë ligjore gjithashtu. Ndërsa përmbajtja e saktë të postuar në media sociale është e mbrojtur nga shprehja, platformat vetë nuk janë. Nëse këto teknologji funksionojnë në mënyrë që shkaktojnë dëm — për shembull, nëse një algoritëm inkurajon rregullisht sjellje të rrezikshme — kjo mund të konsiderohet si dizajn i papërshtatshëm të produktit. Në këtë rast, kompanitë mund të mbahen përgjegjëse ashtu siç mbahen përgjegjës kompanitë e automobilave për defektet e sigurisë, ose industria e duhanit për të mashtruar publikun për rreziqet e cigareve.
Në një artikull të Wired nga viti 2023, Nonnecke dhe Hany Farid, një profesor në Departamentin e Inxhinierisë Elektrike dhe Shkencave Kompjuterike dhe në Shkollën e Informacionit në Berkeley, përmendin një rast ligjor në të cilin SnapChat u detyrua të heqë Filtrimin e Shpejtësisë, i cili lejonte përdoruesit të regjistronin dhe ndanin shpejtësinë e tyre në kohë reale, pasi çoi në vdekjen e tre adoleshentëve në Wisconsin në një aksident të shpejtë. Studiuesit argumentojnë se kompanitë e tjera të mediave sociale duhet gjithashtu të mbajnë përgjegjësi për dizajnin e rrezikshëm të produkteve.
“Gjak është në duar të tyre,” tha Nonnecke. “Kur është e qartë se ata e kanë ndërtuar platformën e tyre në një mënyrë që inkurajon sjellje të rrezikshme dhe dëmtuese, që ka një kosto të vërtetë njerëzore, ata duhet të mbahen përgjegjës për këtë.”
Matja e urrejtjes
Edhe për platformat që po bëjnë një përpjekje të mirëfilltë për të moderuar përmbajtjen e krijuar nga përdoruesit, një pyetje themelore mbetet: Si e përkufizojmë në të vërtetë fjalorin e urrejtjes? Një deklaratë që i duket një personi e pafajshme mund të jetë jashtëzakonisht e dhimbshme për një tjetër. Dhe pa një përkufizim të pranuar për atë që përbën dëm, është e pamundur të dimë se sa fjalor urrejtjeje është prezent online, aq më pak si ta adresojmë atë.
Projekti për Matjen e Fjalorit të Urrejtjes, i lançuar nga Claudia von Vacano dhe ekipi i saj në D-Lab si përgjigje ndaj zgjedhjeve presidenciale të vitit 2016, po ndihmon në përgjigjen e këtyre pyetjeve. Projekti
