El 2022, #BookTok, a la plataforma TikTok, va impulsar les vendes literàries als Estats Units; el comerç local a través de WhatsApp va expandir la presència de petites empreses arreu d’Amèrica Llatina, i l’ús de Facebook per arribar als votants va fer que augmentés la participació de les persones joves i les que votaven per primera vegada a les eleccions regionals de l’Índia. Alhora, aquell mateix any, les xarxes socials van amplificar les tensions ètniques durant el període d’eleccions de Kènia, van difondre desinformació sobre la guerra a Ucraïna i van incitar la violència durant les protestes a l’Iran. Igual que en anys anteriors i posteriors, les xarxes socials van donar forma a la cultura, la política i els conflictes de maneres diverses, sovint contradictòries. Però l’any 2022 també va marcar un punt d’inflexió: a nivell global, el temps dedicat a les plataformes socials va començar a disminuir, especialment entre el jovent. Això pot indicar que la seva influència social comença a minvar?
Per respondre a aquesta pregunta cal comprendre els mecanismes amb què les xarxes socials influeixen en les societats i, el que és d’especial interès per a aquest monogràfic, com les xarxes repercuteixen en els conflictes. Les tendències a les xarxes socials son una manifestació del consens assolit per un grup concret. En l’àmbit de la construcció de pau, ens preocupa la manera en què la desinformació erosiona la veritat, malmet les institucions i condueix a la violència. No obstant això, resulta essencial aprofundir una mica més en les causes d’aquesta erosió de la veritat.
La veritat, en un sentit postmodern, no és estàtica, sinó dialògica o, en altres paraules, és el reflex d’un consens social que proporciona l’estabilitat i la base comuna necessàries per al desacord, fins al punt en què aquest consens es veu qüestionat de forma constructiva. Les xarxes socials han influït en la veritat i l’estabilitat en afeblir el consens social, i la característica clau d’aquest debilitament no és tant la desinformació — aquesta és un senyal o, com a molt, una tàctica — sinó la polarització afectiva. La polarització afectiva (o polarització tòxica) es distingeix de la polarització basada en qüestions o idees, i té a veure amb situacions en què es creu en certes persones pel que són, no pel que diuen. Com més poderoses són les tendències de les xarxes socials i els subgrups digitals, més gran és la polarització afectiva i més es fragmenta l’ampli consens social sobre la veritat en múltiples consensos de subgrups. No és tant que la veritat s’hagi erosionat, sinó que s’ha fragmentat.
No és tant que la veritat s’hagi erosionat, sinó que s’ha fragmentat
En aquest monogràfic, Ahmad Qadi analitza en profunditat com aquesta fragmentació de la veritat està afectant el conflicte, i examina com la «tríada de desinformació, discurs d’odi i polarització» a les xarxes socials reflecteix i alimenta activament les tensions, aguditza les divisions i pot prolongar el conflicte. Ell l’anomena — i jo hi estic d’acord — «un component essencial de la guerra de la informació moderna». Descriu com Israel ha lliurat aquesta guerra psicològica contra la població palestina amb continguts generats per intel·ligència artificial i granges de bots per amplificar el sentiment antipalestí i promoure les accions militars israelianes en els espais digitals occidentals. Alhora, l’article de Sanjana Hattotuwa estudia més a fons l’impacte d’aquestes opinions en línia manipulades, en un context específic que és important per a la construcció de pau: les taules de negociació a porta tancada i els processos de mediació. I l’entrevista amb Stephanie Williams ens parla d’un cas semblant: analitza com el discurs d’odi en línia i la ingerència estrangera durant els esforços de pau de Nacions Unides a Líbia, entre 2019 i 2020, no només van fer que les divisions sobre el terreny es fessin més profundes, sinó que també van posar en perill les dones que treballaven i negociaven per la pau (inclosa la mateixa Williams).
Voldria pensar que el descens en l’ús de les xarxes socials que va començar el 2022 també pot significar un retorn lent a un món menys fragmentat i menys polaritzat, en què els conflictes no siguin tan propensos a escalar i descontrolar-se; un món en el qual hàgim de preocupar-nos menys pels riscos que Qadi i Hattotuwa exploren en els seus articles. Amb tot, l’auge de la intel·ligència artificial (IA) en els últims anys no només manté la tendència iniciada per l’ús de les xarxes socials, sinó que també la complica amb vies que intensifiquen encara més els conflictes.
En el seu article sobre els riscos de la IA per a una pau sostenible, Evelyne Tauchnitz analitza aquesta qüestió des de la perspectiva de la pau relacional, és a dir, com la IA disminueix la capacitat de les persones i les seves xarxes (societats) per convertir els desacords en discussions constructives en lloc de conflictes destructius o violents. Tauchnitz posa en relleu com la intel·ligència artificial afecta la dignitat —a través de l’extracció i el colonialisme de dades, en explotar i respondre als nostres estats emocionals, mitjançant la vigilància digital i en desgastar la nostra capacitat d’acció pràctica i moral— i com soscava la confiança en les institucions. Segons la seva opinió, els sistemes d’IA erosionen les condicions que permeten a les societats ser resilients davant els conflictes.
Voldria pensar que el descens en l’ús de les xarxes socials pot significar un retorn lent a un món menys fragmentat i menys polaritzat, en què els conflictes no siguin tan propensos a escalar i descontrolar-se
Més enllà del que explica Tauchnitz, hi ha dos riscos concrets de la IA per a la pau als quals val la pena parar esment de manera especial. En primer lloc, la IA pot menyscabar la veritat entesa com a consens quan empobreix el periodisme i la recerca. Les màquines no poden proporcionar els matisos i l’instint profundament contextual i humà que ofereixen els periodistes i els investigadors, per exemple en entrevistes a testimonis dels fets. En relació a aquesta qüestió, Wahbi Abdelrahman teixeix una història bonica i trista sobre com un arxiu digital està evitant el genocidi cultural a la guerra del Sudan, i com la incorporació d’habilitats de digitalització en les institucions locals és una forma de resistència a ser esborrats del mapa. Abdelrahman destaca que l’arxiu digital és un procés sociotècnic, una col·laboració entre humans i màquines que la IA no pot substituir. Irònicament, aquesta disminució de la informació humana amenaça el futur desenvolupament de la pròpia IA. Els grans models de llenguatge actuals (LLM) es basen en quantitats enormes de dades, i hi ha certa preocupació (a debat) que si la IA esgota el contingut de qualitat que generen els éssers humans i que és necessari per al seu entrenament —com el periodisme de qualitat, l’arxiu i la recerca— això pugui acabar en un atzucac en matèria de dades.
En segon lloc, la IA pot debilitar els processos de diàleg, tot i que també hi ha alguns casos excel·lents del seu ús en favor del debat. L’article de Luke Thorburn explora com podem dissenyar algoritmes de classificació (és a dir, els programes informàtics que decideixen quin contingut veiem primer o quin contingut veiem més, en qualsevol mitjà digital) per fomentar la connexió. Per exemple, Thorburn explica que es poden utilitzar algoritmes per trobar declaracions amb les quals els qui d’una altra manera estarien en desacord poden posar-se d’acord i relata com l’Aliança per a la Pau al Pròxim Orient ha utilitzat aquesta eina. Stephanie Williams descriu com l’ús de la IA per resumir les opinions en els diàlegs digitals sobre Líbia organitzats per l’ONU va ajudar a pressionar la classe política perquè aquesta reconegués l’opinió pública sobre qüestions difícils. Igual que en el cas de la investigació, aquests casos d’ús estan integrats en processos sociotècnics que mantenen la connexió humana. Quan la IA s’utilitza per representar grups sense participació humana erosiona els processos essencials d’escolta i diàleg, fonamentals per a la democràcia i la pau. La deliberació és primordial per al debat públic i els processos legislatius, ja que permet als grups qüestionar els prejudicis, exigir informació i forjar compromisos que condueixin a decisions més defensables i duradores. La dependència excessiva dels resums o models basats en la IA no permet captar aquesta experiència vital, complexa i viva.
Hi ha certa preocupació (a debat) que si la IA esgota el contingut de qualitat que generen humans i que és necessari per al seu entrenament —com el periodisme de qualitat, l’arxiu i la recerca— ens podem trobar en un atzucac en matèria de dades
Ni les xarxes socials ni la IA són forces inevitables. Són iniciatives empresarials. El que fa que les xarxes socials siguin pitjors per a la societat és que el seu model de negoci es basa a captar l’atenció. Durant un temps, va semblar que el model de negoci de la IA podria centrar-se més en la infraestructura del núvol que en la publicitat o a captar l’atenció, però a principis del 2025 va quedar clar que això està canviant: OpenAI, un dels actors més destacats en l’àmbit de la intel·ligència artificial, ha triat la publicitat com el seu model principal de negoci; i d’altres seguiran el seu exemple. Tornem al de sempre: mentre el disseny d’Internet, les tecnologies digitals i la IA se centrin fermament a maximitzar l’atenció, tindrem un impacte negatiu en els conflictes, a través de la fragmentació, la polarització i l’erosió d’oportunitats perquè la nostra societat assoleixi, amb la deliberació, un consens cap a una pau sostenible i pluriversal.
És més, si en el disseny i la governança de la tecnologia no apliquem principis que tinguin en compte els contextos del conflicte (conflicte sensitive principles), la tecnologia pot ser —i serà— utilitzada com a arma de control per part d’actors poderosos. Nerima Wako explica vivament aquest risc en el seu apassionat article sobre el ciberactivisme a l’Àfrica Oriental —on, segons ella, Internet no és només el mitjà, sinó el moviment— i la reacció digital repressiva contra aquesta nova activitat democràtica (principalment juvenil). El seu text és una advertència sobre com la regulació pot significar repressió, però també una crida esperançadora i potent a defensar una Internet lliure i fiable que ofereixi espais per al diàleg quan els espais fora de línia (offline) estan sent atacats. Segons Wako, «una societat pacífica digitalment és aquella en què els activistes no necessiten telèfons de prepagament, en la qual les lleis protegeixen la llibertat d’expressió, i podem discrepar de forma forta i apassionada i amb seguretat».
Pot ser que la gent estigui farta dels espais digitals que són alhora repressius i polaritzants; pot ser que el descens en l’ús de les xarxes socials del 2022 sigui un presagi del què ha de venir. Cap d’aquestes tecnologies no és una força imparable de la natura. Podem deixar de fer-les servir. Podem emprar-les de manera diferent. Podem regular-les. Podem redissenyar-les. Els sis articles d’aquest monogràfic també desprenen esperança.
Després de dibuixar un panorama ombrívol sobre com s’ha lliurat la guerra digital contra la població palestina i com això és un exemple de tendències més esteses en la guerra de la informació moderna, l’article d’Ahmed Qadi enumera una gran quantitat de vies per passar de la divisió al diàleg. De la mateixa manera, l’article d’Evelyne Tauchnitz acaba amb un missatge d’esperança, argumentant que la IA pot contribuir a la pau si alineem els seus principis de disseny no només amb la millora de l’eficiència i la solidesa, sinó també amb la salvaguarda de la dignitat i la llibertat humanes. Amb vista a aquests enfocaments esperançadors, els articles de Wahbi Abdelrahman i Luke Thorburn examinen exemples concrets i pràctics de com les tecnologies digitals poden contribuir a la pau, mentre que Stephanie Williams descriu la manera en què l’impacte negatiu de les xarxes socials en el procés de pau a Líbia va provocar un debat a les Nacions Unides sobre com es podrien utilitzar els diàlegs digitals per augmentar la transparència en els processos de mediació.
Internet, la tecnologia digital i la intel·ligència artificial plantegen tants reptes com oportunitats per la pau. Abordar-los és una qüestió moral i política que concerneix tothom que treballa per la pau a l’era digital
Com podem aconseguir que el disseny de tecnologia prosocial i de foment de la pau, tal com el descriu Thorburn, es converteixi en la norma? Heus aquí una possible resposta: l’article de Sanjana Hattotuwa acaba amb una trucada als mediadors i constructors de pau perquè no només es tornin més hàbils a l’hora de navegar pels «comuns digitals adversaris d’avui dia», sinó que també influeixin en com es dissenyen.
La conclusió de Hattotuwa és també la direcció que crec que ens cal seguir. Internet, la tecnologia digital i la intel·ligència artificial plantegen tants reptes per a la pau com oportunitats: els articles que segueixen ofereixen una visió general del que ens ha de preocupar en un món mediat digitalment i de com podem canviar el rumb cap a la pau. Però el més important és que aquest monogràfic defensa que abordar aquests reptes no és només una qüestió tècnica reservada als qui sabem dur a terme campanyes per contrarestar l’odi en línia o aplicar la IA en un procés consultiu. Abordar-los és sobretot una qüestió moral i política que concerneix qualsevol que treballi per la pau a l’era digital.
Aquest monogràfic de la revista “Per la Pau” (número 43) és una coedició de l’ICIP i Build Up. La col·laboració s’emmarca en la coorganització de Build Peace 2025 a Catalunya, la conferència anual de Build Up sobre tecnologia, innovació i construcció de pau. L’esdeveniment s’ha celebrat del 21 al 23 de novembre a Santa Coloma de Gramenet (Barcelona).
Aquesta és una versió traduïda de l’article originalment publicat en anglès.
Fotografia
Representació simbòlica de la col·laboració entre humans i tecnologies digitals. Autoria: Rawpixel.com (Shutterstock).