Algoritmes pont: eines per a la despolarització

És ben sabut que, per optimitzar l’engagement, els algoritmes de les xarxes socials tendeixen a donar una visibilitat desproporcionada a les veus més extremes i incendiàries,^[1] cosa que eleva la temperatura emocional de les converses en línia i contribueix a la polarització política.^[2] Ara bé, seria possible dissenyar algoritmes de classificació que ajudessin a crear punts en comú? Aquesta és la motivació subjacent d’una àrea emergent de recerca i pràctica al voltant dels «algoritmes pont» i la «classificació basada en ponts». En aquest article, faig una introducció concisa als algoritmes pont, explico on i com s’han utilitzat fins ara, tant en organitzacions de la societat civil com en plataformes de xarxes socials, i en resumeixo les limitacions i els reptes actuals.

El terme «classificació basada en ponts» pot descriure qualsevol mètode de classificació d’alternatives —ja siguin publicacions en xarxes socials, propostes polítiques, respostes a enquestes o candidats a càrrecs electes— que ajudi a crear entesa mútua i confiança entre les parts enfrontades.^[3] Aquest objectiu qualitatiu es trasllada a la pràctica de moltes maneres diferents. Explicaré els enfocaments més habituals, però perquè sigui més fàcil d’entendre imaginem-nos que volem iniciar un procés en línia — a la comunitat o regió que coneguem millor — en què els membres de grups que han estat en conflicte hagin de presentar les seves propostes per escrit sobre el que hauria de passar a partir de llavors. Com a persona facilitadora del procés, heu de decidir quines propostes (que podrien ser milers) tindran més visibilitat quan comuniqueu els resultats a la comunitat. A més, heu de fer-ho d’una manera que serveixi de pont, és a dir, que ajudi a fomentar l’entesa i la confiança mútues.

Els algoritmes de les xarxes socials tendeixen a donar una visibilitat desproporcionada a les veus més extremes i incendiàries. Podríem dissenyar algoritmes de classificació que ajudessin a crear punts en comú?

L’enfocament més habitual és identificar les propostes que representen punts en comú o d’«aprovació diversa», és a dir, que compten amb l’aprovació de persones que normalment no estan d’acord entre si. Si es disposa de dades en relació amb els vots de les persones de la comunitat sobre el suport a cada proposta, és possible quantificar el nivell de suport a cada proposta dins de cada grup i, aleshores, identificar les propostes que compten amb un alt nivell de suport en diversos grups. Trobar aquestes propostes i donar-los visibilitat té, com a mínim, dos efectes importants. En primer lloc, demostra que, de fet, sí que hi ha punts en comú, sovint força grans, que no solen ser àmpliament acceptats en situacions de conflicte. En segon lloc, dirigir l’atenció cap a les idees en la intersecció entre diferents grups, encara que no comptin amb un suport universal, ajuda a reduir la classificació,^[4] és a dir, l’homogeneïtat dels grups d’opinió, que és un factor de risc conegut per a l’escalada de conflictes. Vegem-ne alguns exemples:

Aquest enfocament ha estat utilitzat fa poc per l’Aliança per la Pau al Pròxim Orient (ALLMEP) en una sèrie de diàlegs[5] en línia impulsats per ajudar a crear punts en comú entre negociadors de pau israelians i palestins, un procés que va donar lloc a un conjunt de cinc demandes per als líders mundials i la comunitat internacional, que van comptar amb un suport superior al 90% a les dues bandes.

S’ha implementat a gran escala a les Notes de la Comunitat, una funció de la plataforma X (abans Twitter) que permet als usuaris proposar notes que aporten un context important a les piulades que consideren enganyoses. Aquestes notes es mostren públicament si un algoritme determina que és probable que siguin considerades útils per persones dels dos extrems de l’espectre polític. Aquest algoritme és de codi obert, i la funció també s’està provant a les plataformes de Meta (Facebook, Instagram, Threads), TikTok i YouTube.

Un altre exemple és Polis, una eina de codi obert dissenyada per facilitar el diàleg col·lectiu en línia, àmpliament utilitzada en el context de la societat civil i de consolidació de la pau, simplifica l’accés a aquest tipus de classificació. A l’informe estàndard d’una conversa de Polis, només cal baixar fins a la secció de totes les declaracions i seleccionar l’opció d’ordenar les declaracions per consens informat pel grup.

La classificació basada en ponts pot descriure qualsevol mètode de classificació d’alternatives – publicacions a xarxes o propostes polítiques – que ajudi a crear entesa mútua i confiança entre les parts enfrontades

Un segon tipus d’enfocament és intentar reflectir un conjunt de propostes que siguin representatives de les opinions de la comunitat. Així es garanteix la inclusió de propostes diverses, però també un context suficient sobre el grau de suport que tenen aquestes propostes i d’on prové aquest suport. La representació i el context social són importants perquè, en contextos polaritzats, solen haver-hi grans diferències de percepció:^[6] tendim a pensar que l’altra part té opinions més extremes o intolerables de les que realment té. El context social necessari per desmuntar aquestes falses percepcions també sol faltar a les xarxes socials:^[7] d’una banda, actuen com un «prisma»^[8] que dona una visibilitat desproporcionada a les perspectives més incendiàries; d’altra banda, només ofereixen recomptes bruts de «m’agrada», «compartir», etc., sense informació sobre fins a quin punt ressona una publicació entre la població en general o en quines comunitats és més present aquest sentiment. Per això, pot ser important que els processos gestionats per la societat civil contribueixin a oferir aquest context social.

Aquest enfocament també s’aplica a Polis, l’eina esmentada abans, que al seu informe estàndard ofereix tant una visualització dels grups d’opinió més destacats com un informe sobre fins a quin punt cada grup està d’acord amb cada afirmació.

I aquesta aproximació també és una de les principals raons que justifiquen l’ús d’enquestes d’opinió pública tradicionals en processos de pau,^[9] com les enquestes utilitzades per Colin Irwin^[10] a Irlanda del Nord, el Caixmir, els Balcans, Sri Lanka i altres llocs. L’objectiu és — en part— ajudar les persones a adonar-se que hi ha molta més gent que comparteix les seves opinions del que es pensen (és a dir, reduir la «ignorància pluralista»).

Els algoritmes pont són part d’un ecosistema emergent d’eines deliberatives en línia que poden facilitar el diàleg en contextos polaritzats

Un tercer tipus d’enfocament és utilitzar classificadors automatitzats per identificar i millorar la classificació de les propostes amb trets evidents que indiquen que han estat redactades de bona fe. Aquests classificadors solen ser més «opacs» que els dos enfocaments anteriors: no sempre és possible saber per què el classificador ha puntuat un text determinat d’una manera concreta. Per això, l’ús d’aquest tipus de classificadors podria ser menys adequat en aquells processos en què la transparència i l’equitat procedimental siguin cabdals. Ara bé, poden ser útils en fòrums en línia més informals, per exemple, per animar els participants a reflexionar sobre com poden rebre els altres la seva aportació i per empoderar-los perquè filtrin els tipus de aportacions que consideren valuoses.

Com a exemple, Google Jigsaw ha creat classificadors automatitzats, gratuïts, que es poden utilitzar per puntuar textos (per exemple, comentaris en un fòrum en línia) segons el grau d’«atributs pont» que presenten, com ara compassió, curiositat, matisos o respecte.

Reptes i limitacions

Cadascun d’aquests enfocaments té les seves limitacions, i el disseny d’algoritmes pont és una àrea de recerca molt activa. No obstant això, cal destacar tres reptes que és important tenir en compte.

En primer lloc, la classificació dels elements de contingut és intrínsecament de suma zero, i l’optimització de qualsevol aspecte — ja sigui els punts en comú, la representativitat, els matisos o qualsevol altre paràmetre — implicarà enfrontar-se a concessions en altres objectius com a facilitador del procés. Com a exemple, podem fixar-nos en l’objectiu de punts en comú. És molt més fàcil que les persones es posin d’acord en vaguetats sobre la creació d’un futur més harmoniós que, per exemple, en les clàusules redactades de manera precisa que es podrien incloure en un acord de pau substantiu. I molts negociadors de pau són conscients de la «jugada» diplomàtica, que consisteix a modificar el llenguatge perquè sigui cada vegada més abstracte o procedimental i permeti així continuar el diàleg malgrat un desacord irresoluble. El resultat, per exemple, no és un acord sobre com es distribuiran els beneficis i les càrregues, sinó un acord que recollirà senzillament que s’han de distribuir «de manera justa» o que se seguirà un procés determinat per deliberar sobre la manera com es farà la distribució.

Per avançar en el diàleg es modifica el llenguatge perquè sigui cada vegada més abstracte; l’objectiu de maximitzar els punts en comú xoca amb l’objectiu de minimitzar l’ambigüitat

Tot i que de vegades sigui l’única manera possible d’avançar, amb aquesta vaguetat només s’aconsegueix posposar el problema —el desacord que inevitablement caldrà resoldre— jugant amb l’ambigüitat del llenguatge — i, per tant, el fons del que s’acorda —. Així, l’objectiu de maximitzar els punts en comú xoca amb l’objectiu de minimitzar l’ambigüitat: la classificació per aprovació diversa pot fer que les declaracions relativament vagues o ambigües ocupin els primers llocs. Això es pot apreciar als resultats del procés de l’ALLMEP esmentat abans, en què alguns dels «valors» i «visions» més integradors (pont) per al futur tenen aquest caràcter. Actualment hi ha un projecte en curs, en el qual col·laboro, que pretén desenvolupar un mètode per identificar declaracions, alhora integradores (pont) i inequívoques.

En segon lloc, el fet que es pugui utilitzar un algoritme per reconèixer punts en comú o matisos no garanteix que se’n trobin gaires. Les aplicacions que han utilitzat aquests mètodes amb més èxit han creat contextos en què també s’ha fet un esforç considerable per generar condicions perquè les persones hi participin de bona fe i aportin idees que considerin que poden tenir una àmplia ressonància. Una limitació de les Notes de la Comunitat^[11] àmpliament coneguda, per exemple, és que només un percentatge relativament petit — menys del 10% — de totes les notes que s’escriuen es consideren pont — i, per tant, es mostren públicament —. La seva eficàcia com a mecanisme de control de falsedats a l’esfera pública queda considerablement limitada, però és difícil crear una cultura d’aquest tipus aplicable a l’escala d’una plataforma moderna de xarxes socials. En canvi, quan els algoritmes pont s’utilitzen en processos amb una creació extra de confiança, amb temps per a la deliberació i en comunitats prou petites com perquè les persones tinguin un sentit compartit de la responsabilitat — per exemple, perquè viuen al mateix lloc i reconeixen que han de construir una part de la seva vida en comú plegats —, és probable que tinguin més èxit, ja que hi haurà més idees pont que es puguin trobar.

En tercer lloc, és important reconèixer que l’accessibilitat de la classificació basada en ponts com a eina per a facilitadors i negociadors de pau encara no és la que hauria de ser. Potser la implementació més accessible és l’eina de codi obert Polis. I si esteu familiaritzats amb els fulls de càlcul, també és fàcil utilitzar la classificació basada en ponts per seleccionar els resultats dels processos executats a Remesh — l’eina utilitzada per l’ALLMEP — o en les votacions recopilades mitjançant qualsevol eina d’enquestes estàndard. Els algoritmes pont són només una de les opcions que solen formar part d’un ecosistema emergent d’«eines deliberatives» en línia que poden facilitar el diàleg en contextos polaritzats.[12]

L’impacte dels algoritmes pont es notarà sobretot quan en facin un ús estratègic organitzacions de negociació de pau i de la societat civil en contextos polaritzats

I ara què?

Els algoritmes pont continuen sent una àrea de recerca activa^[13]. En el context de les xarxes socials, un ampli estudi acadèmic ha provat fa poc diversos algoritmes pont amb aproximadament 6.000 participants, durant quatre mesos, a diverses plataformes (Facebook, X i Reddit), i aviat sabrem si ha aconseguit reduir la polarització afectiva. Un estudi recent més modest,^[14] que va provar un tipus d’algoritme pont a X, ja ha demostrat que és possible. Ara bé, tot i que gran part de l’atenció s’ha centrat en les xarxes socials, crec que l’impacte dels algoritmes pont — almenys a curt termini — es notarà sobretot quan en facin un ús estratègic organitzacions de negociació de pau i de la societat civil en contextos polaritzats a escala més local o regional.

*Si us interessen aquests mètodes podeu contactar amb l’autor o amb el centre Deliberative Tech del Council on Technology and Social Cohesion, una comunitat de pràctica emergent per a organitzacions de la societat civil que utilitzen aquestes eines.

Aquesta és una versió traduïda de l’article originalment publicat en anglès.

Fotografia

Representació simbòlica dels algoritmes i del seu paper en la polarització en l’àmbit digital. Autoria: Achira22 (Shutterstock).