Les dades, per tant, són factuals. Són fets que podem examinar i considerar per a finalment poder raonar, entendre o informar els altres. Són la visió present i objectiva del món. El meu pes és una dada, i el radi de la Terra o el nombre d’habitants del món són dades. Les dades són certes i indiscutibles, perquè tothom les pot comprovar. La informació, en canvi, és allò que ens diem, que escrivim, que escoltem i que llegim. El meu pes de l’any passat ja no és una dada, és informació. No és una dada perquè ja no la puc mesurar. I com tota informació, pot ser falsa: tal vegada em vaig equivocar quan vaig apuntar el que marcava la bàscula. Els humans no parem de llegir i escriure informació. Alguns cops és objectiva, d’altres és esbiaixada, com bé estem comprovant cada dia, i altres és interessada i tendenciosa. No tot el que veiem als mitjans de comunicació i a internet és cert. Només cal llegir els diaris.
Però la cosa s’ha complicat encara més, els darrers anys. Hi ha sistemes d’intel·ligència artificial que aprenen de la informació que hi ha a internet i que en generen de nova. Miren quines compres hem fet, i ens suggereixen que comprem coses similars o que fem viatges semblants als que ja hem fet. Fins i tot, alguns sistemes construeixen perfils psicològics més o menys acurats dels potencials votants de determinats països, i els envien missatges electorals fets a mida, adaptats a cada un d’ells, per a aconseguir el seu vot per a una determinada opció política. És la publicitat enganyosa, aplicada a la política, amb “programes electorals personalitzats”. Hem d’estar molt atents per detectar i descobrir tot el que aquestes noves eines d’intel·ligència artificial i aprenentatge profund ens estan començant a enviar. Cal saber detectar (i hem de regular, com a societat) tota aquesta informació que algunes màquines estan fabricant automàticament i sense control humà.
La Virginia Eubanks, professora de ciències polítiques a la universitat de Albany, ha escrit un llibre on mostra que aquestes noves eines no són neutres, perquè a més castiguen els més pobres i acaben incrementant les desigualtats socials. Explica que als Estats Units, tot això ha permès que el govern hagi pogut imposar un règim de vigilància que inclou la creació de perfils personals i que acaba amb mesures que signifiquen càstig, contenció i exclusió per als que menys tenen. A partir d’un treball de camp que va comportar a l’autora fer un total de 96 entrevistes, el llibre analitza tres casos: el del sistema de salut de l’estat d’Indiana, el de l’assignació d’habitatge social a Los Angeles, i el de l’algorisme Allengheny de vigilància parental a Pittsburgh. 29 entrevistes a Indiana, 34 a Los Angeles, 33 a Pittsburgh. El teixit del llibre són les desgràcies de tota aquesta gent que va conèixer personalment, casos concrets que Virginia Eubanks va visibilitzant un a un. Gent castigada perquè el seu delicte és ser pobre. Per exemple, a Pittsburgh, Eubanks explica el cas de Patrick i Angel. Encara que són pares afectuosos que tenen cura dels seus fills a més d’ajudar voluntàriament altres nens de la seva comunitat, aquesta parella ha estat classificada repetidament pels sistemes automàtics d’informació dels serveis socials com a responsables de negligència infantil. Un dia que Patrick no tenia diners per pagar una recepta d’antibiòtic per la seva filla, el sistema va incorporar aquesta informació a la seva base de dades i Patrick va acabar sent investigat per “negligència mèdica”. Resulta que l’agència de benestar infantil utilitza un model estadístic per predir quins nens poden ser víctimes futures d’abús o negligència. I el resultat de tot plegat és que, “curiosament”, aquesta predicció acaba trobant molts més pobres que rics. Omega Young va ser una altra afectada pel sistema, explica. I molta altra gent ha sofert experiències similars. Tot es basa en sistemes automàtics d’aprenentatge profund que prenen decisions que (com mostra Eubanks) tendeixen a perjudicar els més desposseïts, decisions que els humans (sota l’efecte de l’anomenat biaix d’automatització) acceptem sense discutir ni analitzar, i que acaben traient drets als qui ja no tenen quasi res, incrementant automàticament les desigualtats socials.
Com diu la Virginia Eubanks, avui, als Estats Units, els sistemes automatitzats controlen quins barris cal vigilar policialment, quines famílies poden aconseguir recursos i qui ha de ser investigat per frau. És cert que tots vivim sota aquest nou règim de decisions automatitzades, però els sistemes més invasius i punitius apunten als pobres. Perquè, com bé diu la Elvia Vasconcelos en el seu dibuix que veieu a dalt (i que podeu trobar aquí, a la seva web), la tecnologia no fa més que amplificar els valors ètics de la nostra societat i les estructures subjacents. I és per això que la Virginia Eubanks, al seu llibre, parla de les antigues “cases dels pobres” mentre explica que estem construint una nova “casa digital dels pobres” que no ajuda els necessitats, sino que ens enganya fent-nos fugir de la responsabilitat compartida que tenim per eradicar la pobresa. Eubanks ho relaciona amb la idea, molt implantada als Estats Units, que els pobres ho són per culpa seva, que són una minoria patològicament depenent, i que són ells qui se’n han de sortir. Els sistemes automatitzats de decisió es basen en aquesta concepció i l’amplifiquen, com a noves eines que han nascut incrustades en els vells nuclis de poder i privilegi. Però la Francina Alsina ho diu ben clar: cal ser exigents i ambiciosos per aconseguir que el potencial tecnològic es recondueixi cap als més vulnerables.
Ethan Zuckerman, del Media Lab del MIT, diu que, ara que comencem a discutir el potencial que pot tenir la intel·ligència artificial per fer mal a les persones, el treball d’Eubanks hauria de ser d’obligada lectura.
——
Per cert, la Raquel Seco diu que moltes institucions i empreses ens animen a que protegim el medi ambient amb petits actes quotidians. I es pregunta si això no és un gran parany: estan col·locant la responsabilitat social sobre les nostres espatlles en lloc d’assumir-la?
