Intel·ligència artificial al sector social
Vivim immersos en una voràgine de transformacions i d’evolució tecnològica constant que ens empeny a estar permanentment connectats i a integrar eines telemàtiques a totes les esferes la nostra vida. Un moviment constant del qual no se n’escapa gairebé ningú, des dels infants que ara es connecten a plataformes digitals d’entreteniment per veure els dibuixos animats, passant pels estudiants que estan substituint llibres i llibretes pels campus virtuals, les plantilles de treballadors i treballadores que després de la pandèmia estan hiperconnectades per videotrucada o les persones que busquen casa, parella, feina, cursos, restaurants, etc. a través d’aplicacions de tota mena.
I darrere d’aquest enrenou de pantalles i d’aplicacions que ens entretenen, que ens informen o ens fan de GPS, la indústria de la tecnologia i la intel·ligència artificial creix i creix i creix. Som conscients que ara per ara, a cop d’algoritme, les grans corporacions estudien els nostres comportaments, els nostres gustos i a partir del coneixement que van adquirint de cada usuari mostren contingut personalitzat, envien publicitat extremadament segmentada o preveuen amb quina parella podem fer match en una aplicació de cites. Nosaltres acceptem cookies, omplim formularis, acceptem polítiques de privacitat i la tecnologia fa la resta.
El debat ètic sobre l’ús de la intel·ligència artificial i els algoritmes està servit. Poden els algoritmes oferir oportunitats més enllà del lucre i caminar al costat dels drets humans i l’assoliment dels ODS? Des de Fundació Intermedia, que treballem en l’àmbit de l’orientació, la formació i la inserció laboral de persones en situació de vulnerabilitat, estem convençudes que el món social pot aprofitar les oportunitats que brinda la innovació per escalar i fer arribar molt més lluny la nostra tasca.
Deixeu-me que us ho expliqui. No tenir feina i no tenir ingressos mínimament estables posa a la persona en una situació de vulnerabilitat. Però és molt comú que els processos de selecció deixin fora justament a les persones en major situació de vulnerabilitat (per gènere, per edat, per origen, per menys formació, per experiència laboral discontinua) i és un peix que es mossega la cua.
Durant el procés de recerca de feina les persones s’inscriuen a moltes apps, webs i portals laborals, han d’omplir dades, llargs formularis i sovint la frustració arriba perquè sembla que les seves candidatures no es tenen en compte.
Els i les professionals que ens dediquem a inserció laboral sabem que la selecció inclusiva i eficient passa per un model de selecció per competències, molt més just, i que ofereix més oportunitats a les persones i més estabilitat a les empreses. Perquè senzillament, en comptes d’haver de valorar llargues llistes de requisits, el que es fa és un encaix entre les competències que requereix un lloc de feina i les competències, habilitats i aptituds que la persona pot aportar. No és complicat.
I en aquest context des d’Intermedia vam desenvolupar una plataforma digital (IntermediaJOB), una mena de portal de feina que es diferencia de la resta justament perquè és capaç de fer un encaix intel·ligent de competències entre ofertes de feina i persones candidates.
Però per arribar a les empreses ens toca explicar molt bé aquest canvi de paradigma en la selecció i fer que les àrees de selecció confiïn en aquest model. I això passa per la innovació. Per exemple, per incorporar tecnologia machine learning (d’aprenentatge automàtic) a IntermediaJOB. Una tecnologia que milloraria la fiabilitat del match de competències. Big data per aprofitar experiències d’èxit, ús de bots per fer més accessible la tecnologia a les persones (i no a l’inrevés)…
Apostem per la investigació sobre com la tecnologia pot ajudar a les persones que ho tenen més difícil, i a la vegada com fer polítiques de privacitat i cookies que siguin entenedores, accessibles, que realment ajudin a exercir els drets i no haver de marcar caselles automàticament sense saber què estem acceptant.
Aquesta és la part més complicada, però de moment hem fet part del camí al costat d’una consultora especialitzada, hem debatut sobre quins algoritmes emprar i quins no. Diem no als algoritmes que repeteixen biaixos, estereotips i discriminació de persones que queden excloses de llocs de feina. Diem no a algoritmes que posicionen millor a les candidatures que tenen més coneixements si no són els requerits en el lloc de feina, o que puntuen a persones d’un gènere sobre l’altre perquè segueixen patrons apresos.
Durant el recorregut hem anat veient que les tecnologies 4.0 tenen la capacitat de contribuir a reproduir l’ordre injust i discriminatori en el qual vivim i que genera enormes situacions de desigualtat entre gèneres, edatisme, discriminacions de classe, origen, entre altres. De fet ja ho alertava l’Alta Comissionada de les Nacions Unides pels Drets Humans, Michelle Bachelet: “Si bé la intel·ligència artificial té un enorme potencial per servir a la població, és innegable també la seva capacitat per contribuir a violacions de drets humans a gran escala, de manera gairebé indetectable”.
El debat serà llarg, però és molt necessari que com a societat i també com a sector tinguem clares les oportunitats que la tecnologia ofereix, però que hi mantinguem una actitud exigent i siguem conscients de quina incorporem.
– Article original publicat al Social.cat –