Presentació

Aquest apartat recull elements de caràcter ètic i auto-regulador que cal tenir en compte en la utilització de la IA. 

Privacitat i seguretat de les dades  

Principalment la IA s’alimenta de dades que provenen de fonts de dades obertes a internet però també d’altres informacions que es van recollint del propi ús d’aquestes eines. Hem de revisar els termes d’utilització dels serveis que es volen fer servir per evitar fuites d’informació no desitjades de la pròpia institució o bé que estiguin protegides per el reglament RGPD (Reglamento General de Protección de Datos) i altres normatives.  

Integritat acadèmica i propietat intel·lectual  

La IA generativa s’està convertint en una eina bàsica en molts àmbits professionals. Els estudiants tenen a la seva disposició aquestes eines per resoldre les seves tasques i activitats. S’ha d’exigir un comportament ètic respecte al seu ús i l’atribució del material que aquestes eines produeixen. Quan es facin servir, s’haurà d’especificar l’objectiu, el procediment i els resultats obtinguts.  

És important que les eines utilitzades respectin la normativa vigent, tinguin permisos d’ús de les fonts de dades i respectin la propietat intel·lectual per generar contingut. 

Dependència dels algorismes d’aprenentatge automàtic  

Els algorismes de IA generativa utilitzen la informació ja existent per a resoldre una determinada tasca sol·licitada. Aquests algorismes son complexos i moltes vegades el seu comportament no és fàcilment interpretable. Això pot generar problemes de transparència i confiança respecte a com es comporten o quins resultats generen. S’ha de tenir en compte que aquests models no son capaços d’entendre el text que s’està generant. Es genera un text a partir de les dades que es tenen amb l’ús de patrons estadístics i a una certa aleatoreitat que es produeix en la generació del resultat. 

La informació de partida que utilitzen aquestes eines pot ser no verídica, contenir biaixos, estereotips o reproduir comportaments discriminatoris. Per tant, l’aplicació d’aquests models pot reproduir aquests biaixos i, fins i tot, amplificar-los. 

També és important considerar que aquestes aplicacions tenen les seves pròpies limitacions i poden generar resultats fabricats amb dades incorrectes, incoherents o il·lògiques. És possible detectar aquestes fabricacions si es te coneixement sobre el tema tractat o bé comparant el resultat amb fonts externes. És important utilitzar aquestes eines en un marc de pensament crític contrastant amb fonts d’informació fiables.  

Desigualtats en l’accés a la tecnologia 

Una problemàtica equivalent a la bretxa digital de l’accés a internet es pot produir en l’ús de les eines d’IA generativa, donat que segments de la població tindran dificultats en accedir a aquestes eines en la seva modalitat de pagament. És important que les universitats facilitin aquest tipus d’eines en un àmbit d’igualtat d’oportunitats, creant un accés uniforme i general. 

Questions mediambientals 

L’ús de la IA generativa pot tenir un impacte significatiu en el medi ambient degut a l’alt consum d’energia necessari per entrenar i executar els models per a grans volums de dades. Per això, els usuaris han de conèixer i valorar el cost energètic com un factor de decisió. També és important conèixer si els models de IA es desenvolupen i s’executen amb fonts d’energia netes i renovables com a una forma efectiva de reduir les emissions de carboni.