Perspectives i usos de la IA en la docència Reflexió i debat sobre els usos de la intel·ligència artificial en la docència i l'aprenentatge universitaris

Posicionament de la UAB respecte als usos de la IA en docència

Apunts per generar un procés de reflexió i debat i la posterior regulació sobre els usos de la intel·ligència artificial en la docència i l'aprenentatge universitaris

Pilar Dellunde (professora de Lògica i IA, Departament de Filosofia), Toni Espinosa (professor del Departament d’Arquitectura de Computadors i Sistemes Operatius, sotscoordinador del grau d’IA), Jordi Grau (professor d’Antropologia Social i Cultural, vicedegà d’Alumnat, Facultat de Filosofia i Lletres), Margarita Freixas (professora de Llengua Espanyola, degana de la Facultat de Filosofia i Lletres), Josep Àngel Guimerà (professor del Departament de
Comunicació Audiovisual i Publicitat, vicedegà de Qualitat, Facultat de Ciències de la Comunicació), Màrius Martínez (coordinador, professor d’Orientació Professional, Departament de Pedagogia Aplicada, i vicerector de Relacions Internacionals), Cristina Mercader (professora de Tecnologia Educativa, Departament de Pedagogia Aplicada), Pilar Sánchez-Gijón (professora del Departament de Traducció, experta en traducció neuronal) i Ingrid Noguera (professora del Departament de Teories de l’Educació i Pedagogia Social).

1. Presentació

El començament del segon quadrimestre del curs 2022-2023 va estar marcat per la preocupació d’una part del professorat per l’arribada d’algunes aplicacions basades en la intel·ligència artificial (IA), que potencialment podrien impactar en la docència i la seva avaluació a la universitat. En detectar aquesta preocupació, l’Equip de Govern va decidir crear un grup de treball que analitzés aquesta situació i fes propostes per a promoure una reflexió pausada i un
primer conjunt de mesures essencialment de caràcter divulgatiu, reflexiu i metodològic. Aquest document n’és un primer resultat provisional.
Un cop constituït el grup de treball amb professorat de diferents centres, s’ha elaborat aquest document, que serà un document viu, perquè la tecnologia a la qual es refereix evoluciona gairebé a temps real i convindrà anar-lo actualitzant regularment. El contingut del document pretén afavorir la introducció a la reflexió sobre la incidència que la IA tindrà en la docència universitària. Si bé la reflexió és àmplia, la quantitat de possibilitats d’aplicar o incloure la IA en
la docència no s’esgoten en les referències a algun programa concret o a la creació de text, exclusivament. La IA pot aplicar-se a text, a imatge, a so, al món audiovisual i a altres processos i activitats, de manera que aquest document només n’enceta la reflexió a partir dels més coneguts, però no pretén, ni pot, analitzar-los tots. És un punt de partida que pretén ser reflexiu, positiu i propositiu.

2. Anàlisi de la irrupció de la tecnologia

L’eclosió de la intel·ligència artificial (IA) és un dels canvis tecnològics més grans ocorreguts en les darreres dècades. La IA té múltiples aplicacions en àmbits molt diversos de la vida quotidiana i ha començat a formar part de les dinàmiques universitàries, com passa amb les eines de traducció automàtica i de tractament de la llengua, i també en el tractament d’imatges o de registres sonors o visuals.

Una sola d’aquestes eines, ChatGPT [1] (generative pre-trained transformer), la que té més fàcil accés, va arribar cinc dies després del seu llançament a ser emprada per un milió d'usuaris, i va superar els 100 milions d’usuaris en pocs mesos. És una tecnologia capaç de crear text dotada d’una interfície gràfica que simplifica la relació humà-màquina (human-computer interaction, HCI), pròpia de la interacció amb aquest tipus de sistema fins al moment. ChatGPT ha suscitat molt mésinterès que d’altres tecnologies atesa la facilitat d’accés i d'interacció. Si ho comparem amb altres aplicacions d’ús generalitzat: Instagram va trigar 2 menys en arribar al milió d'usuaris, i Spotify 5 mesos [2]. Es tracta d’un sistema amb interfície de xat i, per tant, d’una eina de diàleg mitjançant la qual es creen continguts fruit de la interacció amb l’humà. El diàleg no té per objectiu que el sistema n’aprengui, sinó únicament obtenir una resposta d’acord amb la consulta formulada per l’usuari.

La interacció amb large language models (com es defineix ChatGPT) convertits en agents intel·ligents es presenta com una opció cada cop més emprada per a la generació de contingut i la compilació d’informació. Per a una persona experta resulta molt útil com a accelerador de processos, com ara introduccions, resums o molts altres tipus de document que, després, la persona usuària pot millorar, per exemple revisant, jerarquitzant o articulant les idees proposades. És, per tant, també una oportunitat per incrementar l’eficiència en alguns procediments, potser també el d’acompanyar i facilitar l’ensenyament i l’aprenentatge.

No obstant això, la utilització acrítica, generalitzada i desinformada d’una tecnologia com aquesta suposa un risc objectiu de generar coneixement esbiaixat i discriminatori: cada dia, a través de mitjans de comunicació, ens arriben mostres d’aquest ús acrític. L’usuari ha de tenir en compte que no hi ha garantia de veracitat en els continguts generats mitjançant aquesta tecnologia, així com els riscos per a la privadesa de les dades. Hi ha el risc que les fonts a partir de les quals es genera el text nou continguin biaixos i mancances. De tota manera, amb cada nova versió del sistema s’obté una millora en el percentatge de validesa dels resultats.

La dimensió jurídica i la propietat intel·lectual dels continguts que ChatGPT fa servir per generar el nou text planteja també un seguit de problemes d’ordre jurídic, ètic, deontològic, social... La qüestió dels drets, permisosillicències també és sobre la taula: la tecnologia combina elements sense tenir, en molts casos, el permís per a fer-ho. Atès que el filtratge dels textos que alimenten aquesta mena de sistema acostuma a ser sempre humà, és impossible mantenir-lo al dia en un context on el volum de continguts creix exponencialment. La qüestió de la creativitat dels resultats és també controvertida,atès quetan sols està condicionada pels paràmetres de partida introduïts per l’usuari i es basa fonamentalment en el propi model.

En relació amb la creació de textos acadèmics, la qüestió també és controvertida. Podem trobar exemples d’universitats que n’han prohibit l’ús, i també casos de grans multinacionals dedicades a la publicació i indexació de contingut acadèmics (revistes i articles principalment) que ja han decidit acceptar obres en coautoria amb eines d’IA. Aquesta manca de consens denota la necessitat de comptar amb un marc regulador internacional a tal efecte. De fet, la creació d’obres acadèmiques recorrent a aquestes eines sense el reconeixement oportú podria, fins i tot, arribar a considerar-se un tipus de plagi.

Aquesta tecnologia pot ser una eina d’aprenentatge amb possibilitats inèdites, però l’ús indiscriminat per part de qualsevol persona planteja dubtes com ara si, en un futur no llunyà no caldrà que les persones desenvolupin la comprensió interna dels textos que fan servir. Es pot acabar pensant, fins i tot, que no cal tenir un model intern de lectura. Es planteja també l’element crític i reflexiu: pot esdevenir un recurs docent i d’aprenentatge d’accés preliminar a informació? O provocarà un aprenentatge acrític o un no-aprenentatge a través de l’ús d’allò que la màquina proporciona? La reflexió ètica, axiològica, es pot transformar en un procés adoctrinador o persuasiu executat de manera ràpida i poc reflexiva. Per generar pensament, reflexió, crítica i, en definitiva, aprenentatges profunds en l’alumnat o en qualsevol persona que aprèn, fa falta temps d’experiència, exercitació, refinament i filtratge de la informació i de la competència per escriure continguts amb algun tipus de valor afegit per a aquesta persona, i un ús inapropiat o no instruït de la màquina sembla convertirprocessos cognitius complexos (com els ja esmentats de cerca, anàlisi, crítica i creació) en una qüestió d’instants.

Reflexions com les anteriorment exposades han generat alarma social i preocupació per part de personalitats rellevants, empresesi,fins i tot, governs, alhora que també han generat respostes per part d’algunes institucions en un sentit restrictiu. Segurament, com amb l’aparició de qualsevol element disruptiu, és la reflexió, el treball conjunt i la pràctica allò que permet descobrir-ne les utilitats i limitacions. Ni es tracta d’adoptar el canvi acríticament ni de prohibirlo; cal buscar escenaris d’aprofitament, d’utilització per a la maximització del potencial d’ensenyament i d’aprenentatge i de creació que pot generar, tot observant les qüestions que ja s’han esmentat.

La tecnologia ha d’estar al servei de les persones, i en el context universitari de la formació superior caldria cercar l’encaix més oportú i repensar el paper i la utilitat que poden tenir en el projecte formatiu de cada titulació, de cada proposta d’estudis. Cal evitar processos d’aprenentatge fallits, buits, superficials, que banalitzarien el procés d’adquisició de coneixements (semblaria que adquirir coneixements fos cosa d’instants i no el resultat d’un procés conscient i reflexiu). Per altra banda, la utilització informada i crítica de la tecnologia permet escurçar processos i estalviar temps humà per a allò que realment és important i insubstituïble. En el context universitari es tracta, entre altres coses, de plantejar-se com, en un entorn de transformació tecnològica, podem potenciar la formació de persones crítiques i creatives.

Cal, en definitiva, obrir un procés de reflexió, com en el cas de tecnologies anteriors, i desenvolupar les competències digital i creativa, així com la capacitat crítica de cada persona formada a l’educació superior: aprendre a discriminar entre sistemes diferents, filtrar informació, detectar allò refutable, vàlid, ètic, i a fer un ús crític, responsable i avançat de tots els recursos que la tecnologia ens brinda. Aquesta tecnologia ja és present a les aules, cosa que compel·leix a plantejar-se'n una incorporació potenciadora de l’activitat humana, cívica i professional, que permeti escurçar temps, optimitzar recursos, potenciar el propòsit de l’activitat en la qual aquesta tecnologia s’empra i fer-ho a partir de criteris, de normes i del desenvolupament de la capacitat d’autoregulació crítica, responsable i inclusiva que s’espera de qualsevol persona formada a l’educació superior.

3. Impacte de la IA en la docència i l’avaluació dels aprenentatges a l’educació superior

Les qüestions que la irrupció de la IA en general i del ChatGPT en particular —però també de moltes altres eines i recursos— ha de plantejar al campus de la UAB, en termes d’impacte en la formació i en l’avaluació dels aprenentatges universitaris, es poden resumir en les següents preguntes clau.

En primer lloc, cal preguntar-se: què és allò substantivament humà en el comportament ciutadà i professional de qualsevol persona que es forma a la universitat? Què és allò que cal identificar com a competència genuïnament humana, que cal desenvolupar al llarg dels estudis universitaris? I què és allò que cal potenciar perquè les persones que es formen a la universitat utilitzin la tecnologia, incorporant totes les seves possibilitats per fer-ne un ús responsable, crític i alhora intensiu, i professionalment rellevant quan calgui?

Tot i que el debat sobre què és substantivament humà i què no ho és està ben obert, la reflexió sobre aquestes qüestions ens ajuda a identificar aspectes que es poden optimitzar amb l’ús de la tecnologia, així com aspectes en què la tecnologia directament és més eficaç que els éssers humans; aquesta darrera afirmació no és només un judici de valor, sinó un judici objectivable amb criteris de cada branca de coneixement.

D’aquesta primera reflexió en resulta una nova aproximació al perfil de sortida de les persones graduades a la universitat, amb una actualització de les competències i, probablement, una referència explícita a la utilització d’entorns tecnològics i de IA d’acord a criteris o estàndards ètics i de qualitat o valor afegit.

L’element humà en l’ús de la tecnologia té a veure molt probablement amb el judici expert, el judici crític, valoratiu, axiològic, ètic i normatiu, i la contextualització de la informació que permet autoregular la utilització d’aquest recurs. La competència crítica aplicada a l’ús de tecnologia dona resposta i concreta aquest comportament humà, potenciador, regulador i optimitzador en aquests usos.

La segona pregunta clau és: com vetllar per un aprenentatge profund? Com ajudar a aprendre? I per tal de desenvolupar les competències anteriorment esmentades, com es poden afavorir entorns on es pugui aprendre i generar coneixement tot desenvolupant les competències personals, ciutadanes i professionals que han de caracteritzar tota persona graduada universitària que fa un ús crític, responsable i professional de l’entorn tecnològic relacionat amb
la seva professió? En aquest context cal tenir present que la IA és una realitat que, com passa amb qualsevol altra font d’informació, pot proporcionar des de la qualitat i veracitat òptimes o bé ser un canal d’informació completament falsa i tendenciosa. També cal pensar en què l’àmplia diversitat de recursos i mitjans informacionals actual pot contribuir a desplaçarel relatiu protagonisme de l’entorn universitari com a gairebé únic proveïdor no només d’informació,sinó
d’oportunitats d’aprenentatge.

Aquest segon bloc de preguntes implica plantejar-se qüestions sobre la tasca i la metodologia docents, reclama innovació a les aules i una nova combinació d’estratègies d’ensenyament i d’aprenentatge que cal oferir o proposar a l’estudiant. En aquesta nova proposta hi han de tenir lloc les tecnologies digitals i la IA, així com també la reflexió sobre quines competències ha de poder desenvolupar la persona que es forma a la universitat, abandonant definitivament
l’ensenyament únicament memorístic i anant més enllà dels elements mecànics, repetitius i de poc valor afegit. Probablement, la simple recopilació d’informació deixarà de ser un d’aquests elements formatius, tret que s’hi afegeixin elements de qualitat, valor o processament d’allò que pot fer una màquina, com per exemple l’anàlisi crítica i la identificació dels components ètics i normatius en la utilització d’aquesta tecnologia en entorns ciutadans i en entorns
professionals. L’oportunitat en l’ús d’aquesta tecnologia hauria d’anar molt més enllà de la recopilació de la informació o dels continguts que proporcioni; de fet, la disrupció que suposa poder obtenir un producte final, un text, a partir d’una mera cerca d’informació sense cap més valor afegit, és a dir, sense passar pels processos declaratius i procedimentals propis de l’aprenentatge, provoca que la generació del text en siperdi rellevància: aquesta tecnologia crea
textos que imiten i, fins i tot, poden arribar a superar els elaborats a través de procediments cognitius de persones poc expertes o en formació.D’altra banda, explorar el valor afegit de l’ús d’aquestes eines ens porta a plantejar-nos noves preguntes: quin és el rol que aquestes eines han de tenir en cadascuna de les branques del coneixement de la formació superior? Es pot aprendre a utilitzar-les de manera que contribueixin a un procés d’aprenentatge humà profund?

Hi ha un conjunt de propostes metodològiques, que fa més o menys temps que es fan servir (totes anteriors a la irrupció de la IA), que acosten l’activitat humana superior a les aules. Es tracta de totes les metodologies i modalitats d’ensenyament-aprenentatge que donen més protagonisme, agència i activitat a l’alumne, en connexió i interacció amb el seu entorn, i que aprofiten l’espai síncron per a la interacció, com ara:

  • L’aprenentatge basat en problemes, projectes o casos.
  • L’aprenentatge basat en reptes.
  • L’aprenentatge servei.
  • Les aules invertides.
  • L’aprenentatge basat en la indagació o la recerca.
  • Les simulacions, presentacions orals, debats i altres activitats de caràcter participatiu i competencial.
  • L’aprenentatge col·laboratiu.
  • La utilització d’estratègies de ludificació (gamification).

Cada context o àmbit de coneixement té les seves peculiaritats, atès que en alguns àmbits el text és l’element clau i en d’altres ho és menys, però no hi ha dubte que la comunitat docent ha d’entomar el repte d’adoptar o desenvolupar la metodologia més escaient per al seu context formatiu. També cal pensar que els entorns d’educació superior tendeixen a establir connexions entre disciplines per resoldre desafiaments o reptes o per apropar-se a la realitat de manera
més acurada. Tanmateix, cal tenir present que la IA també proporciona suport en àmbits visuals, musicals, audiovisuals o altres.

A més de les estratègies metodològiques esmentades, aquest nou escenari obliga a repensar l’activitat docent i discent en el seu conjunt. La utilització de la IA a l’aula, incorporant-la al desenvolupament de la classe, fent-laparticipar com si fos un alumne més, per exemple, com a oponent socràtic, com a codissenyador, motivador o assessor dinàmic (UNESCO, 2023), o el suport que pot proporcionar a cada professor o professoraper generar i actualitzar programes, activitats, pautes d’avaluació, guions per a la tutoria, són altres exemples de com pot impactar positivament la tecnologia.

En definitiva, el professorat ha de continuardesenvolupant la seva competència digital i docent, competència que inclou no només l'aprofitament de les eines per a l’ensenyamentaprenentatge,sinó també el judici pedagògic del seu ús, les implicacions i actuacions en termes de seguretat i salut digital, així com el compromís amb el desenvolupament de la competència digital del seu alumnat. En aquest punt, però, cal també la reflexió ètica de si el tàndem d’aprenents i tecnologia assoleix resultats més apropiats, més complexos i més precisos que els aprenents i la tecnologia per separat. Com ja s’ha dit, l’ús expert de les tecnologies és el que obté uns resultats que millor s’adapten al context, però un ús durant l’aprenentatge ha de proporcionar també l'oportunitat d'arribar a aquest coneixement expert.

La tercera pregunta clau en relació a la qüestió és la següent: com avaluar i acreditar aprenentatges profunds? Com garantir que hi ha una correspondència entre la credencial i la competència, en entorns grupals? Quines són les activitats més oportunes per avaluar en aquest context? La irrupció de ChatGPT i altres eines similar obliga a replantejar allò que es demana que provi o evidenciï cada estudiant. Valorar un resum o una introducció a un tema no es pot plantejar de la mateixa manera que fins ara, atès que la màquina ho pot fer. En general, tot allò que la màquina pot fer bé i de pressa no hauria de formar part de la proposta avaluativa, perquè s’estaria avaluant, en realitat, una producció artificial. Igual que no tindria sentit avaluar la cal·ligrafia d’un escrit fet amb ordinador, tampoc no s’haurien de proposar o avaluar elements que —aparentment— poden generar-se artificialment.

Allò genuïnament humà és la connexió cognitiva, la connexió social i la comunicativa: “technology is used on us” [3]. No és només tenir dades, allò que és humà és el que va més enllà del compendi de dades. La persona té capacitat per demanar resultats i ajustar-los en funció del coneixement que té del context, del tema i de les circumstàncies que originen la demanda de resultats. També té en compte els condicionants ètics i normatius del context de producció i de
la producció mateixa.

L’avaluació té un component de certificació d’adquisició de competències que, en moltes ocasions, requereix un context presencial, fins i tot cara a cara, amb determinades condicions d’execució, control del context i dels recursos, etc.

Un altre aspecte que cal considerar és què s’espera de l’estudiant que pugui demostrar com a assoliment dels aprenentatges i que no pugui fer la màquina per si sola. Depèn molt del tipus d’assignatura, de la titulació o la disciplina. Els aspectes d’agència de l’estudiant, de protagonisme i de presència han d’ajudar a concretar també l’avaluació.

El qüestionament de l’autoritat de la IA (sobretot quan es pren consciència que part de la informació és falsa) és un aprenentatge important. Qüestionar-se la resposta dels sistemes d’IA és molt oportú, igual que aprendre a fer-li fer respostes correctes, i per a les dues coses calen coneixements humans.

4. Primeres accions de caràcter institucional

En un futur immediat cal organitzar accions a diferents nivells i en diferents moments:

  • Sessions de sensibilització i reflexió sobre la irrupció d’aquesta tecnologia (abril i maig) per a totes les facultats que vulguin.

En un segon moment, es procedirà a desenvolupar els mecanismes de suport al professorat en relació amb els dubtes o desafiaments que aquesta tecnologia planteja per a la docència i l’avaluació:

  • Identificació de pràctiques de referència en un ús responsable i crític de la tecnologia en entorns d’aprenentatge (grau, postgrau i recerca).
  • Desenvolupament d’accions formatives per al professorat que vulgui incorporar progressivament aquesta tecnologia en la seva docència.
  • Creació d’un repositori digital amb pràctiques de referència i reflexions sobre l’ús de la IA a la docència.
  • Incorporació de les reflexions en el marc del model docent de la UAB, liderat pel Vicerectorat d’Estudis.

El març de 2020 la UAB va reaccionar proactivament quan va haver de substituir la docència presencial al campus per la docència no presencial a través de la docència en línia síncrona, com a conseqüència del confinament de la covid. En aquella ocasió es van organitzar seminaris en línia, infografies i tot un repositori de recursos digitals per tal que el professorat pogués fer una transició de la seva docència en pocs dies, quan els experts auguraven que aquella transformació portaria una dècada per a les grans organitzacions. En molt poc temps la UAB va fer la transició. En aquesta ocasió l’escenari no és d’obligatorietat ni d’emergència, però la UAB vol seguir treballant per anticipar-se tot el possible, i de manera proactiva, a un fenomen tecnològic que segur que incidirà en tota l’activitat de la universitat en el futur immediat. Aquest text és el primer però no serà el darrer, i també permetrà iniciar la reflexió i l’aproximació a aquesta realitat que s’estendrà i generarà noves oportunitats i nous desafiaments.

Referències del text

[1] https://openai.com/chatgpt
[2] Artificial Intelligence Index Report 2923, Stanford Universityhttps://aiindex.stanford.edu/report/
[3] Neil Selwyn (2023). Webinar “Ethical and pedagogical aspects of technology and data in Education”.

Altres recursos de consulta

Informació complementària

Enllaços relacionats