Aplicațiile informale ale inteligenței artificiale, cum ar fi utilizarea instrumentelor de către cadrele universitare pentru a evalua lucrările studenților, ar putea încălca legislația de bază, avertizează un expert în politici, conform The Times Higher Education.
Multe universități europene ar putea fi nevoite să „schimbe totul” în ceea ce privește modul în care utilizează inteligența artificială odată ce intră în vigoare reglementările istorice ale Uniunii Europene, a avertizat un expert.
Thomas Jørgensen, director de coordonare a politicilor și prospectivă la Asociația Universităților Europene, a evidențiat practica tot mai mare a cadrelor universitare care utilizează instrumente precum ChatGPT pentru a evalua lucrările studenților ca o îngrijorare deosebită. Astfel de utilizări informale ale inteligenței artificiale ar putea încălca Legea UE privind inteligența artificială, a spus el.
„Dacă evaluezi cu ajutorul inteligenței artificiale, conform legii privind inteligența artificială, există o gamă largă de cerințe pe care trebuie să le îndeplinești, atât ca utilizator, cât și ca furnizor”, a declarat Jørgensen pentru Times Higher Education. „Și cred că este corect să spunem că marile modele lingvistice [LLM-uri] nu îndeplinesc criteriile, deoarece are legătură cu transparența și datele care sunt instruite pe baza acestora.”
Universitățile folosesc uneori instrumente de inteligență artificială pentru a nota studenții fără nicio supraveghere instituțională, dar provocările de conformitate ar afecta și universitățile care și-au creat propriile instrumente formale de inteligență artificială, a adăugat el.
„Pentru profesorii care utilizează ChatGPT pentru evaluare, există riscul ca acesta să fie ilegal; dar nu știm încă, deoarece nu avem orientările de la Oficiul pentru Inteligență Artificială al Comisiei Europene”, a spus el, referindu-se la organismul care supraveghează implementarea legii.
Legea UE privind inteligența artificială, un act legislativ amplu care acoperă o gamă largă de sectoare, a intrat în vigoare în august 2024. Celelalte prevederi ale sale urmează să intre în vigoare în următoarele șase până la 36 de luni.
În martie, Parlamentul European a votat pentru amânarea unor prevederi cheie ale legislației pentru a oferi companiilor și autorităților de reglementare mai mult timp pentru a se pregăti pentru schimbări. Aceste prevederi se referă la sisteme de inteligență artificială cu risc ridicat și urmau inițial să intre în vigoare în august anul acesta. Conform legii, IA utilizată pentru evaluarea studenților este clasificată drept cu risc ridicat – se încadrează în aceeași categorie ca IA utilizată pentru deciziile de angajare și scorarea creditelor.
Jørgensen a subliniat că universitățile au răspuns la apariția instrumentelor de IA generativă în 2022 și 2023 cu grupuri de lucru și ghiduri și au dezvoltat strategii destul de clare pentru utilizarea responsabilă în învățare și predare.
„Următorul pas va fi atunci când legea IA va intra cu adevărat în vigoare și ghidurile Biroului IA vor sosi. Aceasta va fi o mare provocare.”
Odată ce prevederile vor intra pe deplin în vigoare, a spus el, cel mai mare risc va fi ca universitățile să fie nevoite să „schimbe totul” și să revizuiască o mulțime de practici pe care le-au implementat în ceea ce privește IA, pentru a se conforma legii.
Jorgensen a spus că utilizarea inteligenței artificiale în cercetare era deja substanțială, în special în domeniile STEM, unde cercetătorii lucrau adesea cu seturi de date mari și complexe. El a fost prudent optimist cu privire la ceea ce ar putea însemna acest lucru pentru viteza progresului științific, despre care a spus că a fost lent în ultimii ani, dar au existat întrebări cu privire la confidențialitatea datelor.
„De obicei, în domeniul sănătății, trebuie să avem politici în acest sens, deoarece altfel există riscul să nu le respectăm. Dar aceasta este o conversație care abia începe”, a spus el.
În ianuarie, EUA a publicat un raport, condus de Jørgensen, care a examinat utilizarea inteligenței artificiale în universitățile europene. Subliniind că principala sursă de date pentru antrenarea multor modele provine din lumea vorbitoare de limbă engleză și, în mod covârșitor, din SUA, acesta a subliniat că există o nevoie de modele europene de inteligență artificială.
Jørgensen a avertizat că universitățile din Europa care utilizează aceleași modele comerciale practicate în SUA riscă să erodeze diversitatea intelectuală care a făcut ca colaborarea să merite. „Lucrurile devin fade și uniforme”, a spus el. „Ideea de cooperare, pentru că vii cu ceva diferit, dispare, pentru că pui la încercare același model, antrenat pe baza datelor americane.”
El a indicat apariția unor modele lingvistice europene de mari dimensiuni, inclusiv EuroLLM, ca o alternativă potențial mai potrivită pentru universități. „Modelele americane de mari dimensiuni nu sunt chiar potrivite pentru noi. Sunt foarte centrate pe SUA”, a spus el. „Dacă vorbești o limbă [diferită], s-ar putea să nu fie la fel de bune pentru tine.”