Com evitar biaixos en la IA i com aplicar rigor metodològic per tenir eines fiables, útils i justes?

Amb els experts Santi Seguí, Oriol Pujol i Jordi Vitrià de la Universitat de Barcelona

En aquest Breakfast & Learn hem parlat d’Intel·ligència Artificial i Salut Mental.

Un dels punts clau de la sessió ha estat la importància de desenvolupar eines d’IA justes i fiables implica treballar per identificar i mitigar biaixos. Els biaixos no són inevitables, es poden corregir en primer lloc assegurant una recollida de dades diverses i representatives i, en segon lloc, amb un disseny de funcions que realment respongui a les necessitats sanitàries plantejades. Cal tenir en compte també que mitigar biaixos és un procés continu: requereix seguir auditant i validant el sistema també quan ja està en funcionament, i fer-ho sovint i de forma sistemàtica. 

Els ponents han subratllat el paper fonamental del rigor metodològic per evitar conclusions errònies i garantir que les eines d’IA siguin realment útils en la presa de decisions. En aquest sentit, han posat èmfasi en la importància de diferenciar entre correlació i causalitat per evitar interpretacions esbiaixades que podrien comprometre l’eficàcia i la seguretat d’aquests sistemes.

Tots tres ponents han posat de manifest la necessitat d’una vigilància constant en el desenvolupament de la IA per assegurar-ne l’equitat i minimitzar riscos en àmbits crítics com la salut mental.

Aquí pots veure el vídeo de la sessió.