El valor de la dedicació

No hi ha cap dubte que la I.A. ha arribat a les consultes i a les institucions sanitàries. Aquest recurs transformarà les capacitats diagnòstiques dels equips assistencials i les decisions terapèutiques. La I.A. no substituirà l’experiència humana, però canviarà les funcions dels metges assistencials i això no és una qüestió menor. És ben segur que aquest canvi els permetrà ser més eficaços en la seva missió curativa si bé, al mateix temps, posarà damunt la taula qüestions ètiques de gran calat que caldrà abordar.

Sense voler ser exhaustius podem apuntar alguns punts en conflicte: la distància emocional, la responsabilitat professional i la transparència, l’autonomia del pacient, la privacitat de les dades i els biaixos algorítmics dels sistemes “intel·ligents”.

Distància emocional

Des de temps immemorial el malalt s’ha dirigit al metge (bruixot, xaman o sanador) per trobar la solució als seus mals. Només el gest d’acollida, l’escolta atenta i el comentari explicatiu són, en sí mateixos, un acte terapèutic de gran magnitud.

Qui establirà el primer contacte amb el pacient? Qui respondrà a les seves inquietuds: la màquina o el metge? Podrà la I.A. substituir l’empatia del professional? L’ús de la I.A. despersonalitzarà l’atenció mèdica?

Responsabilitat professional

Qui estarà al càrrec del cas clínic? Qui el dirigirà? Qui tindrà la competència i fins i tot l’atribució legal per comandar-lo? Aquestes són preguntes que poden fer-se els pacients i que també se les faran els assistencials i les institucions sanitàries que els acullen. El pacient necessita tenir un o diversos referents però, a dia d’avui, aquests han de ser humans.

Una segona qüestió és encara més punyent: podrà la màquina superar el judici clínic humà? S’establirà una relació de col·laboració o de subrogació? Davant el poder d’anàlisi de la màquina, arribarà el dia que la I.A. suplantarà les consideracions i el criteri dels professionals? On pot quedar el paper del metge com última garantia de l’atenció clínica?

I en darrer termini, qui serà responsable d’un error en cas que es presenti? Serà el metge, el desenvolupador del programa o la institució que el va implementar?

Autonomia del pacient

Té dret el metge a emprar l’ús de la I.A. sense l’autorització del pacient? S’ha d’informar al pacient que la decisió presa ha estat proposada per la I.A.? Qui elaborarà el consentiment informat i qui l’obtindrà? Qui respondrà als dubtes del pacient?

La I.A. podrà oferir opcions diverses però, qui contestarà la pregunta: Doctor/a, vostè què faria?

Privacitat de les dades

Com es garanteix la confidencialitat de les dades en un sistema que envia informació, no a la història clínica (custodiada per un metge o una institució), sinó a uns magatzems en el núvol?

Com es regularà el possible tractament comercial de les dades personals i de salut subministrades? Perquè és obvi que els algoritmes de la I.A. necessiten disposar de grans quantitats de dades per compondre les seqüències lògiques que els caracteritzen.

En aquest sentit, cada nou cas abordat realimenta el sistema que, per definició, aprèn. Això dificultarà la preservació del secret professional.

Biaixos algorítmics dels sistemes

Els biaixos són desviacions que poden portar a conclusions arbitràries per haver triat determinades poblacions per subministrar dades al sistema.

Seria el cas de les col·leccions de fotografies recollides per ajudar en el diagnòstic de malalties de la pell. No és el mateix que les imatges provinguin d’ètnies amb pell clara (caucàsiques) o pell fosca (africanes).

També pot succeir que l’algoritme s’hagi alimentat amb casos en els quals els metges han confiat de manera desigual en la I.A. En aquesta circumstància les recomanacions finals podrien ser molt distintes segons si els professionals, en el seu moment, han fet més o menys cas a les propostes de la màquina.

Per últim, s’ha dit que molts algoritmes de la I.A. funcionen com a “caixes negres” i no sempre es pot explicar com i per què la I.A. pren certes decisions. Això fa més difícil la detecció i l’esmena de biaixos.

Per evitar algoritmes tendenciosos, s’haurien de recomanar bases de dades molt inclusives (equilibrades per edats, ètnies, gèneres, nivells culturals i econòmics…), fer auditories freqüents amb supervisió humana, dissenyar models que siguin fàcilment explicables i instituir organismes reguladors que garanteixin una pràctica segura i, alhora, salvaguardin els drets dels pacients.

---

Consideracions finals

És innegable que la I.A. en Medicina té un enorme potencial per millorar el diagnòstic i el tractament mèdics. Malgrat tot, s’haurà de lluitar per evitar retrocessos en la relació metge-pacient i neutralitzar biaixos i desigualtats.

En el futur, els metges s’hauran d’habituar a un entorn on la I.A. tindrà una àmplia presència. Per això caldrà fer un gran esforç en formació a les facultats de Medicina, les acadèmies i els col·legis professionals.

Serà necessari desenvolupar, en els professionals, un pensament crític que els permeti validar o qüestionar les respostes dels algoritmes. Hauran d’aprendre a interpretar les recomanacions automàtiques i contraposar-les als seus coneixements clínics. El metge sempre serà l’actor principal del procés curatiu, i per això haurà d’adquirir coneixements bàsics en I.A. i machine learning, aprendre a detectar biaixos i imposar el seu criteri en cas de dubte.

També serà imprescindible compartir treball i esforços amb enginyers i científics de dades perquè les preguntes clíniques es puguin traduir en solucions tecnològiques. Com que la tecnologia avança a gran velocitat, l’actualització constant en aquesta àrea serà imprescindible.

En definitiva, cal donar la benvinguda a la I.A. i vetllar activament perquè sigui una eina eficaç, eficient i ètica en benefici dels pacients.