Entre el 14 y el 18 de febrero estuvo Enzo Ferrante por las aulas de la Universidad de la República para dar un curso de posgrado acerca del aprendizaje profundo para el análisis de imágenes biomédicas.
“Aula y presencialidad plena, en la práctica marca la diferencia” expresó Ferrante, el docente investigador del CONICET argentino y experto en imágenes biomédicas, contento por volver a cruzarse cara a cara con estudiantes.
Allí se encontraron estudiantes de varias ingenierías, Biología, Matemática y Medicina, lo que demuestra la interdisciplina que encierra el análisis de imágenes biomédicas.
El curso constó de dos partes: una introducción de los conceptos y alcance de las redes neuronales y otra enfocada en las imágenes biomédicas, donde se plantearon distintos problemas entorno a la clasificación de imágenes de patologías, en particular la segmentación, que es el proceso de asignar a cada píxel una categoría, como por ejemplo: qué píxel de la imágen es un tumor y cuál no lo es.
Al finalizar el curso se dedicó un espacio especial para incorporar el problema de sesgo en el campo de las imágenes biomédicas, algo que preocupa mucho a Ferrante al investigar estos temas.
Las imágenes biomédicas y el vínculo con los médicos
El investigador comentó que “con el médico clínico, uno puede influir menos que con el científico”, en el intento de realizar una comparación con el trabajo que hace Federico Lecumberry, integrante de CICADA, que trabaja en el ámbito de laboratorio. Es decir, “la interacción se da por el lado del planteo de problemas a atacar”, ya que es difícil que a los científicos de aprendizaje automático se les ocurran situaciones reales a resolver que no sean ejercicios meramente académicos.
Por estas situaciones es que se vuelve importante considerar el carácter interdisciplinario del curso ya que, por ejemplo, “el médico que asistió a clase, se lleva qué tipo de problemas se pueden resolver” con estas técnicas.
¿Herramienta que toma decisiones o apoyo al médico?
Enzo es claro en su opinión en torno a que estas tecnologías no deberían ser herramientas de toma de decisiones sino de soporte al médico. Lo manifiesta claramente: “es mejor que el médico lo pase con el paciente y no con una computadora”.
Los casos en qué las máquinas toman decisiones automatizadas no terminan demasiado bien ya que reproducen estereotipos de la sociedad y los amplifican. Sí existen pequeñas tareas que las máquinas pueden hacer mejor que los humanos, pero hay que tener cuidado con el sesgo de automatización.
Sesgo, interseccionalidad y CICADA
En el encuentro “Suena la chicharra” se presentó una de las líneas de investigación de CICADA en torno a sesgos algorítmicos e interseccionalidad.
Ferrante sostiene que la interseccionalidad es un concepto fundamental para atacar el problema de la reproducción de situaciones de discriminación por parte de los algoritimos.
Entiende a la interseccionalidad como un método para “cortar por distintos ejes (género, edad, etnia, etc.) para llegar a distintos análisis, subdividiendo a la población en grupos”.
Pero se pregunta: “¿Cómo saber qué grupos son marginalizados por los algoritmos sin asignar etiquetas a priori?”.
Se debería edificar “un sistema que permita descubrir cuáles son las características de los datos de la población que hacen que sean marginalizadas por el sistema o presente peor rendimiento, y no que yo le diga: fijate si es por esto o aquello“.
La neutralidad tecnológica no existe. Ser consciente de las limitaciones de la tecnología es vital “porque estamos formando a quienes después van a entrenar los modelos”. plantea Ferrante.