El trabajo del pedagogo en tiempos de algoritmos y big data

Los algoritmos y las transformaciones en las prácticas de los agentes

Si tenemos en cuenta esta clasificación de sesgos, podemos pensar en diferentes momentos de la producción de estos sistemas algorítmicos y, allí, concentrarnos en diferentes formas de sesgos; por ejemplo, metodológicos o teóricos. En el momento de implementación de estos sistemas, es necesario revisar cómo las lecturas e interpretaciones erróneas de los resultados pueden tener efectos sesgados, incluso, considerar el uso descontextualizado, porque los sucesos pueden ocurrir en situaciones muy diferentes. También, es interesante analizar la cuestión del tiempo que organiza la vida de un sistema de actividad que se dedica a la toma de decisiones usando algoritmos, porque lo que se ha mostrado es que, cuando un sistema algorítmico en funcionamiento valora ciertas prácticas, ciertos usos, lo que aparece cada vez más patente es que el accionar de los propios sujetos se va acomodando a los requerimientos para satisfacer al sistema tecnológico.

Esto implica la imposibilidad de que surjan respuestas novedosas porque los sujetos, en sus prácticas, buscan satisfacer el funcionamiento del algoritmo tal cual está. En educación han sido estudiados fenómenos de este tipo como el efecto Pigmalión, el efecto performativo de las etiquetas. Son sistemas que, desde la educación, podemos trabajar para analizar cómo la evaluación se ancla en ciertos cánones, invisibilizando otras formas en las que podrían llevarse adelante esas evaluaciones y la toma de decisiones. La proyección hacia el futuro es interesante y problemática a la vez porque muestra cómo estos sistemas pueden marcar un “deber ser”. La pregunta es si podremos cuestionar estos mandatos. En un sistema que evalúa el trabajo docente, por ejemplo, el sistema valora ciertas dimensiones, y lo que se demuestra es que la respuesta futura de estos docentes es tratar de producir prácticas y experiencias de manera que sean evaluadas positivamente. Estos mecanismos, que implican una fuerza performativa de la propia tecnología, lo que probablemente hagan es eliminar formas de respuesta innovadoras porque lo que hay allí es un proceso de ajuste a, solamente, lo que el sistema valora como positivo.