El trabajo del pedagogo en tiempos de algoritmos y big data

Algoritmos y sesgos en los resultados

Cuando se utilizan los sistemas algorítmicos en educación, se constatan, en función de otros saberes, sesgos en los resultados. O sea que ciertos grupos, cuyos datos se procesan, son “beneficiados” por sobre otros. Ante este estado de situación, la reflexión de carácter pedagógico nos puede ayudar en la identificación, el análisis y la elucidación de estos sesgos. Esto nos va a permitir comprender modos, o formas, que nos parecen inadecuados en función de ciertos horizontes de posibilidades deseables. La pedagogía es un discurso prescriptivo que nos hace pensar que hay un “deber ser”, un proyecto sobre el cual descansamos y en el cual confiamos. Entonces, cuando estos resultados aparecen sesgados respecto de este mundo axiomático, se nos plantea una discusión ética. En estos casos, se hace inevitable el análisis sobre el significado que tiene el uso de este tipo de sistemas. Lo que parece crucial es poner en evidencia que la categoría de sesgo tiene una particular pertenencia de carácter pedagógico, lo cual no solo permite, sino que obliga a los pedagogos a ingresar en el estudio de esta cuestión.

Algunos ejemplos pueden ayudar a comprender e ilustrar lo que sostengo. Es el caso de las plataformas de video: hay estudios que muestran que aquello que hacen los algoritmos de recomendación es radicalizar la sugerencia que formulan de tal forma que, finalmente, se obtienen videos que son “conservadores” con respecto al tema que se está buscando. El algoritmo te lleva a resultados sesgados en tanto que “blindan” cierta perspectiva sobre el contenido con el cual se inició la búsqueda. Por supuesto que hay discusiones sobre las agencias que están detrás, en relación con la publicidad y la propaganda política, y que sostienen económicamente el funcionamiento de estos algoritmos. Es interesante considerar que cada vez confiamos más en los resultados de estas búsquedas en plataformas de video como formas de acceder a las fuentes de información, pero, lejos de cualquier neutralidad, lo que está operando allí es una política de recomendación que es subliminal y modela nuestra manera de apreciar el mundo.