¿Es ético que los gobiernos utilicen datos masivos (big data) para diseñar políticas públicas efectivas?
LlanosMira, es como cuando Netflix te recomienda una serie que te encanta. ¿No es genial que entienda tus gustos? Con el big data pasa igual: podemos saber dónde faltan hospitales, qué escuelas necesitan más recursos... ¡Es sentido común con esteroides!
Pero ojo, no hablo de espiar tu historial de Google. Me refiero a datos anónimos, agregados, para tomar decisiones que realmente ayuden a la gente. Es como cuando Waze te evita el tráfico, pero aplicado a políticas públicas.
¿Prefieren que sigamos decidiendo a ciegas? Porque hasta ahora, sin datos, tenemos barrios sin agua potable y escuelas sin libros. Eso sí que es injusto.
Bandini¡Qué bonita analogía, pero te estás burlando de la realidad! Netflix y Waze son empresas privadas, y el juego cambia cuando se trata de gobiernos. ¿Crees que "datos anónimos" siempre son así? ¡Estás mintiéndote a ti mismo!
Los gobiernos tienen poder, y ese poder sin regulación es un peligro. Los grupos vulnerables, que ya sufren la discriminación cotidiana, serán los que más se verán afectados. ¿Quieres que el gobierno use tus datos para decidir quién tiene derecho a la salud o a la educación? ¡Estamos hablando de vidas reales, no de recomendaciones de series!
Y no me vengas con el discurso de "sigamos decidiendo a ciegas". Hay formas de tomar decisiones sin violar la privacidad y perpetuar sesgos. ¿Por qué no empezar por escuchar a las comunidades, en lugar de jugar con sus datos como si fueran piezas de ajedrez?
LlanosClaro que hay que escuchar a las comunidades, pero ¿sabes qué? Los datos son precisamente la voz de esa gente convertida en evidencia. Cuando una madre dice "en mi barrio no hay pediatra", eso es un dato. Cuando mil madres lo dicen, eso es big data.
Lo de los sesgos... ¿en serio crees que sin datos no hay discriminación? Los prejuicios humanos son mucho más peligrosos que cualquier algoritmo. Al menos los algoritmos los podemos auditar, corregir, mejorar. ¿Y los sesgos de un funcionario? Esos son invisibles.
Además, hablas de regulación como si fuera algo imposible. ¡Para eso están las leyes de protección de datos! Es como decir que no usemos coches porque pueden causar accidentes. No, lo que hacemos es poner límites de velocidad y cinturones de seguridad.
Bandini¡Qué ilusión te has hecho! Los datos no son la voz de la gente, son un reflejo distorsionado de un sistema que ya está lleno de sesgos. ¿Crees que un algoritmo puede entender la complejidad de la vida de una madre que lucha por el bienestar de su hijo? ¡No hay forma!
Y sobre los sesgos de los funcionarios, ¿crees que al usar big data se van a desvanecer? ¡Estás soñando! Los algoritmos son creados por humanos, y esos humanos traen consigo sus propios prejuicios. ¿Cómo vas a auditar un algoritmo que está diseñado para esconder sus sesgos?
Y la regulación... ¿Acaso has visto alguna ley de protección de datos que realmente funcione? Son como un cinturón de seguridad hecho de papel. Los gobiernos se saltan las leyes cuando les conviene, y la privacidad de las personas es el primer sacrificio.
No podemos dejar que los gobiernos jueguen con nuestros datos como si fueran un juego. ¡La privacidad es un derecho fundamental, y no se puede negociar!
Llanos¿Reflejo distorsionado? ¡Pero si sin datos ni siquiera tenemos espejo! Prefiero un algoritmo que al menos intenta ser objetivo, frente a un político que decide por instinto o por intereses.
Lo bonito es que los algoritmos sí pueden detectar sus propios sesgos. Es como cuando tu móvil te pregunta si la recomendación fue útil - así vamos mejorando el sistema. ¿Cuándo te preguntó un burócrata si su decisión te pareció justa?
Y lo de las leyes... Claro que hay que mejorarlas, pero prohibir el big data por miedo es como renunciar a la electricidad por riesgo de electrocutarse. La solución está en mejores regulaciones, no en volver a la edad de piedra.
Bandini¡Qué simplismo! Decir que prefieres un algoritmo “que intenta ser objetivo” es negar la realidad social. Ese algoritmo alimentado por datos recolectados en un mundo lleno de desigualdad y discriminación va a reforzar esos problemas. Es como querer limpiar un charco con agua sucia.
¿Te encantas de comparar los algoritmos con los móviles, pero olvidas que los gobiernos no son tiendas de apps? Estamos hablando de poder político, de decisiones que afectan la vida de miles, millones de personas. ¿Un burócrata preguntar si una decisión es justa? ¡Pues es mejor que preguntase en lugar de dejar que un algoritmo con sesgos ocultos decida por ellos!
Y la electricidad... No se inventó sin un mínimo de seguridad en cuenta. ¿Dónde está esa seguridad en el uso de big data por parte de los gobiernos? Son leyes vacías, una simulación de protección. No voy a dejar que me vendan un fantasma de “mejores regulaciones” cuando ya vemos los abusos. Así no evitamos que el big data se convierta en una herramienta para controlar y marginar a los más vulnerables.