La idea de que la tecnología es una fuerza neutral e imparable, que opera con independencia de los contextos sociales, económicos y culturales, es un mito arraigado en nuestro imaginario colectivo. Sin embargo, como muestra Diletta Huyskes en su libro Tecnologia della rivoluzione. Progresso e battaglie sociali dal microonde all’intelligenza artificiale (Tecnología de la revolución. Progresos y luchas sociales del microondas a la inteligencia artificial), este mito dista mucho de la realidad. La tecnología nunca ha sido neutral y a menudo amplifica las injusticias existentes.
Un ejemplo significativo que se relata en el libro es el caso de ProKid+, el algoritmo policial predictivo empleado en los Países Bajos en 2015, que condenó preventivamente a un adolescente, Omar (nombre ficticio), como un futuro como delincuente. Bajos ingresos, antecedentes migratorios y una edad inferior a los dieciocho años son solo algunas de las características utilizadas por los sistemas de inteligencia artificial para evaluar el riesgo de miles de personas cada día. El proyecto, conocido como Top400 que inicialmente se concibió como una lista de adolescentes previamente condenados por al menos un delito, se amplió posteriormente para incluir a niños y jóvenes que, aunque aún no habían tenido problemas legales, el algoritmo consideraba que corrían el riesgo de ser condenados en breve.
Tecnología en detrimento de las minorías
Este algoritmo, que se suponía que representaba un enfoque innovador de la prevención de la delincuencia, no ha hecho más que reiterar estereotipos y prejuicios preexistentes privando a personas como Omar de cualquier posibilidad, redención y emancipación y dejándoles atrapados en un círculo de sospecha y discriminación. «Esta sentencia es el resultado de una recomendación de un modelo matemático que prometía la detección de delitos utilizando principalmente metodologías de aprendizaje automático, un subconjunto de la inteligencia artificial que utiliza modelos estadísticos y algoritmos para analizar y hacer predicciones basadas en datos».
La pretensión de predecir la delincuencia mediante el análisis de datos ignora el hecho de que tales modelos se construyen sobre bases que reflejan las desigualdades sociales, contribuyendo a perpetuarlas en lugar de resolverlas. No es casualidad que Huyskes cite a Andrew Feenberg, quien en su texto Transforming Technology afirma que el diseño de la tecnología es una decisión ontológica cargada de consecuencias políticas. Huyskes nos conduce a través de una reflexión crítica, señalando que toda nueva tecnología es el resultado de un recorrido histórico y social preciso. Contrariamente a la imagen romántica del genio inventor que cambia el mundo con una iluminación repentina, la realidad nos muestra cómo las innovaciones tecnológicas son el resultado de compromisos, conflictos y una distribución desigual del poder.
La idea de un progreso lineal e inevitable se desmorona ante el análisis que ofrece Huyskes, revelando una verdad de hecho: la tecnología se construye, modifica e implanta al servicio de intereses concretos, a menudo en detrimento de los sectores más vulnerables de la sociedad. Otro ejemplo significativo es la introducción de la tecnología doméstica en el siglo XX. Estos inventos, como el horno microondas, se presentaron como soluciones liberadoras para las mujeres, prometiendo aliviar la carga del trabajo doméstico.https://7d7998f48a1ad78ecb5116de93c9086d.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.htmlLo más visto
- CienciaEl efecto ‘bosque vacío’ y la defaunación: por qué hay una extinción masiva de animales en el planetaPor Edith González Cruz
- GadgetsLa nueva línea de pantallas ULED Mini-LED 2024 de Hisense: tecnología y accesibilidadPor CNCC
- Startup y Cultura TecnológicaWIRED Summit 2024: el célebre físico y futurista Michio Kaku en México junto a expertos en ciencia y tecnologíaPor Manuel de León
- Seguridad¿Cómo saber si están usando o espiando tu WhatsApp desde otro dispositivo?Por Fernanda González
Publicidadhttps://7d7998f48a1ad78ecb5116de93c9086d.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.html
Sin embargo, como muestra Huyskes, la realidad fue bien distinta: en lugar de emancipar, estas tecnologías reforzaron los estereotipos de género, relegando aún más a las mujeres a su papel tradicional de amas de casa. En lugar de liberarlas, las atrapaban en un ciclo de trabajo doméstico cada vez más estandarizado e invisible: «La esperanza era que la tecnología doméstica aliviaría a las mujeres de su trabajo no remunerado en el hogar, una cuestión política en la que el movimiento feminista centraba sus luchas casi por completo en aquellos años».
El control de los cuerpos
De hecho, en 1974, Joann Vanek mostró cómo la situación de la mujer en el trabajo doméstico no había cambiado con la introducción de la tecnología doméstica; la industrialización del trabajo doméstico y la mecanización del hogar habían creado nuevas expectativas, mayor productividad y nuevas tareas: «Lejos de sentirse liberadas, las mujeres que trabajaban en el hogar, que diaria e incansablemente realizaban todas las labores de cuidado necesarias para sostener la vida económica y política de naciones enteras, se sentían cada vez más mecanizadas, pero también cada vez más fatigadas».
En el análisis de Diletta Huyskes, la cuestión del control de los cuerpos emerge con fuerza como uno de los nodos cruciales en la intersección entre tecnología y género: «¿Cómo puede una sociedad que durante décadas se ha basado exclusivamente en el cuerpo masculino como criterio, garantizar un trato justo en función del género? La exclusión de las mujeres de la tecnología no solamente ha significado mantenerlas alejadas de los lugares de poder, educación y creación, sino también privarlas de la oportunidad de utilizar y beneficiarse de tales innovaciones. Este modelo de exclusión, que persiste incluso después de muchas décadas, sigue siendo el modelo dominante en la gestión de la relación entre género y tecnología.
El libro también relata cómo, a partir de 1980, el grupo de investigación sobre mujeres y tecnología de la Fundación para la Investigación Científica e Industrial del Instituto Noruego de Tecnología (SINTEF), con las académicas Anne-Jorunn Berg y Merete Lie, empezó a reflexionar sobre las consecuencias prácticas de la presencia exclusiva masculina en las fases de diseño y desarrollo de la tecnología. Al principio, las preguntas se referían al impacto de las nuevas tecnologías en la vida de las mujeres. Sin embargo, a medida que avanzaba su investigación, la pregunta evolucionó hasta convertirse en: «¿Tienen género los artefactos?».
Esto llevó a ampliar la investigación, que pasó de analizar a las mujeres a investigar el género y el diseño en general, en lugar de centrarse solamente en las consecuencias de las tecnologías. Berg y Lie descubrieron que los artefactos tecnológicos reflejan un género porque se diseñan teniendo en cuenta configuraciones de género específicas. En otras palabras, nacen con una idea clara de quién debe utilizarlos.
IA y estereotipos sociales
Autos, computadoras y smartphones son algunos ejemplos de tecnologías utilizadas tanto por hombres como por mujeres, pero diseñadas principalmente pensando en las características y hábitos del hombre medio. «El testimonio más contundente de los últimos años sobre las persistentes desigualdades de género en el diseño de lo que damos más por sentado lo ha escrito la activista y escritora Caroline Criado Pérez. Un catálogo de datos y cifras que hablan de un mundo de hombres, siendo quizá uno de los más impactantes el de los fabricantes de automóviles estadounidenses que hasta 2011 no empezaron a realizar pruebas de choque con maniquíes femeninos. Antes de esa fecha, todos los datos disponibles y las intervenciones necesarias en relación con los accidentes de auto se referían exclusivamente a cuerpos masculinos, por lo que la precisión en casos de cuerpos femeninos era desconocida».
En el panorama contemporáneo, la inteligencia artificial representa la nueva frontera de esta reflexión crítica. Lejos de ser una tabula rasa, la IA trae consigo los prejuicios e injusticias del pasado, reflejando las mismas lógicas de poder que caracterizaban a las tecnologías anteriores: «No solo incorporan la cultura, los valores, los prejuicios durante las fases iniciales de diseño, sino que siguen alimentándose de estos insumos siempre cambiantes a lo largo de toda su existencia. En la actualidad, las nuevas tecnologías se diseñan para mantener el statu quo y perpetuar las desigualdades sociales existentes, contribuyendo a reforzar lo que la estudiosa Patricia Hill Collins denomina «la matriz de dominación«, un sistema sociológico que engloba diferentes formas de opresión como el capitalismo, el heteropatriarcado, la supremacía blanca y el colonialismo.https://7d7998f48a1ad78ecb5116de93c9086d.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.htmlLo más visto
- CienciaEl efecto ‘bosque vacío’ y la defaunación: por qué hay una extinción masiva de animales en el planetaPor Edith González Cruz
- GadgetsLa nueva línea de pantallas ULED Mini-LED 2024 de Hisense: tecnología y accesibilidadPor CNCC
- Startup y Cultura TecnológicaWIRED Summit 2024: el célebre físico y futurista Michio Kaku en México junto a expertos en ciencia y tecnologíaPor Manuel de León
- Seguridad¿Cómo saber si están usando o espiando tu WhatsApp desde otro dispositivo?Por Fernanda González
Publicidadhttps://7d7998f48a1ad78ecb5116de93c9086d.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.html
Uno de los ejemplos más emblemáticos de la automatización de sistemas institucionales ya de por sí especialmente discriminatorios y excluyentes es el de la justicia penal. Con el objetivo de encontrar una fórmula matemática que pueda predecir con exactitud la probabilidad de reincidencia, cada vez más departamentos de justicia han experimentado con el uso de la inteligencia artificial: casi todos los estados de EE UU han adoptado o probado software basado en IA para este fin. Estos sistemas calculan las probabilidades mediante la evaluación del riesgo: una puntuación de riesgo elevada indica una mayor probabilidad de que el individuo vuelva a delinquir en el futuro: «El cálculo que conduce a estas puntuaciones suele basarse en preguntas formuladas directamente a los acusados y en datos extraídos de los antecedentes penales. Se trata de predicciones sobre el futuro basadas en comportamientos pasados, frecuencias, estadísticas, y los datos para entrenar modelos como estos suelen incluir variables indirectas como ‘arresto’ para medir ‘delito’ o alguna noción de ‘peligrosidad’ subyacente».
Repensar la tecnología: justicia e inclusión
En Estados Unidos, donde los datos sobre delincuencia se han visto influidos por décadas de prácticas policiales con sesgo racial, y donde determinados grupos sociales y étnicos han sido históricamente más susceptibles al escrutinio policial, la cartografía de la delincuencia no puede considerarse neutral. Partiendo de estos supuestos, el origen étnico se rastrea indirectamente a través de otras variables relacionadas, como el código postal o el estatus socioeconómico.
El resultado es un modelo con una tasa de falsos positivos significativamente mayor, es decir, que atribuye un mayor riesgo de reincidencia a los individuos negros que a los blancos. Algunas de estas herramientas pretenden predecir los riesgos de delincuencia asociados a los individuos, basándose en su historial personal y otras características. Esto es precisamente lo que le ocurrió a Omar: juzgado por el software de predicción policial como un adolescente con alto riesgo de convertirse en delincuente, fue tratado como tal desde el principio.
Como afirma el autor, «la inteligencia artificial es mucho más que una tecnología. Es un discurso utilizado activamente para dar forma a las realidades políticas, económicas y sociales de nuestro tiempo«. La tecnología puede ser una poderosa herramienta de liberación, pero solo si estamos dispuestos a cuestionar quién controla su desarrollo y quién se beneficia realmente de ella. Es esencial que el debate sobre la tecnología no quede confinado a una élite específica, sino que se convierta en un discurso colectivo, abierto e inclusivo que pueda abordar las cuestiones fundamentales de la justicia, la equidad y la democracia. En este sentido, el libro de Huyskes es una invitación a repensar nuestra relación con el progreso y las fuerzas que configuran nuestro presente y nuestro futuro. Nos recuerda que toda innovación conlleva una responsabilidad, y que es nuestra tarea garantizar que el futuro tecnológico se construya sobre unos cimientos más justos y conscientes.
Artículo originalmente publicado en WIRED Italia. Adaptado por Mauricio Serfatty Godoy.
Fuente: Wired
Sea el primero en comentar en "Del microondas a la IA, o de cómo la tecnología ha reforzado los estereotipos de género"