ISBN
Formato digital
978-84-10215-89-4
Fecha de publicación
14-11-2024
Licencia
D. R. © copyright 2024; José Antonio García Macías, Isaac de Jesús Palazuelos Rojo y Diego Alfredo Pérez Rivas.
Marisol Flores-Garrido
Universidad Nacional Autónoma de México
0000-0003-1620-7885
Acerca de
La inteligencia artificial (IA) ha irrumpido con fuerza en tareas tan numerosas como diversas, suscitando una fascinación que puede oscurecer sus límites reales. Desde revolucionar el diagnóstico médico hasta simplificar nuestras tareas diarias, la IA no solo ha enriquecido nuestra vida cotidiana, también ha desatado optimismo y confianza en sus posibilidades. En ese sentido, podemos considerar a la IA como una tecnología carismática, que deriva gran parte de su poder a través de la posibilidad o promesa de acción: importa no solamente lo que sus herramientas son, sino la forma en que afectan nuestra imaginación con las promesas de lo que podrían hacer (Ames, 2019).
Los logros de la IA pueden conducirnos a su adopción precipitada en contextos donde su utilidad no es tan clara, persiguiendo utopías tecnológicas que ignoran las limitaciones de estas herramientas. Ante esta situación, es necesario cultivar una postura crítica tanto en los desarrolladores de sistemas de IA como en la sociedad en su conjunto, quien debe defender el derecho a decidir cómo y cuándo implementar estas tecnologías.
Por esta razón, se vuelve crucial reimaginar colectivamente usos y limitaciones de la IA. Nuestras expectativas y visiones sobre esta tecnología no solo guían la investigación y la inversión en proyectos, también validan sus aplicaciones y moldean nuestra actitud colectiva hacia ellas. Ajustar nuestras expectativas con una actitud crítica que distinga entre mitos y realidades puede complicarse por el hecho de que la IA existía en nuestro imaginario colectivo mucho antes de su formalización como campo de estudio. En consecuencia, muchos sistemas de IA surgen en un espacio ya habitado por numerosos mitos sobre sus capacidades. De alguna manera, las narrativas de autómatas e instrumentos exentos de debilidades humanas, que prometen superarnos apoyados en el poder de los cálculos numéricos y la razón absoluta, preceden a las herramientas mismas. Esto, combinado con estrategias desbordadas de mercadotecnia, puede dificultar la apreciación de los límites de la IA y de sus dimensiones políticas, sociales e, incluso, materiales.
Referencias
Ames, M. G. (2019). The charisma machine: The life, death, and legacy of one laptop per child. Mit Press.
A-levels and GCSEs: Free exam appeals for schools in England. (2020, 15 de agosto). BBC News. https://www.bbc.com/news/uk-53787938
Birhane, A. (2021). The impossibility of automating ambiguity. Artificial Life, 27(1), 44-61.
Buolamwini, J. y Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. En Conference on fairness, accountability and transparency (pp. 77-91). PMLR.
Burrell, J. (2016). How the machine ‘thinks’: Understanding opacity in machine learning algorithms. Big data & society, 3(1), 2053951715622512.
D’ignazio, C. y Klein, L. F. (2020). Data feminism. MIT press.
Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin’s Press.
Narayanan, A. (2019). How to recognize AI snake oil. Arthur Miller Lecture on Science and Ethics.
Porter, J. (2020, 17 de Agosto). UK A-level results algorithm biased amid coronavirus pandemic. The Verge. https://www.theverge.com/2020/8/17/21372045/uk-a-level-results-algorithm-biased-coronavirus-covid-19-pandemic-university-applications
Turner, J. y Turner, J. (2019). Controlling the Creators. Robot Rules: Regulating Artificial Intelligence (pp. 263-318).
Wang, X., Zhang, Y. y Zhu, R. (2022). A brief review on algorithmic fairness. Management System Engineering, 1(1), 7.
Wu, X. y Zhang, X. (2016). Automated inference on criminality using face images. arXiv preprint arXiv:1611.04135, 4038-4052.