¿Algoritmos inteligencia artificial buenos o malos?
¿Algoritmos inteligencia artificial buenos o malos? Se supone que la tecnología ayuda a los humanos a ser más productivos, y los algoritmos están eliminando todo tipo de tareas de nuestras manos. Pero cuando los algoritmos van mal, puede ser una verdadera historia de horror.
Como cuando un algoritmo para ayudar al proceso de contratación de Amazon sugería solo candidatos masculinos. O los momentos en que el software de reconocimiento de imágenes de Google seguía mezclando a los negros con los gorilas y les decía a los asiáticos que abrieran los ojos.
Entonces, ¿qué pasa con eso?
¿Pueden los algoritmos ser perjudicados?
Lorena Jaume-Palasi, fundadora de la Ethical Tech Society en Berlín, dice que es más complicado que eso. «Las personas son siempre la razón de la discriminación», dice ella.
«En lugar de tratar de regular las razones por las cuales existe discriminación, nos estamos enfocando en la tecnología, que simplemente refleja las prácticas discriminatorias», dice ella.
Los algoritmos son instrucciones sobre cómo resolver un problema particular. Le dicen a la máquina: esta es la forma de hacer esto. La inteligencia artificial (IA) se basa en algoritmos.
AI copia las acciones inteligentes, y se instruye a la máquina para que tome decisiones informadas. Para que lo haga con éxito, necesita grandes cantidades de datos, que puede usar para reconocer patrones y tomar decisiones basadas en esos patrones.
¿Algoritmos inteligencia artificial buenos o malos?
Esta es una explicación de por qué los algoritmos pueden resultar tan desagradables: a menudo, toman decisiones basadas en datos antiguos.
«En el pasado, las empresas tenían prácticas laborales que favorecían a los hombres blancos», dice Susanne Dehmel de Bitkom. Si entrena un algoritmo utilizando estos datos históricos, elegirá candidatos que se ajusten a ese proyecto de ley.
Cuando se trata de un software de reconocimiento de fotos racista, también es muy probable que no haya sido culpa del algoritmo; en cambio, la elección de las imágenes utilizadas para entrenar la máquina puede haber sido problemática en primer lugar.
Ahora, hay un lado positivo en todo esto: las máquinas están sosteniendo un espejo para la sociedad humana, y nos muestran una imagen bastante fea. Claramente, la discriminación es un gran problema.
Una solución es que las empresas de tecnología asuman un papel más activo en lo que los algoritmos escupen y corrijan los comportamientos cuando sea necesario.
Esto ya está hecho. Por ejemplo, cuando la profesora estadounidense Safiya Umoja Noble publicó su libro Algorithms Of Oppression , en el que criticaba el hecho de que los resultados de búsqueda de Google para el término «chicas negras» eran extremadamente racistas y sexistas, el gigante tecnológico decidió hacer algunos cambios.
Debemos preguntarnos cómo podemos asegurarnos de que las tecnologías de inteligencia artificial (AI) tomen decisiones mejores y más justas en el futuro. Dehmel dice que no es necesario que exista una regulación gubernamental.
«Es un problema de competencia. Cuando comprendes cómo funciona la tecnología, entonces puedes contrarrestar la discriminación con cuidado», dice.
Los ejemplos anteriores ya han demostrado que no es suficiente simplemente obtener información sobre el género y la raza; los algoritmos aún podían establecer conexiones discriminatorias y produjeron los mismos resultados. En cambio, Dehmel sugiere que los desarrolladores creen diversos conjuntos de datos y realicen pruebas cuidadosas antes de entrenar las máquinas.
Jaume-Palasi cree que los controles continuos en sistemas basados en algoritmos son necesarios, y la IA debe ser creada por algo más que un desarrollador y un científico de datos.
«Se necesitan sociólogos, antropólogos, etnólogos, científicos políticos. Personas que sean mejores para contextualizar los resultados que se utilizan en varios sectores», dice.
«Necesitamos alejarnos de la idea de que la IA es un problema matemático o tecnológico. Estos son sistemas socio-tecnológicos, y los perfiles de trabajo que necesitamos en este campo deben ser más diversos».
Fuente thestar.com.my
¿Necesitas ayuda con tu presencia en las redes sociales? Asesoramiento sobre gestion de redes sociales!
Deja tus preguntas, comentarios y sugerencias 
