Para ver este sitio web deber tener activado JavaScript en tu navegador. Haz click aqui para ver como activar Javascript

“El control ideológico sobre la Inteligencia Artificial plantea un dilema ético y político crucial. Mientras busca eliminar prejuicios, crea otros nuevos que distorsionan la realidad bajo el paraguas de la corrección política”

Imagen de un soldado alemán creada por Gemini.

El debate sobre el control ideológico de la IA (Inteligencia Artificial) es un tema al que, bajo mi punto de vista, no se le está prestando la atención que debería, cuando a todas luces se trata de una tecnología que puede perpetuar o incluso modificar las ideologías predominantes en la sociedad.

La capacidad de la IA para procesar y generar información a gran escala la convierte en una herramienta poderosa, no solo en términos de eficiencia e innovación, sino también en la capacidad de influir en la percepción pública y en la toma de decisiones. Esto plantea interrogantes significativos sobre quién controla estos sistemas y con qué fines.

Por otro lado, la posibilidad de ajustar deliberadamente estos sistemas para promover ciertas ideas o suprimir otras abre un amplio abanico de implicaciones éticas y políticas. La transparencia en los algoritmos y la diversidad en los equipos de desarrollo deben ser algo crucial para mitigar estos riesgos. Sin embargo, pensar en una hipotética neutralidad tecnológica debido a otra hipotética responsabilidad social se me antoja algo completamente utópico.

Hemos visto en el pasado cómo la IA, al ser entrenada con datos generados por humanos, hereda y amplifica los prejuicios y sesgos existentes en esos datos. Es probable que recuerde el bochornoso episodio ocurrido allá por el año 2015, cuando Google tuvo que pedir perdón porque su IA de Photos etiquetaba a personas negras como gorilas.

Han sido varios los episodios racistas y machistas generados por la IA en los últimos años, y probablemente las personas que desarrollaron esta tecnología no pretendían que eso ocurriera. No obstante, la IA replicó los sesgos de esas personas, hombres blancos anglosajones.

En una sociedad tan sensible, traumatizada y sobreexcitada como la estadounidense (nos falta poco para llegar a su nivel…), la presión políticamente correcta ejercida por parte del imperio woke sobre las compañías para eliminar este tipo de errores está dando lugar a situaciones cuanto menos estrambóticas.

Para no verse señaladas, las compañías están optando por dotar a los algoritmos de nuevos sesgos, en muchos casos contrarios a los establecidos hasta el momento. Hace unas semanas, Google se vio obligado a cerrar su herramienta de creación de imágenes de Gemini debido a que se negaba a generar personas blancas. El algoritmo entiende que crear imágenes en las que aparecen personas blancas es discriminatorio con otras etnias y, por tanto, racista. De este modo, generaba imágenes cuanto menos históricamente inexactas, hasta el punto de representar a los padres fundadores de la patria estadounidense como negros. Al igual que recreaba personas negras para representar a vikingos o mi preferida, interpretar que los soldados nazis combatientes de la II Guerra Mundial deben ser negros, porque otra cosa es racismo.

No hay comentarios todavía

Los comentarios están cerrados