«El social scoring evalúa y califica a las personas a través del análisis de grandes cantidades de datos para premiarlas o castigarlas en función de su comportamiento»
Los defensores del social scoring argumentan que puede incentivar comportamientos positivos y fomentar la responsabilidad social.
En el artículo anterior, analizamos algunas de las implicaciones que puede suponer la prohibición del monitoreo de las emociones en entornos educativos y laborales, una prohibición que, bajo mi punto de vista supondría un freno a una tecnología que en el futuro puede aportar soluciones a algunos de los grandes problemas actuales, como pueden ser los altos índices de suicidio.
Donde coincido plenamente con la UE es en la necesidad de prohibir el social scoring o puntuación social, un concepto que los aficionados de la serie Black Mirror recordarán por el episodio Nosedive. En esta ficción, estrenada en el año 2016 en la plataforma Netflix, Lacie, su protagonista, era controlada por los algoritmos de las redes sociales, los cuales, en función de sus hábitos y costumbres cotidianas, le otorgaban una determinada puntuación. Esta puntuación acababa por determinar su estatus social.
A grandes rasgos, el social scoring es un sistema que busca evaluar y calificar el comportamiento de los individuos a través de la recopilación y análisis de grandes cantidades de datos personales. Esta recolección puede abarcar diversos aspectos de la vida de una persona, incluyendo parámetros como su comportamiento financiero, social o legal.
De esta manera, un individuo puede ser puntuado según su historial crediticio, su capacidad financiera, u otros indicadores económicos. Disponer de una puntuación alta puede dictaminar que esa persona pueda acceder a beneficios como el acceso a créditos más favorables. Por otro lado, puntuaciones más bajas significarán restricciones o incluso penalizaciones.
A nivel social, se pueden tener en cuenta factores como las interacciones en redes sociales o el incumplimiento de ciertas normas, como fumar en una zona no permitida. De la misma manera, a nivel legal, se analizarán los antecedentes penales o el historial de multas.
Uno de los ejemplos más controvertidos y que ha generado un intenso debate ético en los últimos años es el conocido como Zhima Credit. Implantado en China en los años 80, la transformación digital ha acelerado este sistema de crédito social que califica a ciudadanos y empresas en función de su fiabilidad y comportamiento, por supuesto, siempre según los estándares que el gobierno del gigante asiático considera correctos.
En otoño de 2022, se implementó algo parecido en la ciudad de Bolonia: el Smart Citizen Wallet (Cartera Ciudadana Inteligente), el cual premia a las personas en función de una serie de acciones, como reciclar, usar el transporte público o una correcta administración energética.
Los defensores del social scoring argumentan que puede incentivar comportamientos positivos y fomentar la responsabilidad social; sin embargo, bajo mi punto de vista, la condición humana hace inevitable que estos sistemas acaben abocando en un sistema fascistoide de vigilancia masiva, discriminación y violaciones de la privacidad.