Artículo original: https://www.engadget.com/2020/01/17/your-online-activity-effectively-social-credit-score-airbnb/
Desde r/privacy me entero de ésta historia 100% orweliana. Supongo que estáis al tanto de lo que ocurre en China y su famoso sistema de crédito social, pues bien, en el mundo occidental parece que no estamos exentos de tales sistemas...
Una tal Kaylen Ward, una señorita que se denomina ella misma como "la filantropa desnuda", ha sido el objetivo de varias plataformas online.
Lo que hizo fue, desde Twitter, iniciar una campaña de recaudación de fondos por los incendios de Australia.
Lo que ella ofrecía era una foto de ella desnuda a cualquiera que presentara una prueba de haber hecho el donativo.
Le fue muy bien, llegando al millón de dolares.
Ahora viene lo interesante. Con su cuenta de Twitter no ha pasado nada, cumple con los términos de servicio, pero curiosamente no con sus cuentas de Instagram ni de Airbnb. Ninguna de esas dos plataformas fueron partícipes de la campaña, aun así éstas decidieron desactivar las cuentas de la muchacha.
El motivo: por ser una trabajadora sexual.
Y el cómo se enteraron: con algoritmos que van haciendo scraping de sus usuarios a través de la red y puntuandolos según su propio código ético.
Y ésto lo reconocen abiertamente:
It uses artificial intelligence to mark down those found to be "associated" with fake social network profiles, or those who have given any false details. The patent also suggests users are scored poorly if keywords, images or video associated with them are involved with drugs or alcohol, hate websites or organisations, or sex work.
It adds that people "involved in pornography" or who have "authored online content with negative language" will be marked down.
Dejando de lado lo justo o injusto lo que le haya pasado a ella, lo preocupante de la situación son los métodos de esas plataformas para ir juzgando a diestro y siniestro. No estamos hablando de casos aislados que se revisan manualmente, sino de algo que se aplica a gran escala. Sí, son empresas y actúan en su propio beneficio, pero tales poderes son desproporcionados y pueden ser fácilmente abusados (el gobierno tomando control).
De momento quizás no sea un gran problema pero a la larga éstos sistemas irán perfeccionándose y extendiéndose por todas partes, acercándonos poco a poco al sistema de China.
Aceptaremos como algo usual el hecho de ir a un banco y que nos den el préstamo según lo buenos o malos que hemos sido en nuestra vida privada?
O que no nos den un puesto de trabajo por algo que dijeras en un tweet de hace 5 años?
Donde acaba tu privacidad, acaba también tu libertad.
♂