Hay varios algoritmos de toma de decisiones puestos en marcha por diferentes sectores de la Administración pública, así que no estaría de más que antes de querer controlar lo que hacen las empresas privadas sean ellos los que rindan cuentas. Por si alguien quiere echar un ojo, me autoplagio un párrafo con sus respectivas referencias. Se mezclan notas a pie de página con citas a la bibliografía pero he simplificado la numeración.
Hay varios ejemplos funcionando en España: RisCanvi, para predecir el riesgo de reincidencia en presos de las cárceles catalanas (1]) SAVRY (Manual for the Structured Assessment of Violence Risk in Youth), que valora el riesgo de violencia en menores (2); VeriPol, dedicado a la detección de denuncias falsas de robo (3); un sistema del Servicio Público de Empleo Estatal que calcula las prestaciones por desempleo y asigna cursos, entrevistas y ofertas de trabajo (4); BOSCO, encargado de conceder el bono social (5), o VioGén, para el seguimiento de los casos de violencia de género (6).
Referencias(1) L. Martínez Garay, “Errores conceptuales en la estimación de riesgo de reincidencia”, Revista Española de Investigación Criminológica, vol. 14, n.o 3, pp. 1–31, feb. 2016. [En línea]. Disponible: https://reic.criminologia.net/index.php/journal/article/view/97
(2) L. Quijano-Sánchez, F. Liberatore, J. Camacho-Collados y M. Camacho-Collados, “Applying automatic text-based detection of deceptive language to police reports: Extracting behavioral patterns from a multi-step classification model to understand how we lie to the police”, Knowledge-Based Systems, vol. 149, pp. 155–168, jun. 2018, doi: 10.1016/j.knosys.2018.03.010.
(3) https://cejfe.gencat.cat/web/.content/home/recerca/cataleg/crono/2018/factorsProtector_CA.pdf
(4) AlgorithmWatch, “Automating society: Taking stock of automated decision-making in the EU”, AlgorithmWatch, Informe técnico, ene. 2019. [En línea]. Disponible: https://algorithmwatch.org/wp-content/uploads/2019/01/Automating_Society_ Report_2019.pdf
(5) https://civio.es/tu-derecho-a-saber/2019/05/16/la-aplicacion-del-bono-social-del-gobierno-niega-la-ayuda-a-personas-que-tienen-derecho-a-ella/
(6) https://www.interior.gob.es/web/servicios-al-ciudadano/violencia-contra-la-mujer/sistema-viogen
Por lo que a mí respecta, cuanto menos quieran influir, mejor para todos. Además, hay una legislación europea y aplicarla es función del Judicial.