Los derechos del consumidor en los procesos de evaluación de solvencia mediante el tratamiento automatizado de datos contenidos en la Directiva (UE) 2023/2225
Main Article Content
Abstract
On 30 October 2023 the European Union adopted a new Consumer Credit Directive (CCD). One of the main novelties of the new directive is the assessment of consumer creditworthiness through automated data processing with artificial intelligence. The CCD guarantees the consumer the right to request human intervention in the creditworthiness assessment process, which takes the form of three possible safeguards: the right to obtain a clear and comprehensible explanation, the right to express one's point of view, and the right to request a review of the creditworthiness assessment and the outcome. Despite the merits of the CCD in this area, the effectiveness of such safeguards is questionable, as they may have a limited effect on consumer protection.
Article Details
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
- Los autores/as conservarán sus derechos de autor y garantizarán a la revista el derecho de primera publicación de su obra, el cuál estará simultáneamente sujeto a la Licencia de reconocimiento de Creative Commons Reconocimiento-NoComercial-SinObrasDerivadas, que permite a terceros compartir reconociendo adecuadamente la auoria del texto, no utilizar el material con fines comerciales, y si remezcla, transforma o crea a partir del material, no puede difundir el material modificado.
References
ALMADA, M., Human intervention in automated decision-making: Toward the construction of contestable systems, Seventeenth International Conference on Artificial Intelligence and Law (ICAIL ’19), p. 1-10.
ARTICLE 29 DATA PROTECTION WORKING PARTY, Opinion 03/2013 on purpose limitation, 00569/13/EN WP 203, p. 1-70.
AUTORIDAD BANCARIA EUROPEA, Directrices sobre concesión y seguimiento de préstamos, EBA/GL/2020/06, de 29 de mayo de 2020, p. 1-74.
BEN-SHAHAR, O., SCHNEIDER, C. E., More than you wanted to know. The Failure of Mandate Disclosure, Princeton University Press, Princeton, 2014.
BYGRAVE, L. A., “Article 22. Automated individual decision- making, including profiling”, en KUNER, C., BYGRAVE, L. A., DOCKSEY, C. y DRECHSLER, L (eds.), The EU General Data Protection Regulation (GDPR): A Commentary, Oxford University Press, 2020, p. 522-542.
BUSTO LAGO, J. M., “El deber de evaluar la solvencia del consumidor de crédito como mecanismo de prevención del sobreendeudamiento y su regulación en España”, en CARBALLO FIDALGO, M (coord.), Sobreendeudamiento de consumidores. Estrategias para garantizar una segunda oportunidad, Bosch, Barcelona, 2019, p. 21-65.
COLLADO-RODRÍGUEZ, N., “La evaluación de la solvencia mediante el uso de sistemas de IA”, en Revista CESCO de Consumo, núm. 46/2023, p. 41-67.
COMISIÓN EUROPEA, Propuesta de Directiva del Parlamento Europeo y del Consejo relativa a los créditos de consumo, Bruselas, 30.6.2021 COM(2021) 347 final 2021/0171(COD).
CONCLUSIONES DEL ABOGADO GENERAL SR. PRIIT PIKAMÄE, presentadas el 16 de marzo de 2023, Asunto C-634/21 OQ contra Land Hessen.
CONSEJO DE EUROPA, European ethical Charter on the use of Artificial Intelligence in judicial systems and their environment, 2018.
CONSEJO DE LA UNIÓN EUROPEA, Proposal for a DIRECTIVE OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL on consumer credits, Brussels, 22 June 2023 (OR. en) 10983/23.
CORMEN, T. H., LEISERSON, C. E., RIVEST, R. L., STEIN, C., Introduction to algorithms, 3ª ed., Londres, 2009.
COTINO HUESO, L., “La primera sentencia del Tribunal de Justicia de la Unión Europea sobre decisiones automatizadas y sus implicaciones para la protección de datos y el Reglamento de inteligencia artificial”, en Diario la Ley, núm. 80, 2024, p. 1-10.
CUMMINGS, S., “Automotion bias in intelligent time critical decision support systems”, en AIAA 1st Intelligent Systems Technical Conference, puede consultarse en: https://arc.aiaa.org/doi/10.2514/6.2004-6313.
DE TERWANGNE, C., “Article 5. Principles relating to processing of personal data”, en KUNER, C., BYGRAVE, L. A., DOCKSEY, C. y DRECHSLER, L (eds.), The EU General Data Protection Regulation (GDPR): A Commentary, Oxford University Press, 2020, p. 309-320.
EDWARDS, L., y VEALE, M., “Enslaving the Algorithm: From a “Right to an Explanation” to a “Right to a Better Decisions”?”, en IEEE Security & Privacy, núm. 16, 2018, p. 1-14.
EDWARDS, L., y VEALE, M., “Slave to the Algorithm? Why a 'Right to an Explanation' Is Probably Not the Remedy You Are Looking For”, en Duke Law & Technology Review, núm. 18, 2017, p. 18-84.
GOODMAN, B., y FLAXMAN, S., “European Union regulations on algorithmic decision-making and a “right to explanation”, puede consultarse en: https://arxiv.org/pdf/1606.08813.pdf.
GRUPO DE TRABAJO SOBRE PROTECCIÓN DE DATOS DEL ARTÍCULO 29, Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2016/679. Adoptadas el 3 de octubre de 2017. Revisadas por última vez y adoptadas el 6 de febrero de 2018, 17/ES
WP251rev.01, p. 1-42.
HURLEY, M., y ADEBAYO, J., “Credit Scoring in the Era of Big Data”, en Yale Journal of Maw & Technology, núm. 18, 2106, p. 148-216.
JAGTIANA, J., y LEMIEUX, C., “The Roles of Alternative Data and Machine Learning in Fintech Lending, “The Roles of Alternative Data and Machine Learning in Fintech Lending: Evidence from the Lending Club Consumer Platform”, puede consultarse en: https://www.philadelphiafed.org/-/media/frbp/assets/working-papers/2018/wp18-15r.pdf?la=en.
KAMINSKI, M. E., “The Right to Explanation, Explained”, en Berkeley Technology Law Journal, núm. 34, 2019, p. 190-218.
KEATS CITRON, D., y PASQUALE, F., “The Scored Society: Due Process for Automated Predictions”, Washington Law Review, núm. 89, p. 1-33.
KOTSCHY, W., “Article 6. Lawfulness of processing”, en KUNER, C., BYGRAVE, L. A., DOCKSEY, C. y DRECHSLER, L (eds.), The EU General Data Protection Regulation (GDPR): A Commentary, Oxford University Press, 2020, p. 321-344.
MOSIER, K. L., SKITKA, L. J., HEERS, S., y BURDICK, M., “Automotion Bias: Decision Making and Performance in High-Tech Cockpits”, en The International Journal of Aviation Psychology, núm. 8, 1998, p. 47-63.
NOEL, N., PINDER, D., STEWART III, S., y WRIGHT, J., The economic impact of closing the racial wealth gap, puede consultarse en: https://www.mckinsey.com/~/media/mckinsey/industries/public%20and%20social%20sector/our%20insights/the%20economic%20impact%20of%20closing%20the%20racial%20wealth%20gap/the-economic-impact-of-closing-the-racial-wealth-gap-final.pdf.
PALMA ORTIGOSA, A., Régimen jurídico de la toma de decisiones automatizadas y el uso de sistemas de inteligencia artificial en el marco del derecho a la protección de datos personales, Universitat de València, 2021.
PRABHAKAR, T., A new Era for Credit Scoring: Financial Inclusion, Data Security, and Privacy Protection in the Age of Digital Lending, puede consultarse en: https://cltc.berkeley.edu/wp-content/uploads/2020/06/A_New_Era_for_Credit_Scoring.pdf.
ROBERTS, S., The Yoda of Silicon Valley, puede consultarse en https://www.nytimes.com/2018/12/17/science/donald-knuth-computers-algorithms-programming.html (consulta realizada el día 14 de diciembre de 2023).
RICE, L., y SWESNIK, D., “Discriminatory Effects of Credit Scoring on Communities of Color”, en Suffolk University Law Review, núm. 935, 2013, p. 1-30.
ROIG BATALLA, A., Las garantías frente a las decisiones automatizadas. Del Reglamento General de Protección de Datos a la gobernanza algorítmica, Bosch, Barcelona, 2020.
SELBST, A. D., y POWLES, J., “Meaningful information and the right to explanation”, en International Data Privacy, núm. 4, 2017, p. 233-242.
TOSONI, L., y BYGRAVE, L. A., “Article 4(7). Controller”, en KUNER, C., BYGRAVE, L. A., y DOCKSEY, C (eds.), The EU General Data Protection Regulation (GDPR): A Commentary, Oxford University Press, 2020, p. 145-156.
WACHTER, S., MITTELSTADT, B., y FLORIDI, L., “Why a Right to Explanation of Automated Decision-Making does Not Exist in the General Data protection Regulation”, en International Data Privacy Law, núm. 2, 2017, p. 76-99.
ZANFIR-FORTUNA, G., “Article 13. Information to be provided where personal data are collected from the data subject”, en KUNER, C., BYGRAVE, L. A., DOCKSEY, C. y DRECHSLER, L (eds.), The EU General Data Protection Regulation (GDPR): A Commentary, Oxford University Press, 2020, p. 413-433.