The use of artificial intelligence systems in the financial market on the example of credit scoring – challenges for consumer protection law

One of the segments of the financial market in which artificial intelligence systems (AI systems) are used is the banking market. The purpose of the paper is to attempt to counteract the occurrence of specific risks for consumers associated with the use of AI systems used in the banking sector to assess creditworthiness by means of credit scoring. Therefore, the risks for consumers regarding this matter, the practical problems associated with them and de lege ferenda postulates for their solution are identified.

References/Bibliografia

Literature/Literatura

Ayodele, T. O. (2010). Machine learning overview. In: Y. Zhang (Ed.), New advances in machine learning. https://www.intechopen.com/books/3752

Balina, R., & Idasz-Balina, M. (2021). Drivers of individual credit risk of retail customers: A case study on the example of the Polish cooperative banking sector. Risks, 9(12). https://doi.org/10.3390/risks9120219

Baumohl, Ch. et al. (2022). Disrupting data abuse: Protecting consumers from commercial surveillance in the online ecosystem. https://epic.org/wpcontentuploads/2022/12/EPIC-FTC-commercial-surveillance-ANPRM-comments-Nov2022.pdf

Banaszczak-Soroka, U. (Ed.). (2014). Rynki finansowe. Organizacja, instytucje, uczestnicy. C.H.Beck.

Bodo, B. et al. (2017). Tackling the algorithmic control crisis – the technical, legal, and ethical challenges of research into algorithmic agents. The Yale Journal of Law & Technology. 19, 133–180. http://hdl.handle.net/20.500.13051/7813

Borowicz, A. M. (2012). Rejestry kredytowe w Europie – w obliczu różnorodności rozwiązań. In: L. Kurkliński & K. Markowski (Ed.), Systemy wymiany informacji kredytowej (68–82). Biuro Informacji Kredytowej.

Cano, R. (2021). Category: Artificial Intelligence. https://iplens.org/category/artificial-intelligence/

Ciechomska, M. (2017). Prawne aspekty profilowania oraz podejmowania zautomatyzowanych decyzji w ogólnym rozporządzeniu o ochronie danych osobowych. Europejski Przegląd Sądowy, (5), 37–42.

Danks, D. & London, A. J. (2017). Algorithmic Bias in Autonomous Systems. Proceedings of the 26th International Joint Conference on Artificial Intelligence (IJCAI 2017), forthcoming.

Czech, T. (2023). Kredyt konsumencki. Komentarz. LEX\\el.

Czerniawski, M. (2018). In: E. Bielak-Jomaa & D. Lubasz (Ed.) RODO. Ogólne rozporządzenie o ochronie danych. Komentarz. LEX\\el.

Fajgielski, P. (2022). Komentarz do rozporządzenia nr 2016/679 w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych). In: Ogólne rozporządzenie o ochronie danych. Ustawa o ochronie danych osobowych. Komentarz. LEX\\el.

Gałązka, P. (2019). Różnice w ocenie zdolności kredytowej konsumenta w państwach członkowskich UE jako ograniczenie jednolitego rynku kredytów – analiza w kontekście zasady minimalizacji danych z art. 5 RODO. internetowy Kwartalnik Antymonopolowy i Regulacyjny, 8(8), 92–100. https://doi.org/10.7172/2299-5749.IKAR.8.8.7

Geburczyk, F. (2022). Kryteria dopuszczalności decyzji zautomatyzowanych w świetle brzmienia art. 22 ust. 1 RODO. Przegląd Ustawodawstwa Gospodarczego, (5), 34–40. https://doi.org/10.33226/0137-5490.2022.5.5

Hurlin, Ch., & Pérignon, Ch., Saurin S. (2021). The fairness of credit scoring models. https://acpr.banque-france.fr/sites/default/files/20211202_09_perignon.pdf

Kociucki, L. (2020). In: B. Bajor, J. M. Kondek, K. Królikowska, & L. Kociucki, Prawo bankowe. Komentarz do przepisów cywilnoprawnych. LEX\\el.

Kupiec, M. (2024). Nowe spojrzenie na zautomatyzowane podejmowanie decyzji w rozumieniu art. 22 RODO – glosa do wyroku Trybunału Sprawiedliwości z 7.12.2023r., C-634/21. Europejski Przegląd Sądowy, (3), 33–39.

Langenbucher, K. (2024). Financial profiling. https://www.researchgate.net/publication/381127142_Financial_Profiling

Lubasz, D., & Rutkowska-Tomaszewska, E. (2015). In: M. Namysłowska (Ed.), Ustawa o prawach konsumenta. Komentarz. LEX\\el.

Maciejewski, G. (2010). Ryzyko w decyzjach nabywczych konsumentów. Wydawnictwo Uniwersytetu Ekonomicznego w Katowicach.

Markowski, K. (2012). Cele, funkcje i dylematy funkcjonowania systemów wymiany informacji kredytowej. In: L. Kurkliński, & K. Markowski (Ed.), Systemy wymiany informacji kredytowej. Biuro Informacji Kredytowej.

Mednis, A. (2022). In: A. Mikos-Sitek, & P. Zapadka (Eds.), Prawo bankowe. Komentarz. LEX\\el.

Namysłowska, M. et al. (2023). O etycznych, prawnych i społecznych konsekwencjach stosowania systemów sztucznej inteligencji w państwach członkowskich Unii Europejskiej. Uwagi na tle projektu rozporządzenia w sprawie sztucznej inteligencji. Przegląd Sejmowy, 31(6), 61–84. http://dx.doi.org/10.31268/ps.2023.219

Vojtek, M., & Kocenda, E. (2006). Credit scoring methods. Czech Journal of Economics and Finance, (3–4), 152–167.

Rodrigues, R. (2020). Legal and human rights issues of AI: Gaps, challenges and vulnerabilities. Journal of Responsible Technology, 4. https://doi.org/10.1016/j.jrt.2020.100005

Roig, A. (2017). Safeguards for the right not to be subject to a decision based solely on automated processing (Article 22 GDPR). European Journal of Law and Technology, 8(3), 1–17.

Rojszczak, M. (2020). Sztuczna inteligencja w innowacjach finansowych – aspekty prawne i regulacyjne. internetowy Kwartalnik Antymonopolowy i Regulacyjny, (2), 61–76.

Rzeźnik, G. (red.). (2023). Zastosowania sztucznej inteligencji w gospodarce. Przegląd wybranych inicjatyw i technologii z rekomendacjami dla przedsiębiorców. Polska Agencja Rozwoju Przedsiębiorczości. https://www.parp.gov.pl/publikacje/publication/zastosowania-sztucznejinteligencji-w-gospodarce-przeglad-wybranych-inicjatyw-i-technologii-z-rekomendacjami-dla-przedsiebiorcow

Siddiqi, N. (2017). Intelligent credit scoring. Building and implementing better credit risk scorecards. SAS Institiute.

Szostek, D., Bar, G., Prabucki T., & Nowakowski, M. (2022). Zastosowanie sztucznej inteligencji w bankowości – szanse oraz zagrożenia. Raport opracowany przez badaczy z Uniwersytetu Śląskiego w ramach Programu Analityczno-Badawczy przy Fundacji WIB. https://us.edu.pl/wpcontent/uploads/pliki/PAB_WIB_Zastosowanie_sztucznej_inteligencji_w_bankowosci_Szostek.pdf

Ślażyńska-Kluczek, D. (2021). Sztuczna inteligencja – regulacje prawne, miejsce w polskim sektorze bankowym. Nauki Ekonomiczne, 34, 53–70. https://doi.org/10.19251/ne/2021.34(5)

Toh, Y. L. (2024). Addressing traditional credit scores as a barrier to accessing affordable credit. https://www.kansascityfed.org/documents/9602/EconomicReviewV108N3Toh.pdf

Woźniak, P., & Rogowski, W. (2012). Główne produkty i usługi oferowane przez Biuro Informacji Kredytowej S.A. In: L. Kurkliński, & K. Markowski (Ed.), Systemy wymiany informacji kredytowej. Biuro Informacji Kredytowej.

 

Judgments/Orzecznictwo

Judgment of the CJEU of 18.12.2014 r., C-449/13, ZOTSiS 2014, no. 12, item I-2464

Judgment of the CJEU of 7.12.2023 r., C-634/21, LEX no. 3634999

 

Legal acts/Akty prawne

Act of 12 May 2011 on consumer credit, Journal of Laws of 2024, item 1497 as amended.

Act of August 29, 1997 – Banking Law, Journal of Laws of 2022, item 2324 as amended.

Directive (EU) 2023/2225 of the European Parliament and of the Council of 18 October 2023 on credit agreements for consumers and repealing Directive 2008/48/EC, OJ EU.L.2023.2225.

Real Decreto 729/2023, de 22 de agosto, por el que se aprueba el Estatuto de la Agencia Espanola de Supervisión de Inteligencia Artificial. https://boe.es/diario_boe/txt.php?id=BOE-A-2023-18911

Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation), Journal of Laws EU L 2016 No. 119, 1.

Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act), Journal of Laws EU L 2024 No. 1689, 1

State of California. (2023). Assembly Bill No. 302.

State of Texas. (2023). An Act relating to the creation of the artificial intelligence advisory council.

 

Other sources/Inne źródła

Big Data Value Association. (2021). BDVA/DAIRO position paper response to the European Commission's proposal for AI Regulation. https://www.bdva.eu/wp-content/uploads/pdfs-legacy/BDVA_DAIRO%20response-feedback%20AI%20Regulation_Final.pdf

Biuro Informacji Kredytowej (BIK). (n.d.-a) Co wpływa na wysokość oceny punktowej. https://www.bik.pl/poradnik-bik/co-wplywa-na-wysokoscoceny-punktowej

Biuro Informacji Kredytowej (BIK). (n.d.-b). Czym jest ocena punktowa. https://www.bik.pl/poradnik-bik/czym-jest-ocena-punktowa

European Commission. (2018). Guidelines on automated individual decision-making and profiling for the purposes of Regulation 2016/679.

MultiState. (2023). https://www.multistate.ai/state-by-state-ai-policy-overviews

Schufa. (n.d.) What is a Schufa Credit Score. https://banks-germany.com/schufa-credit-score/#What_is_a_Schufa_Credit_Score

Urząd Komisji Nadzoru Finansowego. (2020). Komunikat Urzędu Komisji Nadzoru Finansowego w sprawie realizacji przez banki i inne instytucje ustawowo upoważnione do udzielania kredytów prawa wnioskującego o kredyt do uzyskania wyjaśnień na temat dokonanej oceny zdolności kredytowej.

World Bank Group. (2019). Credit scoring approaches guidelines.