Obligation of algorithmic transparency of digital work platforms

Technological changes and the development of artificial intelligence tools are having an impact on the labour market and new employment models. Artificial intelligence solutions are emerging that limit the role of humans in managing and monitoring employee work. The use of algorithms in the workplace allows for the objectification of the conditions under which decisions are made regarding employees, but at the same time, they can reduce employee protection in terms of working conditions through system errors, lack of knowledge about the functionality of the system, or lack of transparency in the use of algorithmic management. This article, which uses a formal dogmatic method, analyses the principle of algorithmic transparency in the use of automated decision-making and monitoring systems under the Platform Directive and points to the challenges associated with implementing this regulation into the Polish legal system.

Bibliografia/References

Abraha, H. (2023). Regulating algorithmic employment decisions through data protection law. European Labour Law Journal, 14(2), 172–191. https://doi.org/10.1177/20319525231167317

Baryła-Sakowska, M. (Red.) (2018). Ogólne rozporządzenie o ochronie danych osobowych. Komentarz. C.H.Beck.

Boscoe, B. (2019). Creating Transparency in Algorithmic Processes. Delphi – Interdisciplinary Review of Emerging Technologies 2, 12–22, https://doi.org/10.21552/delphi/2019/1/5

Brown, S., Davidovic, J., Hasan, A. (2021). The algorithm audit: Scoring the algorithms that score us. Big Data & Society, 8(1). https://doi.org/10.1177/2053951720983865

Akty prawne/Legal Acts

Dyrektywa Parlamentu Europejskiego i Rady (UE) 2024/2831 z 23 października 2024 r. w sprawie poprawy warunków pracy za pośrednictwem platform, Dz.Urz. UE. L z 11.11.2024.

Rozporządzenie Parlamentu Europejskiego i Rady (UE) z 16 kwietnia 2016r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE (ogólne rozporządzenie o ochronie danych), Dz.Urz.UE.L.2016.119.

Inne materiały/Other Sources

Grupa Robocza art. 29. 2017. Wytyczne dotyczące przejrzystości na mocy rozporządzenia 2016/679, https://ec.europa.eu/newsroom/article29/ items/622227/en, dostęp 18.02.2025.

Grupa Robocza art. 29. 2017. Wytyczne dotyczące zautomatyzowanego podejmowania decyzji w indywidualnych przypadkach i profilowania dla celów rozporządzenia 2016/679, https://ec.europa.eu/newsroom/article29/items/612053/en, dostęp 18.02.2025.

Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno – Społecznego i Komitetu Regionów, Ustanowienie Europejskiego filaru praw socjalnych, COM(2017) 250 final. https://eur-lex.europa.eu/legal-content/PL/TXT/?uri=celex%3A52017DC0250, dostęp dn. 18.02.2025

Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno – Społecznego i Komitetu Regionów EMPTY, Plan działania na rzecz Europejskiego filaru praw socjalnych, COM(2021) 102 final, https://eur-lex.europa.eu/legal-content/PL/TXT/PDF/ ?uri=CELEX:52021DC0102, dostęp 18.02.2025

Opinia Europejskiego Komitetu Ekonomiczno-Społecznego „Komunikat Komisji do Parlamentu Europejskiego, Rady, Europejskiego Komitetu Ekonomiczno-Społecznego i Komitetu Regionów, Lepsze warunki pracy na rzecz silniejszej Europy socjalnej: pełne wykorzystanie korzyści płynących z cyfryzacji dla przyszłości pracy” [COM(2021) 761 final],

„Wniosek dotyczący dyrektywy Parlamentu Europejskiego i Rady w sprawie poprawy warunków pracy za pośrednictwem platform internetowych” [COM(2021) 762 final], Dz.U.UE.C.2022.290.95.

Choudary, S. P. (2018). The architecture of digital labour platforms: Policy recommendations on platform design for worker well-being, International Labour Office – Geneva: ILO.

Christodoulou, P., Limniotis, K. (2024). Data Protection Issues in Automated Decision-Making Systems Based on Machine Learning: Research Challenges. Network, 4, 91–113. https://doi.org/10.3390/network4010005, https://www.mdpi.com/2673-8732/4/1/5

Citron, D. K. (2008). Technological Due Process. Washington University Law Review, 85(6), 1249 – 1313.

 Edwards, L., Veale, M. (2017). Slave to the algorithm? Why a "Right to an explanation" is probably not the remedy you are looking for. Duke Law &Technology Review 18, 18–84. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2972855#, dostęp 18.02.2025.

Fajgielski, P. (2018). Ogólne rozporządzenie o ochronie danych osobowych. Ustawa o ochronie danych osobowych. Komentarz. Wolters Kluwer.

Forde, C., Stuart, M., Joyce, S., Oliver, L. Valizade, D., Alberti, G., Hardy, K., Trappmann, V., Umney, C., Carson, C. (2017). The Social Protection of Workers in the Platform Economy. Study. European Parliament, https://www.europarl.europa.eu/RegData/etudes/STUD/2017/ 614184/IPOL_STU(2017)614184_EN.pdf, dostęp 20.06.2025

Graham, M., Hjorth, I., Lehdonvirta, V. (2017). Digital labour and development: impacts of global digital labour platforms and the gig economy on worker livelihoods. Transfer, 23(2), 135–162, https://doi.org/10.1177/1024258916687250

Guglielmetti, M. (2024). Automated work and workers' rights: platform work and AI work management systems (in) Artificial intelligence, labour and society. In Aída Ponce Del Castillo (ed). European Trade Union Institute (ETUI), 127–140. https://www.etui.org/sites/default/files/2024 03/Artificial%20intelligence%2C%20labour%20and%20society_2024.pdf#page=129

Hossein, M. J., Newlands, G., Lee, K. M., Wolf, C. T., Kinder, E. E., Sutherland W. (2021). Algorithmic management in a work context, Big Data & Society 8. 1–14. DOI:10.1177/20539517211020332 https://openscholarship.wustl.edu/law_lawreview/vol85/iss6/2/, dostęp 18.02.2025.

Lee, M. K., Kusbit, D., Metsky, E., Dabbish, L. (2015). Working with Machines: The Impact of Algorithmic and Data-Driven Management on Human Workers. CHI '15: Proceedings of the 33rd Annual ACM Conference on Human Factors in Computing Systems. 1603–1612. https://doi.org/10.1145/2702123.2702548

Łuczak, J. (2018). Komentarz do art. 12 i art. 13 RODO. W: E. Bielak-Jomaa, D. Lubasz (Red.), RODO. Ogólne rozporządzenie o ochronie danych. Komentarz. Wolters Kluwer.

Matsumi, H., Solove, D. J. (2023). The prediction society: Algorithms and the problems of forecasting the future, GWU Legal Studies Research Paper 58. http://dx.doi.org/10.2139/ssrn.4453869

Mitrus, L. (2024). Polska regulacja pracy platformowej de lege ferenda z perspektywy prawa Unii Europejskiej. Acta Universitatis Lodziensis. Folia Iuridica 107. 147–157. https://doi.org/10.18778/0208-6069.107.12

Möhlmann, M., Zalmanson, L. (2017). "Hands on the Wheel: Navigating Algorithmic Management and Uber Drivers' Autonomy". ICIS Proceedings, 3. https://aisel.aisnet.org/icis2017/DigitalPlatforms/Presentations/3

Otto, M. (2022). Dyskryminacja algorytmiczna w zatrudnieniu. Zarys problemu, Studia z Zakresu Prawa Pracy i Polityki Społecznej, 29(2), 145–160. https://doi.org/10.4467/25444654SPP.22.012.15686

Ponce del Castillo, A., Naranjo, D. (2022). Regulating algorithmic management: An assessment of the EC's draft Directive on improving working conditions in platform work, Policy Brief. European Economic, Employment and Social Polic ETUI, 8. https://www.etui.org/publications/ regulating-algorithmicmanagement

Shin, D., Park, Y. J. (2019). Role of fairness, accountability, and transparency in algorithmic affordance, Computers in Human Behavior, 98, 277–284. https://doi.org/10.1016/j.chb.2019.04.019

Veale, M., Silberman, M., Binns, R. (2023). Fortifying the algorithmic management provisions in the proposed Platform Work Directive. European Labour Law Journal, 14(2) 308–332. DOI: 10.1177/20319525231167983, journals.sagepub.com/home/ell

Werkmeister, C., Knoke, L., Roos, P., Maddaloni, J-M. (2024). When algorithms decide – New EU data rules for digital labour platform, DOI: 10.2139/ssrn.3125866, https://technologyquotient.freshfields.com/post/102j8il/when-algorithms-decide-new-eu-data-rules-for-digital-labour-platforms