Skip to main navigation menu Skip to main content Skip to site footer
Biuletyn Stowarzyszenia Absolwentów i Przyjaciół Wydziału Prawa Katolickiego Uniwersytetu Lubelskiego

Vol. 20 No. 22 (2) (2025)

Articles

Ethical and Legal Aspects of the Use of Artificial Intelligence in Medical Documentation

DOI: https://doi.org/10.32084/bsawp.9891  [Google Scholar]
Published: 2025-12-01

Abstract

The article addresses the research problem concerning the ethical and legal conditions and limitations of using artificial intelligence in healthcare, with particular emphasis on the processing of medical data. It puts forward the hypothesis that the implementation of AI-based solutions in healthcare systems while simultaneously ensuring high standards of data protection and algorithmic transparency can significantly improve the quality, accessibility, and efficiency of medical services without infringing patients’ fundamental rights. The aim of the study is to identify the key benefits and challenges associated with the use of artificial intelligence in the collection, analysis, and utilisation of health data, and to indicate the legal and ethical frameworks that enable the sustainable deployment of these technologies. The methodology is based on a dogmatic-legal analysis of personal data protection regulations as well as a review of the relevant literature. The article also applies a case-study approach with regard to selected practical applications of artificial intelligence, such as diagnostic decision-support systems, electronic medical records, and predictive algorithms. The findings indicate that the effective implementation of artificial intelligence in healthcare requires not only compliance with legal requirements on data protection, but also the adoption of ethical design principles, including transparency, accountability, non-discrimination, and human oversight of decision-making processes.

References

  1. Alowais, Shuroug A., Sahar S. Alghamdi, Nada Alsuhebany, i in. 2023. „Revolutionizing healthcare: the role of artificial intelligence in clinical practice.” Alowais et al. BMC Medical Education 23:1-15. https://doi.org/10.1186/s12909-023-04698-z [Google Scholar]
  2. Bączyk-Rozwadowska, Katarzyna. 2022. „Odpowiedzialność cywilna za szkody wyrządzone w związku z zastosowaniem sztucznej inteligencji w medycynie.” Przegląd Prawa Medycznego 3, nr 3-4:5-35. https://doi.org/10.70537/z7xnk378 [Google Scholar]
  3. Bostrom, Nick. 2014. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. [Google Scholar]
  4. Cavoukian, Ann. 2009. Privacy by Design: The 7 Foundational Principles. Toronto: Information and Privacy Commissioner of Ontario. [Google Scholar]
  5. Ciszewski, Jerzy. 2002. Prawa pacjenta w aspekcie odpowiedzialności lekarza za niektóre szkody medyczne. Gdańsk: Wydawnictwo Arche. [Google Scholar]
  6. Davenport, Thomas, i Rajeev Kalakota. 2019. „The Potential for Artificial Intelligence in Healthcare.” Future Healthcare Journal 6, nr 2:94-98. https://doi.org/10.7861/futurehosp.6-2-94 [Google Scholar]
  7. Deptalski, Mikołaj, i Piotr Dziewałtowski-Gintowt. 2024. „Tortious liability regime for medical devices using artificial intelligence: Analysis of current solutions.” Transformacje Prawa Prywatnego 2:37-64. [Google Scholar]
  8. Drab-Kurowska, Agnieszka, i Michał Kuściński. 2024. „Wykorzystanie AI w administracji publicznej.” Biuletyn Gospodarki i Biblioteki Publicznej nr 383:227-40. [Google Scholar]
  9. Frączek, Michał, i Krzysztof Spaliński. 2023. „Bezpieczeństwo informacji w dobie sztucznej inteligencji: analiza ryzyka i wyzwania związane z ChatGPT.” Zeszyty Naukowe Pro Publico Bono 1, nr 1:287-302. https://doi.org/10.5604/01.3001.0054.1726 [Google Scholar]
  10. Gebru, Timnit. 2021. „Datasheets for Datasets.” Communications of the ACM 64, nr 12:86-92. https://doi.org/10.1145/3458723 [Google Scholar]
  11. Górska, Aleksandra, i Dariusz Jemielniak. 2023. „The Invisible Women: Uncovering Gender Bias in AI-Generated Images of Professionals.” Feminist Media Studies 23, nr 8:4370-375. https://doi.org/10.1080/14680777.2023.2263659 [Google Scholar]
  12. Gudowska-Natanek, Elżbieta, i Grzegorz Kuca. 2024. „Przetwarzanie danych osobowych.” W Prawo ochrony danych osobowych i prawo do informacji publicznej, red. Elżbieta Gudowska-Natanek, i Grzegorz Kuca, 35-54. Warszawa: Wydawnictwo C.H. Beck. [Google Scholar]
  13. Hanna, Matthew. 2025. „Ethical and Bias Considerations in AI-ML in Pathology.” Seminars in Diagnostic Pathology 42, nr 2:85-92. https://doi.org/10.1016/j.semdp.2025.01.004 [Google Scholar]
  14. Jagielski, Mariusz. 2016. „Pojęcie danych medycznych i zasady ich ochrony.” W Ochrona danych osobowych medycznych, red. Krzysztof Wojsyk, Paweł Litwiński, Mariusz Jagielski, i in., 1-44. Warszawa: Wydawnictwo C.H. Beck. [Google Scholar]
  15. Kaczan, Damian. 2022. „Odpowiedzialność odszkodowawcza za funkcjonowanie sztucznej inteligencji w medycynie.” Annales Universitatis Paedagogicae Cracoviensis. Studia de Cultura 14, nr 2:145-60. [Google Scholar]
  16. Kosiak, Piotr. 2023. „Etyczne aspekty rozwoju i wykorzystania sztucznej inteligencji.” International Journal of New Economics and Social Sciences 5(21):341-50. https://doi.org/10.5604/01.3001.0054.8421 [Google Scholar]
  17. Krawiec, Krzysztof. 2019. „Sztuczna inteligencja w świecie obrazów.”, https://www.sztucznainteligencja.org.pl/sztuczna-inteligencja-w-swiecie--obrazow/ [dostęp: 16.06.2025]. [Google Scholar]
  18. Leung, Tiffany. 2025. „AI Scribes in Health Care: Balancing Transformative Potential and Risk.” NPJ Digital Medicine 8:1-9. https://doi.org/10.1038/s41746-025-00123-4 [Google Scholar]
  19. Liu, Tsai-Ling. 2024. „AI-Powered Clinical Documentation and Clinicians’ Experiences.” JAMA Network Open 7(9):e2432460. https://doi:10.1001/jamanetworkopen.2024.32460 [Google Scholar]
  20. Łakomiec, Katarzyna. 2020. Konstytucyjna ochrona prywatności. Dane dotyczące zdrowia. Warszawa: Wydawnictwo C.H. Beck. [Google Scholar]
  21. Mittermaier, Maximilian, Marium M. Raza, i Joseph C. Kvedar. 2023. „Bias in AI-Based Models for Medical Applications: Challenges and Mitigation Strategies.” NPJ Digital Medicine 6, nr 1:1-8. https://doi.org/10.1038/s41746-023-00885-9 [Google Scholar]
  22. Morawski, Ryszard. 2022. „Etyczne wyzwania techno-nauki – techniki informacyjne.” Nauka 2:7-33. https://doi.org/10.24425/nauka.2022.140329 [Google Scholar]
  23. O’Neil, Cathy. 2016. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown. [Google Scholar]
  24. Perkins, Scott. 2024. „Improving Clinical Documentation with Artificial Intelligence: A Systematic Review.” Journal of AHIMA 95, nr 2:33-45. [Google Scholar]
  25. Rahwan, Iyad. 2018. „Society-in-the-Loop: Programming the Algorithmic Social Contract.” Ethics and Information Technology 20, nr 1:5-14. https://doi.org/10.1007/s10676-017-9430-8 [Google Scholar]
  26. Sameer Hoosain, Mohamed, Babu Sena Paul, Seeram Ramakrishna, i in. 2020. „The Impact of 4IR Digital Technologies and Circular Thinking on the United Nations Sustainable Development Goals.” Sustainability 12, nr 23:1-19. [Google Scholar]
  27. Sempryk, Joanna. 2023. „Implikacje etyczne na temat sztucznej inteligencji.” Studia – Prace Badawcze – Dokumenty z Zakresu Nauki Społecznej Społeczeństwo 33, nr 2:69-81. [Google Scholar]
  28. Topol, Eric. 2021. Medycyna głęboka. Jak sztuczna inteligencja może ponownie uczynić opiekę zdrowotna ludzką? Warszawa: ITEM Publishing. [Google Scholar]
  29. Wałdoch, Katarzyna. 2024. „Verification error and supervision error – new types of medical errors resulting from the use of artificial intelligence systems occurring during the provision of health services.” Studia Iuridica Toruniensia 34, nr 1:209-26. https://doi.org/10.12775/SIT.2024.011 [Google Scholar]
  30. Weiner, Ellison. 2025. „Ethical Challenges and Evolving Strategies in the Clinical Integration of AI.” Health Care Ethics 33, nr 1:12-27. [Google Scholar]
  31. Zalewski, Tomasz. 2020. „Definicja sztucznej inteligencji.” W Prawo sztucznej inteligencji, red. Luigi Lai, i Marek Świerczyński, 1-14. Warszawa: Wydawnictwo C.H. Beck. [Google Scholar]

Downloads

Download data is not yet available.

Similar Articles

You may also start an advanced similarity search for this article.