Verification error and supervision error – new types of medical errors resulting from the use of artificial intelligence systems occurring during the provision of health services
DOI:
https://doi.org/10.12775/SIT.2024.011Keywords
verification error, supervision error, AI, artificial intelligence, diagnostic error, therapeutic errorAbstract
Medical devices based on artificial intelligence have been used to provide health services for several years. Changes in the diagnostic and treatment process have made it necessary to distinguish new types of medical error - verification error as a subcategory of diagnostic error and supervision error as a subcategory of therapeutic error. Artificial intelligence is only a tool used by the physician. A doctor is obliged to verify the correctness of the diagnosis made by the AI. If the medical knowledge allows the physician to conclude that the results of the analysis performed by artificial intelligence are incorrect, and the physician nevertheless makes a diagnosis in accordance with the AI findings, a verification error will occur. When a surgeon is able to use a fully autonomous robot, the activities he or she undertakes will change completely. In such a case, physician will only be obliged to supervise the surgical robot and take over the surgical procedure if any malfunction in its operation is observed. If physician does not stop the autonomous robot although, according to medical knowledge, it does not work properly or the surgeon could perform the surgical procedure with his own hands more precisely, or the surgeon’s procedure would result in less damage to health, he will make a supervision error.
References
Bal B.S., An Introduction to Medical Malpractice in the United States, “Clinical Orthopaedics and Related Research” 2009, No. 467, https://doi.org/10.1007/s11999-008-0636-2.
Bączyk-Rozwadowska K., in: System Prawa Medycznego, ed. E. Bagińska, Warszawa 2021.
Buelens W., Robots and AI in the healthcare sector: Potential existing legal safeguards against a(n) (un)justified fear for dehumanisation of the physician-patient relationship, w: Artificial intelligence and the Law, eds. J. De Bruyne, C. Vanleenhove, Cambridge 2021, https://doi.org/10.1017/9781839701047.019.
Chłopecki A., Sztuczna inteligencja – szkice prawnicze i futurologiczne, Warszawa 2018.
Czochra M., Bar D., Śmierć pacjenta wywołana zastosowaniem sztucznej inteligencji w technologiach medycznych – analiza prawnokarna, “Studia Prawnicze. Rozprawy i materiały” 2019, No. 2(25).
Fiutak A., Prawo w medycynie, Warszawa 2021.
Holder C., Khurana V., Hook J., Bacon G., Day R., Robotics and law: Key legal and regulatory implications of the robotics age (part II of II), “Computer Law & Security Review” 2016, No. 32, https://doi.org/10.1016/j.clsr.2016.03.001.
Hoogenraad W., DUŻE DANE: rodzaje, cechy i zalety, ITpedia, 2017, https://pl.itpedia.nl/2017/08/29/big-data-soorten-kenmerken-en-voordelen/.
Lim D., AI & IP Innovation and Creativity in an Age of Accelerated Change, “Akron Law Review” 2018, No. 52.
Marek Z., Błąd medyczny, Kraków 1999.
Nesterowicz M., Prawo medyczne, Toruń 2019.
Płocha E.A., O pojęciu sztucznej inteligencji i możliwościach jej zastosowania w postępowaniu cywilnym, “Prawo w Działaniu. Sprawy cywilne” 2020, No. 44, https://doi.org/10.32041/pwd.4414.
Popielski B., Medycyna i Prawo, Warszawa 1968, cit. after: D. Korytkowska, Pojęcie błędu medycznego i zdarzenia medycznego, “Acta Universitatis Lodziensis Folia Oeconomica” 2012, No. 274.
Różanowski K., Sztuczna inteligencja: rozwój, szanse i zagrożenia, “ZeszytyNaukowe Warszawskiej Wyższej Szkoły Informatyki” 2007, No. 2, http://yadda.icm.edu.pl/yadda/element/bwmeta1.element.baztech-1cd1832b-24aa-4187-9c90-4bed4cd6eb97/c/Rozanowski_Sztuczna_Inteligencja_2_2007.pdf.
Schaffer D.R., Kipp K., Psychologia rozwoju od dziecka do dorosłości, Gdańsk 2015.
Somashekhar S.P., Sepulveda M.J., Norden A.D., Rauthan A., Arun K., Patil P., Ethadka R.Y., Kumar R.C., Early experience with IBM Watson for Oncology (WFO) cognitive computing system for lung and colorectal cancer treatment, “Journal of Clinical Oncology” 2017, 35:15 suppl, 8527-8527, https://doi.org/10.1200/jco.2017.35.15_suppl.8527.
Sośniak M., Cywilna odpowiedzialność lekarza, Warszawa 1977.
Sieńko A., Błędy medyczne odpowiedzialność lekarza i placówki medycznej, Warszawa 2018.
Świątek B., Błędy lekarskie w praktyce medyka sądowego, “Prawo i Medycyna” 2000, No. 5, Vol. 2.
Tarnka J., Drobnik J., Susło R., Steciwko A., Podstawy błędu medycznego z uwzględnieniem pracy lekarza rodzinnego, “Family Medicine & Primary Care Review” 2007, No. 9.
Wendechorst Ch., Strict Liability for AI and other Emerging Technologies, “Journal of European Tort Law” 2020, No. 11(2), https://doi.org/10.1515/jetl-2020-0140.
Węglińska J., Realizacja bezpieczeństwa prawnego w instytucji odpowiedzialności lekarza za błąd medyczny, “Studia Prawa Publicznego” 2022, No. 2/38.
Wojnarowska J., Sprawozdanie z ogólnopolskiej interdyscyplinarnej konferencji naukowej „Forum Prawa Medycznego: Prawo i etyka świata cyfrowego”, “Przegląd Prawa Medycznego” 2021, Vol. 3, No. 1–2.
Zakrzewski P., Standardy wykonywania zawodu lekarza a wina lekarza, w: Standard wykonywania zawodów medycznych, eds. A. Górski, E. Sarnacka, M. Grassman, Warszawa 2019.
Zalewski T., in: Prawo Sztucznej Inteligencji, eds. L. Lai, M. Świerczyński, Warszawa 2020.
Downloads
Published
How to Cite
Issue
Section
License
Copyright (c) 2024 Katarzyna Wałdoch
This work is licensed under a Creative Commons Attribution-NoDerivatives 4.0 International License.
Stats
Number of views and downloads: 67
Number of citations: 0