The AI is now in session – The impact of digitalisation on courts

• Autorzy: Papp Dorottya , Krausz Bernadett , Gyuranecz Franciska Zsófia

Identyfikatory

DOI

10.35467/cal/151833

Warianty tytułu

PL

Obrady z udziałem AI – wpływ cyfryzacji na sądy

• Języki publikacji: EN

Abstrakty

EN

This paper seeks to map out the problems imposed by the introduction of artificial intelligence (AI) regarding the judicial system. In the era of digitalisation, we are only a step from using AI in our daily work. For this purpose, we carried out a multidisciplinary research related to the possible application of AI in the judiciary worldwide. Our main objective was not only to show that AI requires a different approach both from legislative and executive aspects, but also to offer possible solutions concerning the implementation of AI in the judicial sector. We analysed several aspects of the right to a fair trial with regard to the changes imposed by AI systems. Likewise, we covered the emerging ethical concerns and tackled the issue of transparency, responsibility and non-discrimination. The analysis gradually verified the initial hypothesis of our paper that in spite of the increasing ubiquity of AI, we have to limit its use and adjust both our legal and ethical framework to address these new concerns.

PL

Niniejszy artykuł stanowi próbę naświetlenia problemów, jakie wynikły po wprowadzeniu sztucznej inteligencji (artificial intelligence – AI) do systemu sądownictwa. W dobie cyfryzacji dzieli nas tylko krok od tego, żeby wykorzystywać AI w codziennej pracy. W związku z tym przeprowadziliśmy multidyscyplinarne badania dotyczące możliwości wykorzystania AI w sądownictwie na całym świecie. Naszym głównym celem było nie tylko pokazanie, że AI wymaga odrębnego podejścia zarówno od strony legislacyjnej, jak i wykonawczej, lecz także wskazanie możliwych rozwiązań dotyczących jej wdrożenia w sektorze sądowniczym. Przeanalizowaliśmy wiele aspektów związanych z prawem do uczciwego procesu sądowego, w kontekście zmian wymuszonych przez systemy oparte na AI. Przyjrzeliśmy się również wątpliwościom natury etycznej i uwzględniliśmy kwestie przejrzystości, odpowiedzialności i braku dyskryminacji. W toku analizy zweryfikowaliśmy początkową hipotezę postawioną w artykule, że pomimo rosnącej powszechności AI musimy ograniczyć jej wykorzystanie i dostosować zarówno nasze normy prawne, jak i etyczne, mając na uwadze zaistniałe obawy.

Słowa kluczowe

EN

artificial intelligence; machine learning; fair trial; due proces; judicial systems; civil proceedings; criminal proceedings; European Union; judiciary

PL

sztuczna inteligencja; uczenie maszynowe; uczciwy proces; należyty proces; system sądownictwa; postępowanie cywilne; postępowanie karne; Unia Europejska; sądownictwo

• Wydawca: Akademia Sztuki Wojennej
• Czasopismo: Cybersecurity and Law
• Rocznik: 2022
• Tom: Vol. 7 (1)
• Strony: 272--296
• Opis fizyczny: Bibliogr. 18 poz.

Twórcy

autor

Papp Dorottya

• LL.M.
• Eötvös Loránd University (Budapest, Hungary), Faculty of Law, Department of Administrative Law

autor

Krausz Bernadett

• University of Pécs (Pécs, Hungary), Faculty of Law, Department of Legal History

autor

Gyuranecz Franciska Zsófia

• LL.M.

Bibliografia

• 1. Ambrogi R., In Litigation and Legal Research, Judge Analytics is the New Black, https://www.lawsitesblog.com/2015/07/in-litigation-and-legal-research-judge-analytics-is-the-new-black.html [access: 20.02.2022].
• 2. Angwin J., Larson J., Mattu S., Kirchner L., Machine Bias, ProPublica, 23 May 2016, https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing [access: 30.01.2022].
• 3. Bottou L., From Machine Learning to Machine Reasoning, 2011, https://arxiv.org/abs/1102.1808 [access: 20.01.2022].
• 4. Dressel J., Farid H., The accuracy, fairness, and limits of predicting recidivism, „Science Advances” 2018, vol. 4, no 1.
• 5. Judges A.I., The Future of Justice Hangs in the Balance, https://medium.com/s/reasonable-doubt/a-i-Judges-the-future-of-justice-hangs-in-the-balance-6dea1540daaa [access: 20.01.2022].
• 6. Katz D.M., Bommarito M.J., Blackman J., A general approach for predicting the behavior of the Supreme Court of the United States, 12 April 2017, PLoS ONE 12(4), e0174698, https://doi.org/10.1371/journal.pone.0174698 [access: 22.02.2022].
• 7. Kelly K., The AI Cargo Cult – The myth of a superhuman AI, 25 April 2019, https://kk.org/wp-content/uploads/2017/05/Myth_Superhuman_Backchannel.pdf [access: 20.01.2022].
• 8. Kravetz D., Algorithm predicts US Supreme Court decisions 70% of time, https://arstechnica.com/science/2014/07/algorithm-predicts-us-supreme-court-decisions-70-of-time/ [access: 28.01.2022].
• 9. Letteron R., Digital Access to the Law, Les Annales des Mines, 3 September 2018, http://www.annales.org/enjeux-numeriques/2018/resumes/septembre/14-en-resum-FR-AN-septembre-2018.html [access: 31.01.2022].
• 10. Markou C., Why using AI to sentence criminals is a dangerous idea, http://theconversation.com/why-using-ai-to-sentence-criminals-is-a-dangerous-idea-77734 [access: 22.02.2022].
• 11. Mcgregor L., Murray D., Ng V., International Human Rights Law as a framework for algorithmic accountability, London 2019.
• 12. McMullan T., Judges A.I., The Future of Justice Hangs in the Balance, https://medium.com/s/reasonable-doubt/a-i-judges-the-future-of-justice-hangs-in-the-balance-6dea1540daaa [access: 20.02.2022].
• 13. Nakad-Westrate H., Jongbloed T., Herik J., Salem A.M., Digitally Produced Judgements in Modern Court Proceedings, „International Journal of Digital Society” 2015, no. 4.
• 14. Niiler E., Can AI be a fair judge in court? Estonia thinks so, Wired Business, 25 March 2019, https://www.wired.com/story/can-ai-be-fair-judge-court-estonia-thinks-so/ [access: 2.02.2022].
• 15. Pinkstone J., Estonia creating AI powered judge, Daily Mail Online, 26 March 2019, https://www.dailymail.co.uk/sciencetech/article-6851525/Estonia-creating-AI-powered-JUDGE.html [access: 2.02.2022].
• 16. Selbst A.D., Powles J., Meaningful information and the right to explanation, „International Data Privacy Law” 2017, vol. 7, no. 4.
• 17. Sourdin T., Judge v. Robot? Artificial Intelligence and Judicial Decision-Making, „UNSW Law Journal” 2018, vol. 41, no. 4.
• 18. Waddell K., Can judging be automated?, https://www.axios.com/artificial-intelligence-judges-0ca9d45f-f7d3-43cd-bf03-8bf2486cff36.html [access: 22.02.2022].