Dylematy etyczne związane z ewolucją robotów

• Autorzy: Maternowska Małgorzata

Identyfikatory

DOI

10.37055/nsz/183866

Warianty tytułu

EN

Ethical dilemmas related to the robot evolution

• Języki publikacji: PL

Abstrakty

PL

Rozwój technik obliczeniowych, robotyki, druku 3D i technologii materiałowych umożliwia tworzenie zaawansowanych systemów robotów, które mogą autonomicznie rozmnażać się i ewoluować. Powstająca technologia ewolucji robotów rzuca wyzwanie istniejącej etyce sztucznej inteligencji, ponieważ wrodzona adaptacyjność, stochastyczność i złożoność systemów ewolucyjnych stwarzają liczne zagrożenia. Trudno jest lekceważyć możliwe implikacje dwóch kluczowych funkcjonalności ewoluujących robotów: samoreplikacji i losowej zmiany formy oraz zachowania robota. Samoreplikacja umożliwia robotom rozmnażanie się bez interwencji człowieka. Mutacje lub losowe zmiany ewolucyjne mogą prowadzić do niepożądanych i szkodliwych zachowań robotów, zagrażając ludzkim interesom. Za każdym razem, gdy powstaje technologia, która nie jest bezpośrednio kontrolowana przez człowieka, i gdy proces ten jest nieprzewidywalny, rodzą się pytania o ryzyko i odpowiedzialność. W artykule porusza się kwestie możliwego ryzyka powstania szkód i odpowiedzialności w powiązaniu z kluczowym problemem kontroli ludzkiej nad procesem ewolucji. Zagadnienie odpowiedzialności za sztuczną inteligencję uznano za szczególnie istotne zarówno z etycznego, jak i prawnego punktu widzenia. Generalnie odpowiedzialność dotyczy pełnego spektrum zdarzeń ex post (kto zawinił, jaki był powód) oraz ex ante (jakie działania należy podjąć, by zmniejszyć ryzyko, czyli co jest zaniedbaniem i kto je popełnia) i z reguły spoczywa na ludziach. Problemem jest jednak istnienie luk w zakresie odpowiedzialności za powstałe szkody czy zdarzenia niepożądane, w których uczestniczą ludzie i systemy sztucznej inteligencji, jakich nie da się wypełnić tradycyjnymi koncepcjami przypisania odpowiedzialności. W artykule wskazano na proponowany w literaturze przedmiotu sposób kompleksowego rozwiązania problemu luk w zakresie odpowiedzialności za sztuczną inteligencję, oparty na idei projektowania systemów socjotechnicznych umożliwiających znaczącą kontrolę człowieka, czyli systemów dostosowanych do ludzkich intencji i możliwości. Celem artykułu jest wskazanie na pilną potrzebę ciągłego poszukiwania odpowiedzi na pytanie: w jaki sposób można odpowiedzialnie kontrolować ewolucję robotów?

EN

Development of computational techniques, robotics, 3D printing and materials technologies enables the creation of advanced robotic systems that can autonomously reproduce and evolve. Emerging robotic evolution technology challenges existing AI ethics. The inherent adaptability, stochasticity and complexity of evolutionary systems pose numerous threats. It is difficult to underestimate the possible implications of two key functionalities of evolving robots: self-replication and random change of robot form and behavior. Self-replication allows robots to reproduce without human intervention. Mutations or random evolutionary changes can lead to undesirable and harmful behavior of robots, threatening human interests. Whenever a technology is developed that is not under direct human control and the process is unpredictable, questions of risk and liability arise. The article addresses both possible risk of harm and liability in connection with the key issue of human control over the process of evolution. The issue of responsibility for artificial intelligence was considered to be particularly important from both an ethical and legal point of view. In general, responsibility covers the full spectrum of events ex post (who is at fault, what was the reason), and ex ante (what actions should be taken to reduce the risk, i.e. what is negligence and who commits it), and usually rests with people. The problem, however, is the existence of gaps in the scope of liability for damages or adverse events involving people and artificial intelligence systems that cannot be filled with traditional concepts of assigning responsibility. The article indicates a method of comprehensively solving the problem of gaps in liability for artificial intelligence, proposed in the literature, based on the idea of designing social engineering systems that enable “meaningful human control”, i.e. systems adapted to human intentions and capabilities. The aim of the article is to indicate the urgent need for a continuous search for an answer to the question of how to responsibly control the evolution of robots.

Słowa kluczowe

PL

robotyka ewolucyjna; etyka; prawo cyberprzestrzeni; znacząca kontrola człowieka; luki w odpowiedzialności

EN

evolutionary robotics; ethics; cyber low; meaningful human control; responsibility gaps

• Wydawca: Wojskowa Akademia Techniczna im. Jarosława Dąbrowskiego
• Czasopismo: Nowoczesne Systemy Zarządzania
• Rocznik: 2023
• Tom: T. 18, nr 3
• Strony: 31--44
• Opis fizyczny: Bibliogr. 30 poz., tab.

Twórcy

autor

Maternowska Małgorzata

• Akademia Górniczo-Hutnicza w Krakowie

• https://orcid.org/0000-0003-0971-7895

Bibliografia

• [1] Amoroso, D., Tamburrini, G., 2019. What makes human control over weapon systems „meaningful”?, https://www.icrac.net/wp-content/uploads/2019/08/Amoroso-Tamburrini_Human-Control_ICRAC-WP4.pdf (dostęp: 27.03.2023).
• [2] Ashlock, D., 2006. Evolutionary Computation for Modeling and Optimization, New York: Springer, https://theswissbay.ch/pdf/Gentoomen%20Library/Artificial%20Intelligence/Evolutionary%20computation/Evolutionary%20Computation%20for%20Modeling%20and%20Optimization%20-%20Daniel%20Ashlock.pdf (dostęp: 27.03.2023).
• [3] Badyaev, A. V., 2011. Origin of the Fittest: Link between Emergent. Variation and Evolutionary Change as a Critical Question in Evolutionary Biology, https://royalsocietypublishing.org/doi/10.1098/rspb.2011.0548 (dostęp: 24.02.2023).
• [4] Bertolini, A., 2020. Artificial Intelligence and Civil Liability, Bruxelles, https://www.europarl.europa.eu/RegData/etudes/STUD/2020/621926/IPOL_STU(2020)621926_EN.pdf (dostęp: 27.03.2023).
• [5] Bertolini, A., Riccaboni, M., 2020. Grounding the Case for a European Approach to the Regulation of Automated Driving: The Technology-Selection Effect of Liability Rules, European Journal of Law and Economics, nr 51(27).
• [6] Bongard, J. C., 2013. Evolutionary Robotics, Communications of the ACM, nr 56, https://pages.vassar.edu/evodevorobotics/files/2014/10/Bongard-2013.pdf (dostęp: 27.03.2023).
• [7] Bryson, J. J., 2018. Patiency Is Not a Virtue: the Design of Intelligent Systems and Systems of Ethics, Ethics and Information Technology, nr 20(1).
• [8] Čapek, K., 1920. R. U. R.: Rossum’s Universal Robots (English Translation), https://www.gutenberg.org/files/59112/59112-h/59112-h.htm (dostęp: 24.02.2023).
• [9] Danaher, J., 2020. Welcoming Robots into the Moral Circle: A Defence of Ethical Behaviourism, Science and Engineering Ethics, nr 26(4).
• [10] de Jong, K. A., 2006. Evolutionary Computation: A Unified Approach, Cambridge: MIT Press, https://www.researchgate.net/publication/220691482_Evolutionary_Computation_A_Unified_Approach (dostęp: 24.02.2023).
• [11] Doncieux, S., Bredeche, N., Mouret, J.-B., Eiben, A. E., 2015. Evolutionary Robotics: what, why, and where to, https://www.frontiersin.org/articles/10.3389/frobt.2015.00004/full (dostęp: 24.02.2023).
• [12] Eiben, A. E., Ellers, J., Meynen, G., Nyholm, S., 2021. Robot Evolution: Ethical Concerns, https://www.frontiersin.org/articles/10.3389/frobt.2021.744590/full (dostęp: 27.03.2023).
• [13] Eiben, A. E., Smith, J. E., 2003. Introduction to Evolutionary Computing, https://warin.ca/ressources/books/2015_Book_IntroductionToEvolutionary Comp.pdf (dostęp: 27.03.2023).
• [14] Ellery, A., 2020. How to Build a Biological Machine Using Engineering Materials and Methods, Biomimetics (Basel), nr 5(3).
• [15] Ellery, A., Eiben, A.E., 2019. To Evolve or Not to Evolve? That Is the Question, https://digitalcollection.zhaw.ch/bitstream/11475/17907/1/ALIFE_2019.pdf (dostęp: 27.03.2023).
• [16] Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, Ch., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., Vayena, E., 2018. AI4People-An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations, https://link.springer.com/article/10.1007/s11023-018-9482-5 (dostęp: 27.03.2023).
• [17] Gordon, J. S., Nyholm, S., 2021. Ethics of Artificial Intelligence, Internet Encyclopedia of Philosophy, https://iep.utm.edu/ethics-of-artificial-intelligence/ (dostęp: 27.03.2023).
• [18] Kriegman, S., Blackiston, D., Levin, M., Bongard, J., 2020. A Scalable Pipeline for Designing Reconfigurable Organisms, Proceedings of the National Academy of Sciences of the United States of America, nr 117.
• [19] Lipson, H., Pollack, J. B., 2000. Automatic Design and Manufacture of Robotic Lifeforms, https://www.cs.swarthmore.edu/~meeden/DevelopmentalRobotics/lipson00.pdf (dostęp: 24.02.2023).
• [20] Maternowska, M., 2019. Nowe technologie i ich wpływ na łańcuchy dostaw: sztuczna inteligencja, https://www.ue.katowice.pl/fileadmin/user_upload/wydawnictwo/SE_Artyku%C5%82y_381_400/SE_388/04.pdf (dostęp: 27.03.2023).
• [21] Maternowska, M., 2022. Dylematy odpowiedzialności za roboty sterowane sztuczną inteligencją, https://nsz.wat.edu.pl/pdf-155318-82214?filename=Dylematy.pdf (dostęp: 27.03.2023).
• [22] Matthias, A., 2004. The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata, Ethics and Information Technology, nr 6(3).
• [23] Nolfi, S., Floreano, D., 2000. Evolutionary Robotics: The Biology, Intelligence, and Technology of Self-Organizing Machines, https://www.researchgate.net/publication/226668077_Evolutionary_Robotics (dostęp: 27.03.2023).
• [24] Nyholm, S., 2020. Humans and Robots: Ethics, Agency, and Anthropomorphism, London: Rowman & Littlefield International.
• [25] Santoni de Sio, F., Mecacci, G., 2021. Four Responsibility Gaps with Artificial Intelligence: Why they Matter and How to Address them, https://link.springer.com/article/10.1007/s13347-021-00450-x (dostęp: 27.03.2023).
• [26] Santoni de Sio, F., van den Hoven, J., 2018. Meaningful Human Control over Autonomous Systems: A Philosophical Account, Frontiers in Robotics and AI, nr 5.
• [27] Usidus, M., 2023. Ewolucja robotów, https://mlodytechnik.pl/technika/29780-ewolucja-robotow (dostęp: 27.03.2023).
• [28] van de Poel, I., 2016. An Ethical Framework for Evaluating Experimental Technology, Science and Engineering Ethics, nr 22(3).
• [29] Vargas, P. A., di Paolo, E. A., Harvey, I. M., Husbands, P., Moioli, R., 2014. The Horizons of Evolutionary Robotics, https://terrorgum.com/tfox/books/horizonsofevolutionaryrobotics.pdf. (dostęp: 27.03.2023).
• [30] Wyżga, P., Siedzik, D., 2023. Zapowiada koniec świata, jaki znamy. Polski fizyk o rewolucji AI, https://wiadomosci.wp.pl/polski-fizyk-pochwalil-sie-odkryciem-teraz-mowi-o-swiatowej-rewolucji-6881287875992384a (dostęp: 2.04.2023).