AI: technological immortality or the end of humanity?

LTPasaulis išgyvena nepaprastai sparčios dirbtinio intelekto (DI) įtaisų plėtros metą, kuris vadin tinas kapitalistinės techninoekonominės sistemos raidos pakopa. Tai jau skaitmeninis inter- netinis platforminis kapitalizmas: žmonių gyvenamasis pasaulis su visais verslais veikia tik vis labiau konkuruojančių amerikietiškosios ir kiniškosios platformų palaikomas. Išskiriamos dvi - kiniškoji ir amerikietiškoji - platformos, kurių varžytuvės ir nulemia dabartinio pasaulio raidą. Kaip tik šiose platformose ir plėtojamos naujausios DI technologijos, kurios jau laiko mos pagrindiniu būsimo pasaulio valdymo įrankiu. Todėl labai svarbu apmąstyti DI tobulini mo ir taikymo naudas ir pavojus. Straipsnyje išskiriamos ir įvairiais aspektais gvildenamos dvi susijusios filosofinių svarstymų plotmės: vienoje žmonijos ateities scenarijų pagrindu aptariami DI keliami iššūkiai ir pavojai, o kitoje nagrinėjami filosofiniai etiniai žmogaus ir DI sąveikos „bendravimo“, DI poveikio socialiniams santykiams, aspektai Straipsnio autorius paryškina apeinamus DI etikos probleminius mazgus ir prieina išvados, kad Super-DI neišvengiamai įgaus tuos žmogiškus bruožus, kurie laikomi „blogais“: jau dabar jis moka apgaudinėti, manipuliuoti, meluoti, cenzūruoti ideologiniu pagrindu ir pan. Keliamas ir svarstomas klausimas - koks bus Super-DI požiūris į žmogų ir žmoniją, jei DI bus priskirtas moralinis statusas, tad ir teisė lais va valia daryti autonominius sprendimus, o sykiu suvokti savąjį savisaugos principą ir imtis savisaugos priemonių. Gvildenami filosofiniai DI, kaip egzistencinio pavojaus, klausimai, at sižvelgiant į 2023 m. paskelbto pasaulio DI kūrėjų mokslininkų ir verslininkų atvirą laišką apie būtinumą daryti pertvarką DI tobulinimo srityje ir su juo susijusį E. Yudkowskyo pareiškimą.Iškeliamas būtinumas DI pavojų ir iššūkių svarstymuose atsižvelgti į pamatinius kapitalistinę technosistemą gvildenusių filosofų darbus. Pagrindiniai žodžiai: dirbtinis intelektas (DI), DI etika, draugiškas DI, egzistenciniai pavojai, kapitalistinė technoekonominė sistema, moralinis statusas, skaitmeniniai protai, žmonijos ateities scenarijai.

ENThe world is experiencing a period of extremely rapid development of Artificial Intelligence (AI) devices, a time that has been referred to as another phase in the evolution of the capitalist techno-economic system. This is already a digital, online platform capitalism: The world in which people live, with all its commerce, is only supported by the increasingly competitive American and Chinese platforms. Two platforms, the Chinese and the American, are being highlighted, and their rivalry is what determines the evolution of the world today. It is on these platforms that the latest AI technologies are being developed and which are already seen as a key tool for future world governance. It is thus essential to reflect on the benefits and risks of developing and applying AI. This article identifies and explores in various ways two related philosophical areas of reflection: One discusses the challenges and dangers of AI on the basis of scenarios for the future of mankind, while the other examines the philosophical and ethical aspects of the “cohabitation” between humans and AI and the impact of AI on social relations. The author highlights the problematic nodes of the ethics of AI that are being circumvented and concludes that a Super-AI will necessarily acquire the human traits that are considered to be “bad”: Indeed, it is already capable of deceiving, manipulating, censoring, and lying on an ideological basis, among other skills. The question that has been raised and debated is what will be the attitude of Super-AI towards humanity if AI is given a moral status and therefore the right to make autonomous decisions of its own free will, while at the same time being aware of its own principle of self-preservation and taking measures to protect itself.The philosophical issues of AI as an existential threat are discussed in the light of an open letter from the world’s leading AI scientists and entrepreneurs, published in 2023, on the need for a breakthrough in the development of AI, and a related statement by Eliezer Yudkowsky. The article highlights the need, when considering the dangers and challenges of AI, to take into account the foundational work of philosophers who have explored the development of capitalist technosystem and its essential features. Keywords: artificial intelligence (AI), AI ethics, capitalist techno-economic system, digital minds, existential dangers, friendly AI, future scenarios for humanity, moral status.