mirМИР (Модернизация. Инновации. Развитие)MIR (Modernization. Innovation. Research)2079-46652411-796XSchool of Public Administration10.18184/2079-4665.2024.15.2.228-247mir-1684Research ArticleМОДЕРНИЗАЦИЯMODERNIZATIONИскусственный интеллект: дихотомия развития технологииArtificial Intelligence: the dichotomy of technology developmenthttps://orcid.org/0000-0002-3298-1638ЩербаковГ. А.ShcherbakovG. A.

Щербаков Геннадий Анатольевич, доктор экономических наук, профессор, профессор кафедры «Системный анализ в экономике»

Scopus ID: 57212108593

Москва

Gennady A. Shcherbakov, Doctor of Economics Sciences, Professor

Scopus ID: 57212108593

Moscow

g.shcherbakov@mail.ruФинансовый университет при Правительстве Российской ФедерацииРоссияFinancial University under the Government of the Russian FederationRussian Federation202415072024152228247Copyright © Щербаков Г.А., 20242024Щербаков Г.А.Shcherbakov G.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.mir-nayka.com/jour/article/view/1684

Цель: определение возможностей и потенциальных рисков внедрения технологий искусственного интеллекта на основе анализа доминирующих тенденций современного развития высокотехнологичного сектора глобальной экономики.Методы. В работе применены системный подход, метод классификации и систематизации, метод оценок и научных абстракций, методы информационного анализа и синтеза, метод визуализации данных.Результаты работы. В статье рассмотрены экономические и технико-технологические аспекты построения интеллектуальных систем, установлены тенденции их развития в направлении многозадачности и автономности выполняемых функций, определены возможности и угрозы, возникающие в результате развития данного направления научно-технического прогресса. Исследование выявило двойственный характер дальнейшего совершенствования систем искусственного интеллекта, отрывающего широкие перспективы применения в различных сферах жизнедеятельности человека, однако способного одновременно генерировать риски вследствие бесконтрольного внедрения данных технологий в общественное пространство.Выводы. Развитие интеллектуальных технологий в текущем периоде имеет устойчивую тенденцию к усложнению решаемых задач и повышению автономности искусственного интеллекта, обеспечиваемую наращиванием его вычислительных способностей, которые по ряду параметров (классификация изображений, содержание текстов) превосходят возможности человеческого разума. При этом прослеживается стремление разработчиков к постепенной передаче машинам ключевых компетенций в области принятия решений, до настоящего времени остававшихся в исключительной ответственности человека. Указанная тенденция открывает широкие перспективы применения «умных» машин в общественной жизни, однако одновременно генерирует комплекс реальных и гипотетических рисков, доминирующим из которых выступает утрата человеком субъектности по отношению к окружающим процессам. Сформировавшаяся дихотомия технологического развития требует серьезного переосмысления существующего подхода к созданию систем искусственного интеллекта в целях минимизации возникновения этических рисков и угроз жизнедеятельности человека.

Purpose: identification of opportunities and potential risks in the implementation of artificial intelligence technologies on the basis of the dominant trends analyzing in the current high-tech sector development of the global economy.Methods: the paper uses the system approach, the method of classification and systematization, the method of estimations and scientific abstractions, the methods of information analysis and synthesis, the method of data visualization.Results: the article considers economic and technical-technological aspects of building intelligent systems, establishes trends of their development in the direction of multitasking and autonomy of performed functions, identifies opportunities and threats arising from the development of this direction of scientific and technological progress. The study reveals the dual nature of further improvement of artificial intelligence systems, which offers broad prospects of application in various spheres of human activity, but can simultaneously generate risks due to the uncontrolled introduction of these technologies into the public space.Conclusions and Relevance:the development of intellectual technologies in the current period has a steady tendency towards increasing complexity of the tasks to be solved and increasing autonomy of artificial intelligence, provided by increasing its computational capabilities, which in a number of parameters (image classification, text content) exceed the capabilities of the human mind. At the same time, there is an aspiration of developers to gradually transfer to machines the key competences in the field of decision-making, which until now have remained in the exclusive competence of humans. This trend opens up broad prospects for the application of "smart" machines in public life, but at the same time generates a set of real and hypothetical risks, the dominant of which is the loss of human subjectivity in relation to the surrounding processes. The emerging dichotomy of technological development requires a serious rethinking of the existing approach to the creation and implementation of artificial intelligence systems in order to minimize the emergence of ethical risks and threats to human life.

мировое технологическое развитиецифровизацияискусственный интеллектэкономико-математическое моделированиегенеративные системымультимодальные моделитехнологическая этикаglobal technological developmentdigitalizationartificial intelligenceeconomic and mathematical modellinggenerative systemsmultimodal language modelstechnological ethicsReferencesГоббс Т. Сочинения. В 2-х т. Т. 1. М.: Мысль, 1989. 622 с. URL: https://search.rsl.ru/ru/record/01001599658 (дата обращения: 20.11.2023)Hobbes T. Works in 2 vol. Vol. 1. Moscow: Mysl, 1989. 622 p. URL: https://search.rsl.ru/ru/record/01001599658 (accessed: 20.11.2023) (In Russ.)Декарт Р. Рассуждение о методе, чтобы верно направлять свой разум и отыскивать истину в науках. М.: Академический проект, 2011. 335 с. URL: https://search.rsl.ru/ru/record/01005034563 (дата обращения: 11.12.2023)Descartes R. Discourse on the Method to Correctly Direct your Mind and Find the Truth in the Sciences. Moscow: Academic Project, 2011. 335 p. URL: https://search.rsl.ru/ru/record/01005034563 (accessed: 11.12.2023) (In Russ.)Гусев А.В., Добриднюк С.Л. Искусственный интеллект в медицине и здравоохранении // Информационное общество. 2017. № 4-5. С. 78–93. EDN: https://elibrary.ru/yuvyneGusev A.V., Dobridnyuk S.L. Artificial intelligence in medicine and healthcare. Information Society. 2017; (4-5):78–93. EDN: https://elibrary.ru/yuvyne (In Russ.)Morgenstern O., Neumann J. Theory of games and economic behavior. New York: Wiley, 1944. 670 p. URL: https://archive.org/details/theoryofgameseco0000john (дата обращения: 15.12.2023)Morgenstern O., Neumann J. Theory of games and economic behavior. New York: Wiley, 1944. 670 p. URL: https://archive.org/details/theoryofgameseco0000john (accessed: 15.12.2023) (In Eng.)Turing A. Computing machinery and intelligence // Mind and language. 1950. Vol. 59. Iss. 236. P. 434–460. URL: https://www.espace-turing.fr/IMG/pdf/Computing_Machinery_and_Intelligence_A-M-_Turing.pdf (дата обращения: 15.01.2024)Turing A. Computing machinery and intelligence. Mind and language. 1950; (59(236)):434–460. URL: https://www.espace-turing.fr/IMG/pdf/ Computing_Machinery_and_Intelligence_A-M-Turing.pdf (accessed: 15.01.2024) (In Eng.)Moor J.H. Are there decisions computers should never make? // Nature and system. 1979. Vol. 1. Iss. 4. P. 217–229. URL: https://cse.buffalo.edu/~rapaport/Papers/Papers.by.Others/moor79.pdf (дата обращения: 15.01.2024)Moor J.H. Are there decisions computers should never make? Nature and system. 1979; (1(4)):217–229. URL: https://cse.buffalo.edu/~rapaport/Papers/Papers.by.Others/moor79.pdf (accessed: 15.01.2024) (In Eng.)Searle J.R. Minds, brains, and programs // Behavioral and brain sciences. 1980. Vol. 3. Iss. 3. P. 417–424. https://doi.org/10.1017/S0140525X00005756Searle J.R. Minds, brains, and programs. Behavioral and brain sciences. 1980; (3(3)):417–424. https://doi.org/10.1017/S0140525X00005756 (In Eng.)Charniak E. Bayesian networks without tears // AI magazine. 1991. Vol. 12. Iss. 4. P. 50–63. URL: http://www.aistudy.com/paper/aaai_journal/AIMag12-04-007.pdf (дата обращения: 10.04.2024)Charniak E. Bayesian networks without tears. AI magazine. 1991; (12(4)):50–63. URL: http://www.aistudy.com/paper/aaai_journal/AIMag12-04-007.pdf (accessed: 10.04.2024) (In Eng.)West D., Travis L. The computational metaphor and artificial intelligence: a reflective examination of a theoretical falsework // AI magazine 1991. Vol. 12. Iss. 1. P. 64–79. URL: http://www.aistudy.com/paper/aaai_journal/AIMag12-01-004.pdf (дата обращения: 12.04.2024)West D., Travis L. The computational metaphor and artificial intelligence: a reflective examination of a theoretical falsework. AI magazine. 1991; (12(1)):64–79. URL: http://www.aistudy.com/paper/aaai_journal/AIMag12-01-004.pdf (accessed: 12.04.2024) (In Eng.)Nadel L. Multiple memory systems: what and why // Journal of cognitive neuroscience. 1992. Vol. 4. Iss. 3. P. 179–188. https://doi.org/10.1162/jocn.1992.4.3.179Nadel L. Multiple memory systems: what and why. Journal of cognitive neuroscience. 1992; 4(3):179–188. https://doi.org/10.1162/jocn.1992.4.3.179 (In Eng.)Autor D.H., Levy F., Murnane R.J. The skill content of recent technological change: an empirical exploration // Quarterly journal of economics. 2003. Vol. 118. Iss. 4. P. 1279–1333. https://doi.org/10.1162/003355303322552801Autor D., Levy F., Murnane R. The skill content of recent technological change: an empirical exploration. Quarterly journal of economics. 2003; (118(4)):1279–1333. https://doi.org/10.1162/003355303322552801 (In Eng.)Zolas N., Kroff Z., Brynjolfsson E., McElheran K., Beede D., Buffington C., Goldschlag N., Foster L., Dinlersoz E. Advanced technologies adoption and use by U.S. firms: evidence from the annual business survey // NBER working paper. Vol. 28290. Cambridge, MA: National Bureau of Economic Research, 2021. 94 p. https://doi.org/10.3386/w28290Zolas N., Kroff Z., Brynjolfsson E., McElheran K., Beede D., Buffington C., Goldschlag N., Foster L., Dinlersoz E. Advanced technologies adoption and use by U.S. firms: evidence from the annual business survey. NBER working paper. Iss. 28290. Cambridge, MA: National Bureau of Economic Research, 2021. 94 p. https://doi.org/10.3386/w28290 (In Eng.)Бурцев М.С., Бухвалов О.Л., Ведяхин А.А. Сильный искусственный интеллект. На подступах к сверхразуму. Москва: Альпина паблишер: Интеллектуальная литература, 2021. 236 с. URL: https://search.rsl.ru/ru/record/01010578003 (дата обращения: 16.03.2024)Burtsev M.S., Bukhvalov O.L., Vedyakhin A.A. Strong artificial intelligence. On the approaches to supermind. Moscow: Alpina Publisher: Intellectual Literature, 2021. 236 p. URL: https://search.rsl.ru/ru/record/01010578003 (accessed: 16.03.2024) (In Russ.)Brynjolfsson E., Li D., Raymond L. Generative AI at work // NBER working paper. Vol. 31161. Cambridge, MA: National Bureau of Economic Research, 2023. 65 p. https://doi.org/10.3386/w31161Brynjolfsson E., Li D., Raymond L. Generative AI at work. NBER working paper. Iss. 31161. Cambridge, MA: National Bureau of Economic Research, 2023. 65 p. https://doi.org/10.3386/w31161 (In Eng.)Autor D., Chin С., Salomons А.M., Seegmiller B. New frontiers: the origins and content of New Work, 1940– 2018 // NBER working paper. Vol. 30389. Cambridge, MA: National Bureau of Economic Research, 2022. 58 p. https://doi.org/10.3386/w30389Autor D., Chin С., Salomons А.M., Seegmiller B. New frontiers: the origins and content of New Work, 1940–2018. NBER working paper. Iss. 30389. Cambridge, MA: National Bureau of Economic Research, 2022. 58 p. https://doi.org/10.3386/w30389 (In Eng.)Brynjolfsson E., Rock D., Syverson C. Artificial intelligence and the modern productivity paradox: a clash of expectations and statistics // NBER working paper. Vol. 24001. Cambridge, MA: National Bureau of Economic Research, 2023. 44 p. https://doi.org/10.3386/w24001Brynjolfsson E., Rock D., Syverson C. Artificial intelligence and the modern productivity paradox: a clash of expectations and statistics. NBER working paper. Iss. 24001. Cambridge, MA: National Bureau of Economic Research, 2023. 44 p. https://doi.org/10.3386/w24001 (In Eng.)Wallach W., Allen C. Moral machines: teaching robots right from wrong. New York: Oxford University Press, 2009. 294 p. URL: https://archive.org/details/moralmachinestea0000wall (дата обращения: 15.01.2024)Wallach W., Allen C. Moral machines: teaching robots right from wrong. New York: Oxford University Press, 2009. 294 p. URL: https://archive.org/details/moralmachinestea0000wall (accessed: 15.01.2024) (In Eng.)Weckert J. Intelligent machines, dehumanisation and professional responsibility // In: Computer ethics: philosophical enquiry. Rotterdam: Erasmus University Press, 1997. P. 179–192. https://doi.org/10.4324/9781315259697Weckert J. Intelligent machines, dehumanisation and professional responsibility. In: Computer ethics: philosophical enquiry. Rotterdam: Erasmus University Press, 1997. P. 179–192. https://doi.org/10.4324/9781315259697 (In Eng.)Dreyfus H.L. What computers can’t do: the limits of artificial intelligence. New York: Harper Colophon Books, 1979. 374 p. URL: https://archive.org/details/whatcomputerscan00hube/page/346/mode/2up (дата обращения: 15.01.2024)Dreyfus H.L. What computers can’t do: the limits of artificial intelligence. New York: Harper Colophon Books, 1979. 374 p. URL: https://archive.org/details/whatcomputerscan00hube/page/346/mode/2up (accessed: 15.01.2024) (In Eng.)Good I.J. Ethical Machines // In: Tenth machine intelligence workshop. Cleveland, Ohio: 1981. P. 5620–5635. URL: https://courses.cs.washington.edu/courses/cse490e/19wi/readings/good-1980-ethical-machines.pdf (дата обращения: 16.01.2024)Good I.J. Ethical machines. In: Tenth machine intelligence workshop. Cleveland, Ohio: 1981. P. 5620–5635. URL: https://courses.cs.washington.edu/courses/cse490e/19wi/readings/good-1980-ethical-machines.pdf (accessed: 16.01.2024) (In Eng.)Moor J.H. The nature, importance, and difficulty of machine ethics // IEEE intelligent systems. 2006. Vol. 21. Iss. 4. P. 18–21. https://doi.org/10.1109/MIS.2006.80Moor J.H. The nature, importance, and difficulty of machine ethics. IEEE intelligent systems. 2006; (21(4)):18–21. https://doi.org/10.1109/MIS.2006.80 (In Eng.)Бостром Н. Искусственный интеллект: этапы, угрозы, стратегии; пер. с англ. Москва: Манн, Иванов и Фербер, 2016. 490 с. URL: https://search.rsl.ru/ru/record/01008120827 (дата обращения: 16.01.2024)Bostrom N. Superintelligence: Paths, dangers, strategies. New York: Oxford University Press, 2014. 328 р. URL: https://dorshon.com/wp-content/uploads/2017/05/superintelligence-paths-dangers-strategies-by-nick-bostrom.pdf (accessed: 16.01.2024) (In Eng.) (Russ. ed.: Bostrom N. Artificial intelligence: stages, threats, strategies. Moscow: Mann, Ivanov and Ferber, 2016. 490 p.)Russell S. Human compatible: Artificial intelligence and the problem of control. New York: Viking, 2019. 308 p. URL: https://searchworks.stanford.edu/view/13513564 (дата обращения: 10.01.2024)Russell S. Human compatible: Artificial intelligence and the problem of control. New York: Viking, 2019. 308 p. URL: https://searchworks.stanford.edu/view/13513564 (accessed: 10.01.2024) (In Eng.)Luccioni A., Viguier S., Ligozat A.-L. Estimating the carbon footprint of BLOOM a 176B parameter language model // Journal of machine learning research. 2023. Iss. 11. P. 1–15. https://doi.org/10.48550/arXiv.2211.02001Luccioni A., Viguier S., Ligozat A.-L. Estimating the carbon footprint of BLOOM, a 176B parameter language model. Journal of machine learning research. 2023; (11):1–15. https://doi.org/10.48550/arXiv.2211.02001 (In Eng.)Strubell E., Ganesh A., McCallum A. Energy and policy considerations for deep learning in NLP // Proceedings of the 57th annual meeting of the Association for computational linguistics. Florence, Italy, July 28-August 2, 2019. P. 3645–3650. https://doi.org/10.48550/arXiv.1906.02243Strubell E., Ganesh A., McCallum A. Energy and policy considerations for deep learning in NLP. In: Proceedings of the 57th annual meeting of the Association for computational linguistics. Florence, Italy, July 28-August 2, 2019. P. 3645–3650. https://doi.org/10.48550/arXiv.1906.02243 (In Eng.)Acemoglu D., Restrepo P. Automation and new tasks: how technology displaces and reinstates labor // Journal of economic perspectives. 2019. Vol. 33. Iss. 2. P. 3–30. https://doi.org/10.1257/jep.33.2.3Acemoglu D., Restrepo P. Automation and new tasks: How technology displaces and reinstates labor. Journal of economic perspectives. 2019; (33(2)):3–30. https://doi.org/10.1257/jep.33.2.3 (In Eng.)Malle B.F., Scheutz M., Arnold Th., Voiklis J., Cusimano C. Sacrifice one for the good of many?: People apply different moral norms to human and robot agents // In: HRI '15: Proceedings of the Tenth annual ACM/IEEE international conference on human-robot interaction. March 2015. P. 117–124. https://doi.org/10.1145/2696454.2696458Malle B.F., Scheutz M., Arnold Th., Voiklis J., Cusimano C. Sacrifice one for the good of many?: People apply different moral norms to human and robot agents. In: HRI '15: Proceedings of the Tenth annual ACM/IEEE international conference on human-robot interaction. March 2015. P. 117–124. https://doi.org/10.1145/2696454.2696458 (In Eng.)

The authors declare that there are no conflicts of interest present.