An Approximate Assessment of Latency in a Computer System with Container Virtualization

封面

如何引用文章

全文:

详细

The key role in achieving high reliability, security, fault tolerance, and low latency of query service in distributed systems (including cloud computing) is played by the consolidation of data processing and storage resources in clusters, the efficiency of which increases with the use of virtual machine technologies and container virtualization. The complexity of building queuing models for container virtualization systems is caused by the fact that the intensity of query execution in each container is associated with the dynamic division of shared resources between active (performing functional tasks) containers and the costs of supporting all containers deployed in the VM, including inactive containers waiting for service requests to be sent to them. The reduction in service intensity in each container due to shared resource allocation depends on many factors that are difficult to investigate. For clusters with container virtualization, this article provides an approximate boundary estimate of the average request waiting time and the probability of timely service. When building an analytical model, each container is represented as a separate single-channel queuing system with an infinite queue and the simplest input stream. The key feature of the proposed virtual cluster model is the estimation of upper, lower, and average bounds for the potential service intensity reduction in containers, resulting from the allocation of a node's limited computing resources among them. This depends on the number of deployed containers and the dynamically varying count of active containers, which is influenced by the input stream intensity. The study demonstrates the existence of an optimal number of containers per node, minimizing the average request processing time or maximizing the probability of timely request execution. The proposed models can be applied to the structural and parametric optimization of clusters with pipelined virtualization, including in the case of scaling and reconfiguration adaptive to traffic changes by disconnecting or connecting some of the deployed containers depending on changes in the load in the system.

作者简介

V. Bogatyrev

ITMO University

Email: vladimir.bogatyrev@gmail.com
Kronverksky Ave. 49А

V. Phung

ITMO University

Email: phungvanquy97@gmail.com
Kronverksky Ave. 49А

参考

  1. Kumari P., Kaur P. A survey of fault tolerance in cloud computing // Journal of King Saud University-Computer and Information Sciences. 2021. vol. 33(10). pp. 1159-1176. doi: 10.1016/j.jksuci.2018.09.021.
  2. Половко А.М., Гуров С.В. Основы теории надежности // СПб.: БХВ-Петербург, 2006. 702 с.
  3. Goyal P., Deora S.S. Reliability of Trust Management Systems in Cloud Computing // Indian Journal of Cryptography and Network Security (IJCNS). 2022. vol. 2. no. 1. pp. 1-5. doi: 10.54105/ijcns.C1417.051322.
  4. Chen G., Guan N., Huang K., Yi W. Fault-tolerant real-time tasks scheduling with dynamic fault handling // Journal of Systems Architecture. 2020. vol. 102. doi: 10.1016/j.sysarc.2019.101688.
  5. Shubinsky I.B., Rozenberg I.N., Papic L. Adaptive fault tolerance in real-time information systems // Reliability: Theory & Applications. 2017. vol. 12. no 1(44). pp. 18–25.
  6. Alam K., Sharif K., Li F., Latif Z., Karim M.M., Biswas S., Nour B., Wang Y. A Survey of Network Virtualization Techniques for Internet of Things Using SDN and NFV // ACM Computing Surveys (CSUR). 2020. vol. 53. no. 2. pp. 1–40. doi: 10.1145/3379444.
  7. Shukur H., Zeebaree S., Zebari R., Zeebaree D., Ahmed O. Cloud computing virtualization of resources allocation for distributed systems // Journal of Applied Science and Technology Trends. 2020. vol. 1. no. 2. pp. 98–105. doi: 10.38094/jastt1331.
  8. Compastié M., Badonnel R., Festor O., He R. From virtualization security issues to cloud protection opportunities: An in-depth analysis of system virtualization models // Computers & Security. 2020. vol. 97. doi: 10.1016/j.cose.2020.101905.
  9. Li Z., Jin H., Zou D., Yuan B. Exploring New Opportunities to Defeat Low-Rate DDoS Attack in Container-Based Cloud Environment // IEEE Transactions on Parallel and Distributed Systems. 2020. vol. 31. no. 3. pp. 695–706. doi: 10.1109/TPDS.2019.2942591.
  10. Chen H., Qin W., Wang L. Task partitioning and offloading in IoT cloud-edge collaborative computing framework: a survey // Journal of Cloud Computing. 2022. vol. 11. no. 1. doi: 10.1186/s13677-022-00365-8.
  11. Kushchazli A., Safargalieva A., Kochetkova I., Gorshenin A. Queuing Model with Customer Class Movement across Server Groups for Analyzing Virtual Machine Migration in Cloud Computing // Mathematics. 2024. vol. 12. no. 3. doi: 10.3390/math12030468.
  12. Choudhary A., Govil M.C., Singh G., Awasthi L.K., Pilli E.S., Kapil D. A critical survey of live virtual machine migration techniques // Journal of Cloud Computing. 2017. vol. 6. doi: 10.1186/s13677-017-0092-1.
  13. Bogatyrev V.A., Bogatyrev A.V., Bogatyrev S.V. The probability of timeliness of a fully connected exchange in a redundant real-time communication system // Wave Electronics and its Application in Information and Telecommunication Systems (WECONF 2020). 2020. pp. 1-4, doi: 10.1109/WECONF48837.2020.9131517.
  14. Bogatyrev V.A., Bogatyrev A.V., Bogatyrev S.V. Multipath Transmission of Heterogeneous Traffic in Acceptable Delays with Packet Replication and Destruction of Expired Replicas in the Nodes that Make Up the Path // Communications in Computer and Information Science. 2023. vol. 1748. pp. 104–121.
  15. Клейнрок Л. Вычислительные системы с очередями / перевод с английского под редакцией д-ра техн. наук Б.С. Цыбакова. Москва: Мир, 1979. 600 с.
  16. Клейнрок Л. Теория массового обслуживания // М.: Машиностроение, 1979. 432 с.
  17. Ejem A., Njoku C.N., Uzoh O.F., Odii J.N. Queue Control Model in a Clustered Computer Network using M/M/m Approach // International Journal of Computer Trends and Technology (IJCTT). 2016. vol. 35. no. 1. pp. 12–20. doi: 10.14445/22312803/IJCTT-V35P103.
  18. Khalill M.M., Khomonenko A.D., Gindin S.I. Load balancing cloud computing with web-interface using multi-channel queuing systems with warming up and cooling // Intelligent Distributed Computing XIII. 2020. vol. 868. pp. 385–393. doi: 10.1007/978-3-030-32258-8_45.
  19. Mochalov V.P., Bratchenko N.Yu., Linets G.I., Palkanov I.S. Methods and models of resource allocation in load balancing clusters s for data centers // Modeling, Optimization and Information Technology. 2022. vol. 10. no. 2. pp. 1–15. doi: 10.26102/2310-6018/2022.37.2.030.
  20. Volkov A.O. Evaluation of cloud computing cluster performance // T-Comm. 2020. vol. 14. no. 12. pp. 72–79. doi: 10.13140/RG.2.2.32529.86885.
  21. Goncharenko V.A., Lokhvitsky V.A. Cluster Load Balancing Algorithms Based on Shortest Queue Models // Intellectual Technologies on Transport. 2022. vol. 3. no. 31. pp. 37–45. doi: 10.24412/2413-2527-2022-331-37-45.
  22. Мартынчук И.Г. Прогнозирование мультисезонных нагрузочных процессов в эластичных системах // Изв. вузов. Приборостроени. 2023. Т. 66. № 11. С. 907–916. doi: 10.17586/0021-3454-2023-66-11-907-916.
  23. Singh P. Mathematical Rendition of Generic Process Model-based Design for Decision Making about Cloud Instance Autoscaling Actions // IOSR Journal of Mathematics (IOSR-JM). 2021. vol. 17. no. 3. pp. 49–56. doi: 10.9790/5728-1703024956.
  24. Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Recovery of Real-Time Clusters with the Division of Computing Resources into the Execution of Functional Queries and the Restoration of Data Generated Since the Last Backup // International Conference on Distributed Computer and Communication Networks. 2023. pp. 236–250. doi: 10.1007/978-3-031-50482-2_19.
  25. Богатырев В.А., Богатырев С.В., Богатырев А.В. Оценка готовности компьютерной системы к своевременному обслуживанию запросов при его совмещении с информационным восстановлением памяти после отказов // Научно-технический вестник информационных технологий, механики и оптики. 2023. Т. 23. № 3. С. 608–617. doi: 10.17586/2226-1494-2023-23-3-608-617.
  26. Srivastava A., Kumar N. Queueing model based dynamic scalability for containerized cloud // International Journal of Advanced Computer Science and Applications. 2023. vol. 14. no. 1. pp. 465–472. doi: 10.14569/IJACSA.2023.0140150.
  27. Khazaei H., Barna C., Beigi-Mohammadi N., Litoiu M. Efficiency analysis of provisioning microservices // Proceedings of the International Conference on Cloud Computing Technology and Science (CloudCom). IEEE. 2016. pp. 261–268.
  28. Liu B., Chen Y. A scalable fine-grained analytic model for container cloud data centres // Int. J. Internet Technol. Secur. Trans. 2019. vol. 9. no. 4. pp. 355–389.
  29. Ye T., Guangtao X., Shiyou Q., Minglu L. An auto-scaling framework for containerized elastic applications // Proceedings of the 3rd International Conference on Big Data Computing and Communications (BIGCOM), IEEE. 2017. pp. 422–430.
  30. El Kafhali S., El Mir I., Salah K., Hanini M. Dynamic Scalability Model for Containerized Cloud Services // Arabian Journal for Science and Engineering. 2020. vol. 45(12). pp. 10693–10708. doi: 10.1007/s13369-020-04847-2.
  31. Фунг В., Богатырев В.А., Кармановский Н.С., Лэ В. Оценка вероятностно-временных характеристик компьютерной системы с контейнерной виртуализацией // Научно-технический вестник информационных технологий, механики и оптики. 2024. Т. 24. № 2. С. 249–255.
  32. Фунг В., Богатырев В.А. Задержки и надежность обслуживания запросов в виртуальном компьютерном кластере // Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2024. № 68. С. 48–58.
  33. Гончаренко В.А., Хомоненко А.Д., Абу Хасан Р. Композиционный подход к имитационному моделированию систем массового обслуживания со случайными параметрами // Информатика и автоматизация. 2024. Т. 23. № 6. С. 1577–1608. doi: 10.15622/ia.23.6.1
  34. Syed Z.A., Gummadi S., Mahima E.L., Naina S.R., Eswaran S., Honnavalli P. Performance Analysis Of 5G Network Slicing Simulations Using SimPy // Proceedings of the 2022 IEEE International Conference on Electronics, Computing and Communication Technologies (CONECCT). Bangalore, India: IEEE. 2022. pp. 1–6. doi: 10.1109/CONECCT55679.2022.9865799.
  35. Peyman M., Copado P., Panadero J., Juan A.A., Dehghanimohammadabadi M. A Tutorial on how to Connect Python with Different Simulation Software to Develop Rich Simheuristics // Proceedings of the 2021 Winter Simulation Conference (WSC). Phoenix, AZ, USA: IEEE, 2021. pp. 1–12. doi: 10.1109/WSC52266.2021.9715511.
  36. Nam S.H., Oh S.H., Yoon H.C., Cho Y.I., Cho K.Y., Kwak D.H., Woo J.H. Development of DES Application for Factory Material Flow Simulation with SimPy // Proceedings of the 2022 Winter Simulation Conference (WSC), Singapore. IEEE. 2022. pp. 1545–1556. doi: 10.1109/WSC57314.2022.10015508.
  37. Oszczypała M., Ziółkowski J., Małachowski J. Redundancy allocation problem in repairable k-out-of-n systems with cold, warm, and hot standby: A genetic algorithm for availability optimization // Applied Soft Computing. 2024. vol. 165. doi: 10.1016/j.asoc.2024.112041.
  38. Oszczypała M., Konwerski J., Ziółkowski J., Małachowski J. Reliability analysis and redundancy optimization of k-out-of-n systems with random variable k using continuous time Markov chain and Monte Carlo simulation // Reliability Engineering & System Safety. 2024. vol. 242. doi: 10.1016/j.ress.2023.109780.
  39. Komari I.E., Fedorenko M., Kharchenko V., Yehorova Y., Bardis N., Lutai L. The neural modules network with collective relearning for the recognition of diseases: Fault-tolerant structures and reliability assessment // Neural Networks. 2020. vol. 1. doi: 10.46300/9106.2020.14.102.
  40. Kumar A., Saini M., Saini D.K., Badiwal, N. Cyber physical systems-reliability modelling: critical perspective and its impact // International Journal of System Assurance Engineering and Management. 2021. vol. 12. pp. 1334–1347. doi: 10.1007/s13198-021-01305-6.
  41. Lambropoulos G., Mitropoulos S., Douligeris C. Improving Business Performance by Employing Virtualization Technology: A Case Study in the Financial Sector // Computers. 2021. vol. 10. no. 4. doi: 10.3390/computers10040052.
  42. Shi F., Lin J. Virtual machine resource allocation optimization in cloud computing based on multiobjective genetic algorithm // Computational Intelligence and Neuroscience. 2022. vol. 2022. no. 1. doi: 10.1155/2022/7873131.
  43. Al-Dulaimi M.K.H., Al-Dulaimi O.M.K., Al-Dulaimi A.M.K., Alexandra M.O., Jihad N. Deep Learning for Wireless Network Distribution (5G/LTE) // Proceedings of the 2023 4th International Conference on Communications, Information, Electronic and Energy Systems (CIEES). Plovdiv, Bulgaria: IEEE, 2023. pp. 1–6. doi: 10.1109/CIEES58940.2023.10378816.
  44. Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Control of Multipath Transmissions in the Nodes of Switching Segments of Reserved Paths // International Conference on Information, Control, and Communication Technologies (ICCT). IEEE, 2022. pp. 1–5.
  45. Bogatyrev V.A., Bogatyrev S.V., Bogatyrev A.V. Reliability and Timeliness of Servicing Requests in Infocommunication Systems, Taking into Account the Physical and Information Recovery of Redundant Storage Devices // International Conference on Information, Control, and Communication Technologies (ICCT). IEEE, 2022. pp. 1–4.
  46. Хомоненко А.Д., Благовещенская Е.А., Проурзин О.В., Андрук А.А. Прогноз надежности кластерной вычислительной системы с помощью полумарковской модели альтернирующих процессов и мониторинга // Наукоемкие технологии в космических исследованиях Земли. 2018. Т. 10. № 4. С. 72–82. doi: 10.24411/2409-5419-2018-10099.
  47. Sturley H., Fourmier A., Salcedo-Navarro A., Garcia-Pineda M., Segura-Garcia J. Virtualization vs. containerization, a comparative approach for application deployment in the continuum focused on the edge // Future Internet. 2024. vol. 16. no. 11.
  48. Aniruddh M., Dinkar A., Mouli S.C., Sahana B., Deshpande A.A. Comparison of containerization and virtualization in cloud architectures // 2021 IEEE International conference on electronics, computing and communication technologies (CONECT). 2021. pp. 1–5.
  49. Abuabdo A., Al-Sharif Z.A. Virtualization vs. containerization: towards a multithreaded performance evaluation approach // 2019 IEEE/ACS 16th international conference on computer systems and applications (AICCSA). 2019. pp. 1–6.
  50. Kumar S. A brief study on virtualization and containerization // Cloud computing. 2022. pp. 37–46.
  51. Xu J., Fortes J.A. Multi-objective virtual machine placement in virtualized data center environments // 2010 IEEE/ACM International conference on green computing and communications (GreenCom) and International conference on cyber, physical and social computing (CPSCom). 2010. pp. 179–188.
  52. Ходосов М.А. Анализ технологий виртуализации // ИИАСУ’23 – Искусственный интеллект в автоматизированных системах управления и обработки данных: Сборник статей II Всероссийской научной конференции (Москва, 27–28 апреля 2023 г.): в 5 т. М.: «КДУ», «Добросвет», 2024. Т. 4. С. 475–481. doi: 10.31453/kdu.ru.978-5-7913-1354-6-2024-488.

补充文件

附件文件
动作
1. JATS XML
下载

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».