OFDM systems communication channel estimation algorithm based on deep learning methods
- Authors: Chirkov O.N.1
-
Affiliations:
- Voronezh State Technical University
- Issue: Vol 21, No 4 (2025): Bulletin of Voronezh State Technical University
- Pages: 129-134
- Section: Radio engineering and communication
- URL: https://journals.rcsi.science/1729-6501/article/view/363434
- DOI: https://doi.org/10.36622/1729-6501.2025.21.4.019
- ID: 363434
Cite item
Full Text
Abstract
The paper is devoted to effective methods of evaluating the OFDM (Orthogonal Frequency Division Multiplexing - multiuser version of digital modulation) communication channel of systems based on deep learning methods. In the context of growing requirements for the reliability and efficiency of wireless networks of 5G and Wi-Fi standards, an accurate assessment of the state of the communication channel is becoming particularly important. Traditional pilot-based methods are often not effective enough in rapidly changing signal transmission conditions. The paper proposes an adaptive algorithm for evaluating the characteristics of a communication channel based on the use of neural network models. The methodology includes the stages of selecting informative metrics (amplitude, phase), modeling channel operating conditions (signal-to-noise ratio (SNR), delay), and creating a dataset using the Rayleigh model. The architecture of a neural network combines precise and dense layers with an attentional mechanism to highlight the most significant features. The simulation results in the MATLAB/Simulink environment based on OFDM system models demonstrate the high efficiency of the proposed approach. The model achieves a coefficient of determination of 0.82 and a prediction accuracy of up to 0.95, surpassing traditional analogues. The key advantages are the high convergence rate, low computational costs, and the stability of the results when the input parameters change. The developed algorithm is a promising solution for implementation in modern communication systems to increase their noise immunity and adaptability.
Full Text
Введение
Современные беспроводные системы требуют обеспечения высокой надежности и эффективности передачи данных при минимальных ресурсных затратах. Одним из важнейших аспектов повышения качества связи является точная оценка характеристик канала, что позволяет адаптировать параметры передачи и повысить устойчивость системы к помехам и искажениям [1]. В технологиях OFDM (мультиплексирование с ортогональным частотным разделением) [2], широко применяемых в стандартах LTE, 5G и Wi-Fi, задача оценки канала приобретает особую актуальность из-за высокой чувствительности к эффектам многолучевости и интерференции [3].
Традиционные методы оценки канала основаны на алгоритмах, использующих пилотные символы [4] или сигналы обратной связи [5]. Однако такие подходы могут иметь ограничения по точности и скорости работы в условиях динамично меняющихся каналов [6]. В последние годы активно развивается применение методов машинного обучения [7] для решения задач оценки характеристик канала, что способствует повышению точности и адаптивности беспроводных систем связи [8].
Использование нейросетевых моделей для оценки характеристик канала открывает новые возможности для повышения качества передачи данных в беспроводных сетях, особенно в условиях высокой мобильности и сложных средах [9]. Такой подход позволяет не только улучшить точность оценки по сравнению с классическими алгоритмами, но и обеспечить более быструю адаптацию к изменяющимся условиям среды.
Архитектура модели
Учитывая высокую сложность задачи оценки качества канала связи и невозможность разработки универсального метода, подходящего для всех условий и типов сигналов, было принято решение сосредоточиться на создании адаптивного алгоритма на базе нейросетевых технологий. Расширенная версия алгоритма представлена на рис. 1.
Для реализации нейросетевой модели и проведения экспериментов в рамках данного дипломного проекта был выбран язык программирования Python. Данное решение обусловлено следующими причинами: 1. Широкий спектр библиотек и инструментов для машинного обучения и обработки данных: Python обладает развитой экосистемой специализированных библиотек, таких как TensorFlow, Keras, PyTorch, NumPy, Pandas и других, которые значительно упрощают разработку, обучение и тестирование нейросетевых моделей. Это позволяет сосредоточиться на решении исследовательской задачи без необходимости разработки низкоуровневых алгоритмов. 2 Простота и читаемость кода: Синтаксис Python отличается ясностью и лаконичностью, что способствует быстрому прототипированию и удобству поддержки кода. Это важно при реализации сложных архитектур нейросетей и их последующем тестировании. 3 Совместимость с современными технологиями: Python широко используется в области научных исследований и промышленной разработки систем искусственного интеллекта, что обеспечивает возможность интеграции с другими инструментами и платформами.
На основании вышеизложенных причин выбор языка программирования Python является обоснованным решением для реализации поставленных задач проекта, обеспечивая гибкость, эффективность и удобство разработки.

Рис. 1. Алгоритм оценки канала связи
Алгоритм
Предлагаемый метод состоит из следующих этапов:
1) Выбор метрик — это этап, на котором осуществляется определение признаков, используемых для обучения нейросетевой модели. Поскольку данный этап задает направление дальнейшей работы, крайне важно выбрать такие метрики, которые объективно отражают состояние канала связи и одновременно предоставляют максимально возможное количество информации для обучения модели. В рамках данного проекта были выбраны следующие метрики: амплитуда и фаза.
Амплитуда была выбрана в связи с её способностью отображать уровень затухания сигнала, а также учитывать влияние многолучевости и шумовых помех.
Фаза же является критически важной для восстановления сигнала, особенно в OFDM-системах, где модуляция часто основана на фазовых состояниях.
Совместное использование амплитуды и фазы обеспечивает полноту представления характеристик канала и позволяет учитывать сложные эффекты, возникающие при распространении сигнала. Вместе амплитуда и фаза дают полное представление о характеристиках канала, и их использование позволяет учитывать сложные эффекты канала.
2) Условия работы канала - это параметры и характеристики, определяющие качество и надежность передачи данных в рамках исследуемой системы. В рамках данного проекта были выбраны следующие условия: отношение сигнал/шум (SNR), задержка передачи и потеря пакетов данных.
Отношение сигнал/шум является ключевым показателем, характеризующим уровень помех и шумовых воздействий в канале. Высокое значение SNR свидетельствует о благоприятных условиях передачи, что способствует более точной оценке характеристик канала и повышает качество восстановления сигнала.
Задержка передачи отражает временные задержки, возникающие при распространении сигнала по каналу. Этот параметр важен для оценки временных характеристик системы, а также для анализа влияния задержек на качество передачи данных и синхронизацию.
Потеря пакетов данных — это показатель количества переданных данных, не достигших получателя или оказавшихся поврежденными. Этот критерий служит индикатором надежности канала и его устойчивости к различным воздействиям, таким как многолучевость, шумы или интерференция.
Совместное использование данных условий позволяет моделировать реальные сценарии эксплуатации системы связи, а также проводить более точную оценку ее эффективности и устойчивости в различных условиях эксплуатации.
3) Данные для анализа. Данный этап характеризуется тем, что у пользователя есть выбор – использовать реальные данные или же создать искусственный набор данных (датасет).
4) Создание датасета. На данном этапе осуществляется формирование искусственного набора данных, который служит основой для обучения нейросетевой модели. В процессе его формирования задаются заранее определенные условия среды и метрики, которые пользователь выбирал ранее, отражающие реальные сценарии функционирования системы связи.
Была выбрана модель Рэлея, в которой использует моделирование фазы как равномерное распределение в диапазоне [−𝜋, +𝜋].
Создание датасета представлено на рис. 2.

Рис. 2. Создание датасета с использованием библиотеки numpy
5) Обработка данных. Является последним подготовительным этапом, прежде чем они попадут в нейросеть. На данном этапе обычно проводится нормализация данных, сведение данных в определенный минимум для улучшения обучения нейрости, проверка правильности создания получаемых данных и правильность их загрузки.
6) Модель. На данном этапе пользователь может выбрать – загрузить ему уже готовую модель для дообучения или перестройки под новый набор данных, или же создать новую.
7) Создание модели. На данном этапе осуществляется разработка нейросетевой архитектуры, предназначенной для решения поставленной задачи. В процессе проектирования модели учитываются выбранные метрики и условия среды, что позволяет обеспечить ее адаптивность и эффективность в условиях моделируемых сценариев.

Рис. 3. Структура нейронной сети
В рамках проекта была использована архитектура с использованием сверточных и плотных слоёв, которая включает в себя механизм повышения внимания для способности к выделению значимых характеристик. Архитектура включает в себя: обработку признаков первыми слоями, регуляризацию, механизм внимания, объединение признаков, дополнительное усиление признаков и выходные слои для предсказания значений. Алгоритмическая структура нейросети представлена на рис. 3. Основной целью является создание модели, способной точно восстанавливать характеристики канала связи на основе входных данных.
8) Обучение модели. Данный этап представляет из себя создание функций потерь и метрик для более точного предсказания, а также их объединения в наборы для обучения. На этом этапе происходит настройка гиперпараметров нейросети для более гладкого процесса обучения.
9) Оценка эффективности. Данный этап является процессом визуализации истинных значений с предсказанными обученной нейросетью. Используя графическое представление со сравнением полученных и имеющихся данных в текстовом формате, полученных из метрик и функций потерь, а также визуализацией потерь при обучении, пользователь делает вывод о проделанном обучении нейросети. Пользователь может увидеть по графику точности обучения и валидации, изображенному на рис. 4, насколько хорошо обучилась его нейронная сеть. Если пользователь остается доволен результатом, он сохраняет модель и использует ее в будущем для интеграции в процесс работы.
Моделирование
Моделирование эффективности предложенного алгоритма проводилось в MATLAB/Simulink для OFDM-систем.
На рис. 4 представлен график точности обучения предложенной модели и ее валидации. График показывает, что как обучающаяся, так и валидационная точность демонстрируют скачкообразные изменения — периодические резкие повышения и понижения. Несмотря на это, наблюдается положительная тенденция к росту, что свидетельствует о прогрессе в обучении модели. Ключевым фактором является достижение пика точности около 0.95 после 60 эпох. Такой результат указывает на хорошую способность модели к обобщению и стабильное обучение.

Рис. 4. График точности обучения и валидации
Результаты моделирования
Разработанный алгоритм демонстрирует высокие показатели по ключевым метрикам оценки качества предсказаний. Достигнутый коэффициент детерминации составляет 0.82, что превосходит показатели существующих аналогичных методов и свидетельствует о высокой точности модели в восстановлении целевых характеристик сигнала. Среднеквадратичная ошибка (MSE) и средняя абсолютная ошибка (MAE) находятся на уровне, подтверждающем надежность и точность предсказаний, что особенно важно при решении задач, требующих высокой точности.
Результаты модели сохраняют стабильность при применении к различным наборам данных и в условиях изменения входных параметров. Проведенные тестирования на различных выборках показали колебания метрик в допустимом диапазоне от 5 до 10 % в зависимости от модели, что свидетельствует о высокой надежности и универсальности разработанного подхода. Был реализован уникальный алгоритм обучения нейросетей, основанный на использовании набора метрик, которые могут быть динамически заменены в процессе обучения. Такой механизм обеспечивает гибкость настройки модели под конкретные задачи и позволяет адаптировать процесс обучения без необходимости изменения архитектуры сети. Также использованы методы автоматизированной оптимизации гиперпараметров, что позволило добиться более высокой эффективности обучения и улучшить качество результатов по сравнению с традиционными подходами.
Заключение
Разработанный метод обладает высокой скоростью сходимости, что позволяет сократить время обучения по сравнению с аналогами. Методика отличается низкими вычислительными затратами — как по времени, если сравнивать с методами с применением машинного обучения, так и по памяти — что делает её пригодной для внедрения в реальные промышленные системы.
Кроме того, высокая масштабируемость позволяет адаптировать решение под задачи различного уровня сложности и объемов данных, обеспечивая его применение в широком спектре практических сценариев.
_____________________________
About the authors
Oleg N. Chirkov
Voronezh State Technical University
Author for correspondence.
Email: chir_oleg@mail.ru
ORCID iD: 0000-0003-2250-2100
Assistant Professor
Russian Federation, 84 20th Anniversary of October str., Voronezh 390006, RussiaReferences
- Chirkov O.N., Romashchenko M.A., Chepelev M.Yu. “Modern methods of assessing the radio channel in multipath conditions”, Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo universiteta), 2019, vol. 15, no. 3, pp. 68-73.
- Chirkov O.N., Astredinov R.K. “Multiband frequency converter OFDM”, Problems of Ensuring Reliability and Quality of Devices, Devices and Systems : Interuniversity Collection of Scientific Works (Problemy obespecheniya nadezhnosti i kachestva priborov, ustroystv i sistem), Voronezh State Technical University, 2018, pp. 120-124.
- Chirkov O.N. et al. “Methods of noise-resistant detection of signals in multi-antenna MIMO systems with spatial multiplex-ing”, Proc. of the Int. Symposium "Reliability and Quality" (“Nadezhnost' i kachestvo”), 2019, vol. 2, pp. 85-87.
- Chirkov O.N. “An effective algorithm for dynamic distribution of pilot signals for evaluating a radio communication channel in multi–antenna MIMO systems with OFDM frequency compression”, Radio Engineering (Radiotekhnika), 2019, vol. 83, no. 6(8), – pp. 163-168.
- Chirkov O.N., Kuznetsova A.O. “Iterative technique of noise-resistant reception of QAM signals”, Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo universiteta), 2019, vol. 15, no. 4, pp. 84-88.
- Romashchenko M.A. Panychev S.N., Chirkov O.N. “Optimal algorithms for simultaneous estimation of the radio communication channel and frequency offset during multipath propagation”, Radio Engineering (Radiotekhnika), 2019, vol. 83, no. 6(8), pp. 156-162.
- Chirkov O.N., Pirogov A.A. “Application of machine learning algorithms in the task of evaluating a wireless communication channel with OFDM”, Bulletin of Voronezh State Technical University (Vestnik Voronezhskogo gosudarstvennogo tekhnicheskogo universiteta), 2023, vol. 19, no. 6, pp. 164-169.
- Bashkirov A.V., Chirkov O.N., Demikhova A.S. “Application of deep neural networks for the task of channel estimation and signal detection in systems with OFDM”, Radio Engineering (Radiotekhnika), 2025, vol. 89, no. 7, pp. 10-14.
- Chirkov O.N., Starodubtsev A.S. “Application of deep learning methods in communications to optimize the parameters of OFDM systems”, Proc. of the Winners of the VSTU Student and Graduate Research Competition in Priority Areas of Science and Technology Development, Voronezh State Technical University, 2025, pp. 204-205.
Supplementary files

