Development of a three-dimensional convolutional neural network with attention for aneurysm detection

Cover Page

Cite item

Full Text

Abstract

The paper considers a prototype of a three-dimensional convolutional neural network with an attention block detecting the probability of intracranial cerebral aneurysms in a single contrast computed tomography-angiography study. DICOM contrast computed tomography-angiography data with and without intracranial aneurysms were used to train the network. Metadata from the studies were not used. The data were divided into training and validation subsets in the proportion of 65% and 35%, respectively. Using Keras and Tensorflow libraries in the Python programming environment, a 192x192x128 three-dimensional convolutional neural network model with 4 convolutional layers, a kernel of dimension 3 and self-attention block was developed. The accuracy, precision and recall of classification on test samples reached 96%, 99% and 93% respectively that exceeded the performance of previously known neural networks.

About the authors

Sergey G. Sinitsa

Kuban State University

Author for correspondence.
Email: sin@kubsu.ru

Candidate of technical sciences. Assistant Professor, Information Technology Department

Russian Federation, Krasnodar

Elena I. Zyablova

Scientific Research Institute – S.V. Ochapovsky Regional Clinical Hospital № 1

Email: elenazyablova@inbox.ru

Candidate of medical sciences, doсent, Head of the Radiology Department

Russian Federation, Krasnodar

Daria O. Kardailskaya

Scientific Research Institute – S.V. Ochapovsky Regional Clinical Hospital № 1

Email: k.daria2702@gmail.com

Radiologist, Assistant, Diagnostic Radiology Department No 2, Faculty of Continuing Professional Development and Retraining, Kuban State Medical University

Russian Federation, Krasnodar

Ilya A. Zayats

Kuban State University

Email: zayatsman@gmail.com

Student, Computer Technologies and Applied Mathematics Faculty

Russian Federation, Krasnodar

Alexan A. Khalafyan

Kuban State University

Email: statlab@kubsu.ru

Doctor of technical sciences, doсent, Professor, Data Analysis and Artificial Intelligence Department, honorary educator of the Russian Federation

Russian Federation, Krasnodar

Anton V. Ishchenko

Limited Liability Company «KUB»

Email: kub@kub.ru

Director, Head of the Pharmacy Products Search Service Apteki.su

Russian Federation, Krasnodar

References

  1. Goodfellow J., Bengio I., Courville A. Deep Learning. MIT Press. 2016.
  2. Nikolenko S. Kadurin A., Arkhangelskaya E. Glubokoe obuchenie. Seriya Biblioteka programmista [Deep Learning. Programmer's Library series]. SPb: Peter. 2018.
  3. Prikhodko I.V., Erogodsky E.A., Kuzmina D.V., Sinitsa S.G., Zyablova E.I., Khalafyan A.A. Algoritmy poiska prostranstvennogo raspolozheniya intrakranial'nyh anevrizm [Algorithms for search of spatial location of intracranial aneurysms] // Materialy III vserossijskoj nauchno-prakticheskoj konferencii molodyh uchenyh [Proceedings of the III All-Russian Scientific and Practical Conference of Young Scientists]. Krasnodar, 2021. P. 313-320.
  4. Allison Park, Chris Chute, Pranav Rajpurkar, Joe Lou, Robyn L. Ball, Deep Learning–Assisted Diagnosis of Cerebral Aneurysms Using the HeadXNet Model // JAMA Network Open. URL: https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2735471.
  5. Konstantinos Kamnitsas, Christian Ledig, Virginia F.J. Newcombe, Joanna P. Simpson, Andrew D. Kane, David K. Menon, Daniel Rueckert, and Ben Glocker. Efficient Multi-Scale 3D CNN with Fully Connected CRF for Accurate Brain Lesion Segmentation // Medical Image Analysis. 2016. No 36.
  6. Sichtermann T, Faron A, Sijben R, Teichert N, Freiherr J, Wiesmann M. Deep Learning-Based Detection of Intracranial Aneurysms in 3D TOF-MRA. AJNR American Journal of Neuroradiology. 2019. No 40 (1). P. 25-32. doi: 10.3174/ajnr.A5911. Epub 2018 Dec 20. PMID: 30573461; PMCID: PMC7048599.
  7. Zunair Hasib, Rahman Aimon, Mohammed Nabeel, Cohen Joseph Paul. Uniformizing Techniques to Process CT Scans with 3D CNNs for Tuberculosis Prediction // International Workshop on PRedictive Intelligence In MEdicine. Springer. 2020. P. 156-168.
  8. Xin Zhang, Liangxiu Han, Wenyong Zhu, Liang Sun, Daoqiang Zhang. An Explainable 3D Residual Self-Attention Deep Neural Network For Joint Atrophy Localization and Alzheimer’s Disease Diagnosis using Structural MRI // IEEE Journal of Biomedical and Health Informatics. 2021. V. 26. No 11. P. 5289-5297.
  9. Zyablova E.I., Sinitsa S.G., Zayac I.A., Halafyan A.A., Kardail'skaya D.O., Porhanov V.A. Ispol'zovanie trekhmernyh svertochnyh nejronnyh setej dlya vyyavleniya intrakranial'nyh anevrizm po dannym kt-angiografii brahiocefal'nyh arterij [Use of three-dimensional convolutional neural networks for intracranial aneurysms detection based on brachiocephalic arteries CT-angiography] // Innovacionnaya medicina Kubani [Innovative Medicine of Kuban]. 2023. V. 8. No 2. P. 21-27.
  10. Vaswani A., Shazeer N., Parmar N., Uszkoreit J., Jones L., Gomez A. N., Kaiser L., Polosukhin I. Attention is all you need // Advances in Neural Information Processing Systems. MIT Press. 2017. No 30. P. 5998–6008.

Supplementary files

Supplementary Files
Action
1. JATS XML
Download

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».