Retinopathy Disease Detection and Classification Using a Coordinate Attention Module-Based Convolutional Neural Network with Leaky Rectified Linear Unit

Abstract

The detection of Diabetic Retinopathy (DR) is an emergent research topic in recent decades, where DR is a primary cause of vision loss in humans. The existing techniques have limitations such as neuron death issues, vanishing gradient, and output offset. To overcome these issues, this paper proposes a Deep Learning (DL)-based technique for early and accurate DR detection. The Coordinate Attention Module (CAM) based Convolutional Neural Network (CNN) with Leaky Rectified Linear Unit (LReLU) is proposed for early and accurate detection of DR. The MESSIDOR dataset is preprocessed through the median filter to eliminate noise, and Contrast-Limited Adaptive Histogram Equalization (CLAHE) is utilized to increase the contrast level in an input image. The preprocessed images are given to Mayfly Optimization Algorithm-based Region Growing (MOARG) for image segmentation. Then, the features are extracted using ResNet50 and SqueezeNet, which extract deep learning features. The extracted features are given to CAM-based CNN with LReLU to detect DR, which overcomes the dead issues of neurons and minimizes the probability of inactive neurons. The proposed model achieves better results on the MESSIDOR datasets on the metrics of accuracy, precision, recall, specificity, f1-score, and Area Under Curve (AUC) values of about 99.72%, 99.46%, 99.25%, 99.61%, 99.37% and 99.14%, correspondingly, proving to be superior to the existing method, Capsule Network and Hybrid Adaptive DL based DR (HADL-DR). ABSTRAK: Pengesanan Retinopati Diabetik (DR) merupakan topik penyelidikan yang semakin mendapat perhatian dalam dekad-dekad kebelakangan ini, di mana DR merupakan punca utama kehilangan penglihatan pada manusia. Teknik sedia ada mempunyai beberapa kekangan seperti isu kematian neuron, vanishing gradient, dan output offset. Untuk mengatasi isu-isu ini, kertas ini mencadangkan teknik berasaskan Pembelajaran Mendalam (DL) untuk pengesanan awal dan tepat bagi DR. Modul Coordinate Attention Module (CAM) berasaskan Convolutional Neural Network (CNN) dengan Leaky Rectified Linear Unit (LReLU) dicadangkan untuk pengesanan awal dan tepat bagi DR. Dataset MESSIDOR diproses melalui penapis median yang digunakan untuk menghapuskan hingar, dan Contrast-Limited Adaptive Histogram Equalization (CLAHE) digunakan untuk meningkatkan tahap kontras pada imej input. Imej yang telah diproses diberikan kepada Algoritma Pengoptimuman Mayfly berasaskan Region Growing (MOARG) untuk segmentasi imej. Kemudian, ciri-ciri diekstrak menggunakan ResNet50 dan SqueezeNet yang mengekstrak ciri-ciri pembelajaran mendalam. Ciri-ciri yang diekstrak ini diberikan kepada CNN berasaskan CAM dengan LReLU untuk pengesanan DR, yang mengatasi isu kematian neuron dan meminimumkan kebarangkalian neuron tidak aktif. Model yang dicadangkan mencapai keputusan yang lebih baik pada dataset MESSIDOR berdasarkan metrik ketepatan, ketepatan, panggilan semula, kekhususan, skor f1, dan nilai Kawasan di Bawah Lengkung (AUC) iaitu sekitar 99.72%, 99.46%, 99.25%, 99.61%, 99.37% dan 99.14%, masing-masing, membuktikan keunggulannya berbanding kaedah sedia ada, Capsule Network dan Hybrid Adaptive DL berasaskan DR (HADL-DR).

Keywords

• Area Under Curve
• Convolutional Neural Network
• Coordinate Attention Module
• LeakyLeaky Rectified Linear Unit, Rectified Linear Unit,
• Mayfly Optimization Algorithm