Sistemnì Doslìdženâ ta Informacìjnì Tehnologìï (Jun 2023)

Нейронні мережі: Дослідження правил прийняття ними рішень

  • Anatolii Petrenko,
  • Ilya Vokhranov

DOI
https://doi.org/10.20535/SRIT.2308-8893.2023.2.06
Journal volume & issue
no. 2
pp. 74 – 85

Abstract

Read online

Питання отримання більшої зрозумілості поведінки нейронних мереж є досить актуальним, особливо у галузях із високим рівнем ризиків. Для вирішення цієї задачі досліджено можливості нового алгоритму декомпозиції DeepRED, здатного витягувати правила прийняття рішень глибинними нейронними мережами з декількома прихованими шарами DNN (Deep Neural Networks). Дослідження алгоритму DeepRED проводилося на прикладі вилучення правил експериментальної нейронної мережі за виконання класифікації зображень бази даних MNIST рукописних цифр, що дозволило виявити ряд обмежень алгоритму DeepRED.

Keywords