Системи обробки інформації (Feb 2019)
Проектування масиву нейро-еквіваленторів з квазіуніверсальною функцією активації для створення самонавчальних еквівалентністно-згорткових нейронних структур
Abstract
У статті розглядається необхідність створення апаратних прискорювачів для машинного навчання, згорткових нейронних мереж, асоціативної пам'яті, кластеризації, розпізнавання образів. Зроблено огляд робіт про переваги біологічно-натхненних еквівалентністних моделей (EM) для проектування. Показано, що EM-парадигми дуже перспективні для кластеризації, розпізнавання, великорозмірних, корельованих зображень з високим рівнем завад і для неконтрольованого навчання. Для реалізації ЕМ необхідні векторно-матричні процедури з неперервно-логічними нормалізованими операціями: “еквівалентність”, “нееквівалентність” і відповідні схеми. Розглядаються нові підходи до проектування апаратних масивів таких нейрон-еквіваленторів (НЕ) з розширеною функціональністю за рахунок нелінійних постперетворень та довільно вибраних видів функцій активації. Підходи засновані на використанні аналогових і змішаних (із спеціальним кодуванням) методів для реалізації необхідних операцій, побудові на основі ієрархічних вузлів з базових комірок на віддзеркалювачах струму і фотоприймачах нейрон-еквіваленторів з числом синапсів від 8 до 128 і більше і мереж на основі масиву таких НЕ. Результати моделювання показують, що ефективність НЕ з універсальною перебудовованою функцією активації по відношенню до енергоємності оцінюється значенням не менше 1012 і вище ан. оп./сек. на W і може бути збільшена. Отримані результати підтверджують можливість та перспективність створення запропонованих НЕ та на їх основі масивів, структур з багатьма входами і багатьма виходами ( так званих на англійській мові MIMO-систем).
