Scientific journal
International Journal of Applied and fundamental research
ISSN 1996-3955
ИФ РИНЦ = 0,593

POSSIBILITY OF REALIZATION OF MODULAR OPERATIONS IN THE RING POLY-NOMOV BY MEANS OF NEURAL NETWORKS

Timoshenko L.I. 1
1 Stavropol branch of the Ministry of Internal Affairs Krasnodar university of Russia
Use of methods of digital processing of signals allows to provide rather easily a high noise stability of systems of data processing, necessary accuracy and resolution, stability of parameters of a path of information processing and some other advantages. At the same time overall performance of system of digital processing of signals in many respects is defined by mathematical model. Increase of requirements to technical and economic characteristics of modern systems of digital processing of signals was led to activization of works on development of specialized processors of digital processing of signals.
digital processing of signals
arithmetic transactions
summation of the module
a neural network
system of residual classes

В последнее время наблюдается тенденция, когда нейронные сети стали использоваться при решении задач с ярко выраженным параллелизмом. К ним относятся задачи связанные с цифровой обработкой сигналов и изображений в реальном масштабе времени. Для этих задач переход к нейросетевому логическому базису обусловлен резким увеличением размерности пространства решения и необходимостью резкого уменьшения времени решения [1, С. 36-39; 2, С. 59-60]. Одним из наиболее перспективных направлений является решение данной задачи в нелинейном виде. На основе проведенного анализа, представленных в работах [13, С. 367-371, 15, С. 336-340,16, С. 93-107] основных видов нейронных сетей, был обоснованно выбран многослойный персептрон. Такая нейронная сеть характеризуется простотой реализацией разделяющих поверхностей гиперплоскостей. Особенно эффективен данный НЛБ, когда априорно известно распределение входных данных соответствующим разным классам.

В работах [6, С. 76, 12, С. 22-25] предлагается использовать параллельный принцип суммирования по модулю два. В этом случае суммирование по модулю два n элементов входного вектора х можно реализовать, используя принцип последовательного поразрядного суммирования

tim01.wmf, (1)

где xi – значение i-го разряда входного вектора, xi = {0, 1}.

При этом полное время преобразования входного двоичного вектора х = (х0, х1, …, хn-1) в отклик системы определяется

tim02.wmf, (2)

где Тсум – время срабатывания двухвходового сумматора по модулю 2.

Обладая хорошими скоростными показателями, данная модель нейроподобного сумматора по модулю два, характеризуется значительными аппаратными затратами [10, С. 23-24]. Количество нейросетевых двухвходовых сумматоров по модулю два определяется выражением

tim03.wmf. (3)

Повысить производительность НС, выполняющей операцию XOR, можно за счет перехода к двухслойной структуре нейронной сети. В работе [4, С. 57-59] предложено построение сумматоров по модулю два на основе двухслойной архитектуры. Первый (скрытый) слой содержит M1 нейронов

tim04.wmf, (4)

где k – размерность входного вектора, j = 2k + 1; k = 0,1…, число нейронов в выходном слое M2 = 1.

С целью повышения скорости выполнения операции суммирования по модулю два п-разрядных входных векторов в работах [5, С. 73-74, 11, С. 22-23] предложено изменить функцию активации нейронной сети. Данная функция ограничивает активность значениями 1 или 0 в зависимости от значения комбинированного ввода согласно условия

tim05.wmf (5)

На рис. 1 показана графическая интерпретация данной функции активации.

timoh1.wmf

Рис. 1. Графическая модель функции активации tribas

Из определения операции суммирования по модулю два двух чисел и треугольной функции активации следуют ограничения

tim06.wmf. (6)

На рис. 2 показана модель нейрона, реализующего суммирования по модулю два.

timoh2.wmf

Рис. 2. Нейросетевая модель двухвходового сумматора по модулю два с использованием треугольной функции активации

Исходные данные в двухмерном виде подаются на входы нейрона, умножаются на значения синаптических весов и поступают на сумматор, который реализует

tim07.wmf, (7)

где S – выходной сигнал сумматора; Wi – весовые коэффициенты (равны единице); Xi – входные значения нейрона tim08.wmf; b = – 1 – смещение.

С выхода сумматора полученное значение подается на схему активации, где и осуществляется разделение гиперкуба размерности п = 2 на два класса. Геометрическая интерпретация преобразования вводимых образцов под действием весовых коэффициентов, смещение и функции активации показана на рис. 3.

timoh3.wmf

Рис. 3. Геометрическая интерпретация операции XOR с использованием функции активации tribas

Графическая модель отношения XOR для трехмерного входного вектора разделяющими плоскостями на рис. 4.

timoh4.tif

Рис. 4. Гиперплоскости, реализующие операцию XOR, для трехвходового нейроподобного сумматора

При этом данные гиперплоскости реализуются нейроном скрытого слоя, функционирующим согласно

tim09.wmf (8)

При этом данная гиперплоскость реализуется вторым нейроном скрытого слоя, функционирующим согласно

tim10.wmf. (9)

Таким образом, количество нейронов второго (скрытого) слоя равно двум, что определяется как

tim11.wmf. (10)

Согласно [7, С. 53-54] для объединения информации об этих гиперплоскостях в выходном слое используется один нейрон с пороговой функцией активации, который осуществляет преобразование

tim12.wmf. (11)

Таким образом, правила построения нейросетевого сумматора по модулю два представляют собой последовательность следующих этапов:

– в качестве модели нейросетевого логического базиса выбран многослойный персептрон, синаптические веса которого равны единице;

– входной слой содержит п нейронов (п – размерность входного слова), которые осуществляют приём и распределение сигналов на второй слой;

– скрытый слой содержит tim13.wmf нейронов с функцией активации tribas, осуществляющих разделение вершин гиперкуба гиперплоскостями на 2 класса, с чётным и нечётным числом единичных элементов, при этом смещение l-го нейрона равно tim14.wmf, где tim15.wmf

– выходной слой содержит один нейрон пороговой функцией активации, используемый для объединения информации об этих гиперплоскостях

Обобщая сказанное выше, можно сделать вывод, что изменение функции активации позволило разработать сумматор по модулю два с использованием нейросетевого логического базиса, который характеризуется минимальным временем отклика на входное воздействие. Кроме того, данные устройство требует минимальных аппаратурных затрат на реализацию. Следовательно, такой сумматор может быть положен в основу разработки многовходового устройства «Исключающего ИЛИ» необходимого для реализации обобщенного ДПФ в кольце полиномов поля Галуа.

В работе [9, С. 71-73] представлен алгоритм разработки нейросетевой модели сумматора по модулю два с использованием треугольной функции активации для вектора входа состоящего из n элементов. Схемная реализация данной модели нейронной сети приведена в работе [17, С. 722-725]. Число слоев в построенной по данному алгоритму нейронной сети будет равно N = n-1. В этом случае временные затраты необходимые на выполнение операции составят

tim16.wmf. (12)

На рис. 5 показана схемная реализация пирамидального многовходового сумматора по модулю 2, использующего треугольную функцию активизации.

timoh5.wmf

Рис. 5. Нейросетевая схема пирамидального n-входового сумматора по модулю два

Тогда согласно расчетам, приведенным в работе [18, С. 391-400] для нечетного n, когда число слоев будет четно, схемные затраты необходимые для построения нейросетевого сумматора составят

tim17.wmf. (13)

Для четного n число слоев НС нечетно, следовательно, нейронная сеть содержит нейронов

tim18.wmf. (14)

Для оценки эффективности работы данного сумматора была разработана программа. Полученные значения совпадают с рассчитываемыми теоретически, что свидетельствует о работоспособности нейросетевой модели сумматора по модулю два с использованием треугольной функции активации для вектора входа состоящего из n элементов, построенной с использованием алгоритма.

С целью уменьшения временных затрат при построении многовходового сумматора по модулю два на основе нейросететвого базиса в работе [9, С. 71-73] предложено использовать каскадную организацию вычислительного устройства. В этом случае входной слой, реализует операцию нахождения суммы по модулю два значений каждой пары входов (1 и 2, 3 и 4, 5 и 6 и т.д.) и передает полученные промежуточные значения на второй слой нейронов. При этом значения входа нейрона, у которого нет пары, поступает в следующий слой без изменений. Данная процедура повторяется и для последующих слоев, до тех пор, пока не получится слой, состоящий из одного нейрона, выход которого и будет конечным результатом.

Несмотря на уменьшение временных затрат, каскадная модель не обеспечивает в полной мере минимизацию времени отклика нейронной сети на входной вектор.

С целью дальнейшего повышения скорости выполнения модульной операции в работе [8, с. 57-59] предложена двухслойная нейросетевая модель устройства, выполняющего операцию «Исключающее ИЛИ». Данная модель была разработана согласно теореме Колмогорова, которая гласит о том, что любую задачу можно решить в нейронной сети, используя всего два слоя (не считая входного) – скрытый и выходной.

Структура модели нейронной сети, реализующей многовходовой сумматор по модулю два представлена на рис. 6.

timoh6.wmf

Рис. 6. Нейронная сеть сумматора по модулю два, использующего треугольную функцию активации

Рассмотренный многовходовой сумматор по модулю два с треугольной функцией активации обладает рядом недостатков. Во-первых, основным недостатком данного сумматора является то, что структура его получается эвристическим способом. Во-вторых, просчет структуры многовходового сумматора при большом размере обрабатываемом векторе требует значительных временных затрат и не всегда является эффективным методом построения нейросетевого устройства, реализующего XOR. Поэтому совершенствование структуры сумматора по модулю два, которая бы позволяла осуществлять процесс обучения НС при различных значениях n является актуальной