ОПЕРАТОРНИЙ ГЕНЕТИЧНИЙ АЛГОРИТМ І НАВЧАННЯ НЕЙРОННОЇ МЕРЕЖІ

Abstract

Робота присвячена дослідженню ефективності застосування операторного генетичного алгоритму до навчання нейронних мереж. Як відомо генетичні алгоритми, різні їхні інтерпретації, є досить ефективним інструментом пошуку розв’язків задач оптимізації. Дія генетичного алгоритму базується на випадковому процесі формування популяції можливих розв’язків, серед яких відбирають найкращі в певному сенсі. У статті представлено розроблену автором операторну модель генетичного алгоритму (далі – операторний генетичний алгоритм), яка застосовується до навчання нейронної мережі. Операторний генетичний алгоритм базується на застосуванні інволютивних операторів, що діють у декартовому добутку двох екземплярів n-вимірного евклідового простору і здійснюють операції кросоверу та мутації. Крім того головним інструментом формування популяцій векторів-хромосом є стохастичні оператори, що діють у тому ж декартовому добутку. Результат дії цих операторів можна інтерпретувати як узагальнені кросовер і мутація. Дана операторна модель дозволяє на кожному ітераційному кроці алгоритму формувати в області пошуку популяції векторів-хромосом невеликі за потужністю. Операторна модель генетичного алгоритму передбачає двійкове кодування інволютивних операторів, які перетворюють вершини гіперкубу, що являється областю пошуку, але точки області пошуку представляються у десятковому форматі. В роботі досліджується ефективність операторного генетичного алгоритму для навчання відомої нейронної мережі, що реалізує булеву функцію XOR. Сенс розгляду цього прикладу полягає у тому, що він є частинним випадком задачі класифікації точок одиничного гіперкуба довільної вимірності. В результаті застосування операторного генетичного алгоритму до навчання нейронної мережі XOR отримано множину операторів, які ефективно (з невеликою кількістю ітераційних кроків) навчають мережу не тільки для функції XOR, а й для усіх булевих функцій двох змінних.