Нейрокомпьютер — устройство переработки информации на основе принципов работы естественных нейронных системДунин-Барковский В. Л., Нейрокибернетика, Нейроинформатика, Нейрокомпьютеры , В кн.: Нейроинформатика / А. Н. Горбань, В. Л. Дунин-Барковский, А. Н. Кирдин и др. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296 с ISBN 5-02-031410-2. Эти принципы были формализованы, что позволило говорить о теории искусственных нейронных сетей. Проблематика же нейрокомпьютеров заключается в построении реальных физических устройств, что позволит не просто моделировать искусственные нейронные сети на обычном компьютере, но так изменить принципы работы компьютера, что станет возможным говорить о том, что они работают в соответствии с теорией искусственных нейронных сетей.
История Термины нейрокибернетика, нейроинформатика, нейрокомпьютеры вошли в научный обиход недавно — в середине 80-х годов XX века. Однако электронный и биологический мозг постоянно сравнивались на протяжении всей истории существования вычислительной техники. Знаменитая книга Н. Винера «Кибернетика» (1948)Винер Н., Кибернетика, или Управление и связь в животном и машине. / Пер. с англ. И. В. Соловьёва и Г. Н. Поварова; Под ред. Г. Н. Поварова. — 2-е издание. — М.: Наука, 1983. — 344 с. имеет подзаголовок «Управление и связь в животном и машине».
Первыми нейрокомпьютерами были перцептроны Розенблатта: Марк-1 (1958) и Тобермори (1961—1967), а также Адалин, разработанный и Хоффом (1960) на основе дельта-правила (формулы Уидроу)Королев Л. Н. Нейрокомпьютинг, нейросети и нейрокомпьютеры . В настоящее время Адалин (адаптивный сумматор, обучающийся по формуле Уидроу) является стандартным элементом многих систем обработки сигналов и связи.Уидроу Б., Стирнс С., Адаптивная обработка сигналов. — М.: Радио и связь, 1989. — 440 c. В этом же ряду первых нейрокомпьютеров находится программа «Кора», разработанная в 1961 году под руководством М. М. БонгардаБонгард М. М., Проблема узнавания М.: Физматгиз, 1967. Другая копия онлайн: .
Большую роль в развитии нейрокомпьютинга сыграла монография Розенблатта (1958)Rosenblatt, F. The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain. In, Psychological Review, Vol. 65, No. 6, pp. 386—408, November, 1958. Lancaster, PA and Washington, DC: American Psychological Association, 1958. Розенблатт Ф. Принципы нейродинамики. Перцептроны и теория механизмов мозга — М.: Мир, 1965..
Идея нейро-бионики (создания технических средств на нейро-принципах) стала интенсивно реализовываться в начале 1980-х гг. Импульсом было следующее противоречие: размеры элементарных деталей компьютеров сравнялись с размерами элементарных «преобразователей информации» в нервной системе, было достигнуто быстродействие отдельных электронных элементов в миллионы раз большее, чем у биологических систем, а эффективность решения задач, особенно связанных задач ориентировки и принятия решений в естественной среде, у живых систем пока недостижимо выше.
Другой импульс развитию нейрокомпьютеров дали теоретические разработки 1980-х годов по теории нейронных сетей (сети Хопфилда, сети Кохонена, метод обратного распространения ошибки).
Основная идея — коннекционизм В отличие от цифровых систем, представляющих собой комбинации процессорных и запоминающих блоков, нейропроцессоры содержат память, распределённую в связях между очень простыми процессорами, которые часто могут быть описаны как формальные нейроны или блоки из однотипных формальных нейронов. Тем самым основная нагрузка на выполнение конкретных функций процессорами ложится на архитектуру системы, детали которой в свою очередь определяются межнейронными связями. Подход, основанный на представлении как памяти данных, так и алгоритмов системой связей (и их весами), называется коннекционизмом.
Три основных преимущества нейрокомпьютеров: Все алгоритмы нейроинформатики высокопараллельны, а это уже залог высокого быстродействия. Нейросистемы устойчивы к помехам, которые могут накладываться на входные сигналы, а также к частичным разрушениям отдельных элементов нейронной сети. Устойчивые и надёжные нейросистемы могут создаваться и из ненадёжных элементов, имеющих значительный разброс параметров.
Разработчики нейрокомпьютеров стремятся объединить устойчивость, быстродействие и параллелизм, присущие АВМ (аналоговые вычислительные машины), с универсальностью современных компьютеров.Горбань А. Н. Нейрокомпьютер, или Аналоговый ренессанс , Мир ПК, 1994, № 10, 126—130.
Проблема эффективного параллелизма На роль центральной проблемы, решаемой всей нейроинформатикой и нейрокомпьютингом, А. ГорбаньГорбань А. Н., Кто мы, куда мы идем, как путь наш измерить? , Пленарный доклад на открытии конференции Нейроинформатика-99, МИФИ, 20 января 1999. Журнальный вариант: Горбань А. Н., Нейроинформатика: кто мы, куда мы идем, как путь наш измерить // Вычислительные технологии. — М.: Машиностроение. — 2000. — № 4. — С. 10-14. = Gorban A.N., Neuroinformatics: What are us, where are we going, how to measure our way? The Lecture at the USA-NIS Neurocomputing Opportunities Workshop, Washington DC, July 1999 (Associated with IJCNN’99) предложил проблему эффективного параллелизма. Давно известно, что производительность компьютера возрастает намного медленнее, чем число процессоров. М. Минский сформулировал гипотезу: производительность параллельной системы растёт (примерно) пропорционально логарифму числа процессоров — это намного медленнее, чем линейная функция (Гипотеза Минского).
Для преодоления этого ограничения применяется следующий подход: для различных классов задач строятся максимально параллельные алгоритмы решения, использующие какую-либо абстрактную архитектуру (парадигму) мелкозернистого параллелизма, а для конкретных параллельных компьютеров создаются средства реализации параллельных процессов заданной абстрактной архитектуры. В результате появляется эффективный аппарат производства параллельных программ.
Нейроинформатика поставляет универсальные мелкозернистые параллельные архитектуры для решения различных классов задач. Для конкретных задач строится абстрактная нейросетевая реализация алгоритма решения, которая затем реализуется на конкретных параллельных вычислительных устройствах. Таким образом нейросети позволяют эффективно использовать параллелизм.
Современные нейрокомпьютеры Многолетние усилия многих исследовательских групп привели к тому, что к настоящему моменту накоплено большое число различных «правил обучения» и архитектур нейронных сетей, их аппаратных реализаций и приёмов использования нейронных сетей для решения прикладных задач.
Эти интеллектуальные изобретенияСавельев А. В., Нейрокомпьютеры в изобретениях // «Нейрокомпьютеры: разработка, применение». , М. Радиотехника, 2004, № 2-3, с. 33-49. существуют в виде «зоопарка» нейронных сетей. Каждая сеть из зоопарка имеет свою архитектуру, правило обучения и решает конкретный набор задач. В последнее десятилетие прилагаются серьёзные усилия для стандартизации структурных элементов и превращений этого «зоопарка» в «технопарк»Миркес Е. М., Нейрокомпьютер. Проект стандарта. — Новосибирск: Наука, 1999. — 337 с ISBN 5-02-031409-9 Другие копии онлайн: : каждая нейронная сеть из зоопарка реализована на идеальном универсальном нейрокомпьютере, имеющем заданную структуру.
Основные правила выделения функциональных компонентов идеального нейрокомпьютера (по Миркесу): Относительная функциональная обособленность: каждый компонент имеет чёткий набор функций. Его взаимодействие с другими компонентами может быть описано в виде небольшого числа запросов. Возможность взаимозамены различных реализаций любого компонента без изменения других компонентов.
Постепенно складывается рынок нейрокомпьютеров. В настоящее время широко распространены различные высокопараллельные нейро-ускорителиСавельев А. В., Нейроускоритель. Neural Network accelerator // Свид. о регистрации программы для ЭВМ № 2003610307, заявка 2002612174, 2003. (сопроцессоры) для различных задач. Моделей универсальных нейрокомпьютеров на рынке мало отчасти потому, что большинство из них реализованы для спецприменений. Примерами нейрокомпьютеров являются нейрокомпьютер Synapse (Siemens, Германия),Шахнов В., Власов А., Кузнецов А., Нейрокомпьютеры — архитектура и реализация. Часть 1. ChipNews, 2000, N 5; Часть 2. Элементная база нейровычислителей. ChipNews, 2000, N 6; Часть 3.Аппаратная реализация нейровычислителей. ChipNews, 2001, 1. процессор NeuroMatrix Процессор цифровой обработки сигналов Л1879ВМ1 (NM6403) НТЦ «Модуль». Издаётся специализированный научно-технический журнал «Нейрокомпьютеры: разработка, применение»Журнал «Нейрокомпьютеры: разработка, применение». . Проводятся ежегодные конференции по нейрокомпьютерамСавельев А. В.X ВСЕРОССИЙСКАЯ НАУЧНАЯ КОНФЕРЕНЦИЯ «НЕЙРОКОМПЬЮТЕРЫ И ИХ ПРИМЕНЕНИЕ» НКП-201 . С технической точки зрения сегодняшние нейрокомпьютеры — это вычислительные системы с параллельными потоками одинаковых команд и множественным потоком данных (MSIMD-архитектура). Это одно из основных направлений развития вычислительных систем с массовым параллелизмом.
Искусственная нейронная сеть может передаваться от (нейро)компьютера к (нейро)компьютеру, так же как и компьютерная программа. Более того, на её основе могут быть созданы специализированные быстродействующие аналоговые устройства. Выделяются несколько уровней отчуждения нейронной сети от универсального (нейро)компьютераГорбань А. Н. Обучение нейронных сетей, изд. СССР-США СП «Параграф», 1990, 160 с.: от сети, обучающейся на универсальном устройстве и использующей богатые возможности в манипулировании задачником, алгоритмами обучения и модификации архитектуры, до полного отчуждения без возможностей обучения и модификации (то есть только функционирование предварительно обученной сети).
Одним из способов подготовки нейронной сети для передачи является её вербализация: обученную нейронную сеть минимизируют с сохранением полезных навыков. Описание минимизированной сети компактнее и часто допускает понятную интерпретацию.
Новый поворот — Wetware
В нейрокомпьютинге постепенно созревает новое направление, основанное на соединении биологических нейронов с электронными элементами. По аналогии с Software (программное обеспечение) и Hardware (электронное аппаратное обеспечение), эти разработки получили наименование .
В настоящее время уже существует технология соединения биологических нейронов со сверхминиатюрными полевыми транзисторами с помощью нановолокон (Nanowire). В разработках используется современная нанотехнология. В том числе, для создания соединений между нейронами и электронными устройствами используются углеродные нанотрубки.
Распространено также и другое определение термина «Wetware» — человеческий компонент в системах «человек-компьютер».
Применения Управление в реальном времениТюкин И. Ю., Терехов В. А., Адаптация в нелинейных динамических системах , (Серия: Синергетика: от прошлого к будущему), Санкт-Петербург: ЛКИ, 2008. — 384 с. ISBN 978-5-382-00487-7, в том числе: самолётами и ракетамиПрименение нейрокомпьютеров в ракетно-космической технике. Сборник статей. Ефимов В. В. (ред). — М.: Радиотехника, 2006. — 144 C., технологическими процессами непрерывного производства (в энергетике, металлургии и др.)Галушкин А. И. Применение нейрокомпьютеров в энергетических системах, М.: Научный центр нейрокомпьютеров, 1997., гибридным (электробензиновым) двигателем автомобиляDanil V. Prokhorov. Toyota Prius HEV Neurocontrol and Diagnostics, Neural Networks. — 2008. — No. 21. — P. 458—465, пневмоцилиндром, сварочным аппаратомD’Emilia G., Marrab A., Natalea E. Use of neural networks for quick and accurate auto-tuning of PID controller // Robotics and Computer-Integrated Manufacturing. — 2007. — Vol. 23. — P. 170—179., электропечью, турбогенератором. Распознавание образов: