Пороговый логический элемент

Настоящая книга представляет собой вводный курс, посвященный приложениям некоторых методов распознавания образов к решению химических задач. Распознавание образов охватывает чрезвычайно широкую область разнообразных методов и их применений, однако мы сознательно сузили круг рассматриваемых вопросов. Значительная часть книги посвящена обсуждению таких непараметрических распознающих систем, которые называются обучающимися машинами . Свое название эти машины получили от способности обучаться давать с накоплением опыта все более правильные ответы на вопросы, относящиеся к классификации. Основным блоком подобных систем служит приспосабливающийся бинарный классификатор образов, или адаптивный пороговый логический элемент. Такие устройства обследуют множество помеченных данных на инвариантность, которую можно использовать при классификации. Эта процедура известна как обучение с учителем. Большая часть рассмотренных в книге работ связана с использованием адаптивных бинарных классификаторов образов, которые при обучении с учителем вырабатывают способность к классификации. [c.7]

Из непараметрических бинарных классификаторов широко исследован пороговый логический элемент. Кроме векторов образов обучающей выборки подстраиваемыми параметрами логических элементов являются только их линейные коэффициенты, определяемые в процессе обучения. Адаптивный пороговый логический элемент снабжается устройством для регистрации показаний по отношению к точно известному воздействию (объекту), т. е. способностью изменения своих параметров для того, чтобы реакция была верной. Обычно пороговые логические элементы можно подстраивать только на стадии конструирования. Подробно характеристики пороговых логических элементов рассматриваются в гл. 2. Пороговые логические элементы, соединенные во взаимосвязанные цепи, используют- [c.16]

ПОРОГОВЫЕ ЛОГИЧЕСКИЕ ЭЛЕМЕНТЫ КАК БИНАРНЫЕ КЛАССИФИКАТОРЫ ОБРАЗОВ [c.22]

Название пороговые логические элементы связано с тем, что эти системы подобны логическим блок-схемам, находящимся в одном из двух возможных состояний в зависимости от того, выше или ниже входной сигнал определенного уровня — порога. [c.22]

Когда необходимо принять бинарное решение, т. е. когда образы нужно разбить на две категории, в основном используют пороговые логические элементы. В общем случае нужна функция, дающая один из двух результатов в зависимости от величины входного сигнала. [c.23]

Хотя наибольшее распространение получили линейные пороговые логические элементы, в качестве бинарных классификаторов образов могут применяться пороговые логические элементы с любой другой функциональной зависимостью ответа. Необходимо только, чтобы они надежно отличали образы одного интересующего нас класса от образов другого. [c.23]

Если обратиться снова к понятию гиперплоскости, то для классификации векторов образов пороговый логический элемент можно охарактеризовать как алгоритм, дающий два разных состояния для любого входного вектора. Хотя и не обязательно, но математически удобно выбирать в качестве порога нуль. Именно так чаще всего и поступают. В качестве пороговых логических элементов удобно использовать упоминавшуюся выше линейную разделяющую функцию. Разделяющую гиперплоскость можно, как уже говорилось, охарактеризовать вектором нормали У. Скалярное произведение этого вектора на вектор образа имеет положительную величину для образов с той стороны от плоскости, на которой расположен вектор нормали, и отрицательную для образов по другую сторону от нее. Следовательно, когда за порог выбран нуль, линейная разделяющая функция определяет классифицирующее пространство (пространство решений) с двумя группами точек, разделенными между собой гиперплоскостью, которая нормальна разделяющему вектору. [c.23]

Еще одна интересная возможность использования линейных разделяющих функций в качестве пороговых логических элементов связана с понятием весовой вектор . Скалярное произведение двух векторов можно эквивалентно определить соотношением [c.24]

ОБУЧЕНИЕ ПОРОГОВЫХ ЛОГИЧЕСКИХ ЭЛЕМЕНТОВ С ИСПРАВЛЕНИЕМ ОШИБКИ ЧЕРЕЗ ОБРАТНУЮ СВЯЗЬ [c.24]

Как уже отмечалось, пороговый логический элемент можно использовать для разбиения на два класса совокупности данных, представленных в виде точек или векторов в гиперпространстве. Следовательно, задача сводится к отысканию эффективного разделителя, осуществляющего дихотомию для заданного множества классификаций. Именно это и имелось в виду выше, когда речь шла о преобразовании пространства образов в классифицирующее пространство (пространство решений). [c.24]

СВОЙСТВА ПОРОГОВЫХ ЛОГИЧЕСКИХ ЭЛЕМЕНТОВ [c.27]

Ниже рассмотрены четыре характеристики пороговых логических элементов и прочих устройств, предназначенных для классификации образов распознающая способность, скорость сходимости, надежность и способность к предвидению (прогнозирующая способность). [c.27]

Предположения, связанные с динамическим диапазоном параметров, сильнее всего влияют на сходимость для пороговых логических элементов. Как показано в ряде исследований, приблизительное уравнивание динамических диапазонов для всех признаков часто приводит к достижению лучших рабочих характеристик. Поскольку здесь речь идет о преобразовании, не затрагивающем [c.33]

БИНАРНЫЕ КЛАССИФИКАТОРЫ Простой пороговый логический элемент [c.45]

Как было показано выше, основной пороговый логический элемент производит классификацию, вычисляя скалярное произведение весового вектора Ш на вектор X подлежащего классификации образа. Классификацию осуществляют по знаку скалярного произведения [c.45]

Пороговые логические элементы с ненулевым порогом [3] [c.63]

Рассмотренные выше простые пороговые логические элементы осуществляют классификацию путем сравнения вычисленного значения скаляра х с нулем. Выбор ненулевого порога 2 означает дальнейший шаг по пути обобщения. В этом случае скалярное произведение вектора образа X на весовой вектор Ш сравнивается с величиной I. Если 5 превосходит I, то считается, что образ принадлежит к одной категории если я окажется меньше —2, то образ считается принадлежащим к другой категории. Когда же 5 попадает в интервал (—Z, 2), образ не классифицируется. Область между —2 и 2 называют мертвой (свободной) зоной. Этот способ классификации легко охарактеризовать при помощи двух гиперплоскостей, относя образы к одной категории, если они оказываются по одну сторону от обеих плоскостей, и к другой категории, если они находятся по другую сторону от плоскостей. Когда же образы попадают в промежуток между плоскостями, их не классифицируют. [c.63]

В табл. 4.6 приведены результаты обучения бинарных классификаторов образов с порогом и без него. Обучение проводилось на том же массиве данных, что и в случае табл. 3.1. Для каждой проверки из массива случайно выбирали по 300 масс-спектров. В результате трех процедур рандомизации были составлены три варианта обучающей и экзаменационной выборок, состав которых указан в нижней части табл. 4.6. Пороговые логические элементы с 2 = 50 в каждом случае для достижения 100%-ного распознавания требуют больше коррекций, но каждый раз они обеспечивают повышение прогнозирующей способности. Такие пороговые логические элементы с 2 = 50 способны правильно классифицировать 95,0, 95,8 и 96,0% полностью неизвестных образов из экзаменационной выборки (остальные данные табл. 4.6 обсуждаются ниже). [c.64]

Сравнительные результаты прогнозирования при помощи пороговых логических элементов и при Z < О для линейно неразделимых категорий [c.71]

В табл. 4.6 были приведены результаты обучения системы голосования, состоящей из трех пороговых логических элементов с Z = 50, на тех же трех выборках данных, что и в других случаях. Число коррекций через обратную связь для этой машины больше, но остается на приемлемом уровне. Однако процент правильных классификаций для нее гораздо выше. Эта машина правильно классифицировала 95,7, 96,3 и 98,0% объектов контрольной выборки, составленной из неизвестных ей образов. Процент распознаваний для нее также очень высок эта машина почти никогда не ошибается на образах рассматривающейся размерности. [c.72]

Применение пороговых логических элементов для классификации электрохимических данных [c.73]

Кусочно линейные пороговые логические элементы [c.80]

Применение ветвящейся схемы и кодов, исправляющих ошибки, включает три шага разбиение объектов массива данных на нужные подвыборки, обучение бинарного классификатора образов отдельно на каждой такой подвыборке и окончательное прогнозирование комбинированием отдельных бинарных классификаторов. (Следует отметить, что в подобных устройствах можно использовать любые бинарные классификаторы. Повышения прогнозирующей способности индивидуальных бинарных классификаторов можно добиться, например, применением ненулевых порогов в процессе обучения или использованием многоуровневых пороговых логических элементов.) Параллельный метод проще, поскольку он не требует разбиения объектов массива на подвыборки. [c.99]

Такая матрица сходства состоит из элементов Сц значения Сц, вычисленные по формуле (6.3), лежат в пределах от нуля до единицы чем больше тем сильнее зависимость между членами лгг и Xj. Эту матрицу можно преобразовать в матрицу смежности путем сравнения каждого значения с порогом Т, принимая затем Сц = I, если Сгу > Г, и = О во всех остальных случаях. Можно исследовать число ненулевых элементов полученной таким образом матрицы смежности как функцию порога. Каждая 1, фигурирующая в составленной пороговым нормированием матрице смежности, соответствует отдельному перекрестному члену, появляющемуся в выборке данных достаточно часто, чтобы превзойти пороговое значение. Подобные перекрестные члены могут служить полезным признаком для пороговых логических элементов при разделении данных в целях классификации. Следовательно, такие члены можно рассматривать как полезные при классификации признаки. Эти признаки явно относятся к внутригрупповым, поскольку они выводятся для элементов множества векторов в целом. [c.140]

Чтобы проверить, в какой степени эти перекрестные члены коррелируют с молекулярными признаками, на основе которых проводилось разделение на категории, их вводили в классификатор образов на пороговых логических элементах. Классификатор испытывался на выборке из 450 спектров по 132 положениям mie в каждом. Были выполнены три цикла экспериментов для трех вариантов [c.142]

В рассматриваемом исследовании была проведена также проверка надежности пороговых логических элементов при обучении на исходных масс-спектрометрических данных и на спектрах Фурье. Как выяснилось, более высокой надежностью обладают бинарные классификаторы образов при обучении на спектрах Фурье. [c.158]

Во второй колонке табл. 7.3 указаны пороговые интенсивности, использованные при обучении каждого из этих 82 пороговых логических элементов. Наличие примесей в образцах, помехи масс-спектрометра, а также присутствие в природных образцах изотопов [c.185]

В шестой колонке табл. 7.3 указана прогнозирующая способность весовых векторов для числа дескрипторов, приведенного в третьей колонке. Для каждого положения обучали три пороговых логических элемента на трех разных обучающих выборках. Здесь представлены данные для весовых векторов, показавших максимальную прогнозирующую способность по каждому положению и для каждой пороговой интенсивности. Средняя прогнозирующая способность для всех 82 пороговых логических элементов составила 88,8%. [c.187]

Значения интенсивностей пиков при разных положениях для предсказанных масс-спектров устанавливали следующим образом. (Обучали по три пороговых логических элемента с порогами 0,1, 0,5 и 1,0% полного ионного тока, что соответствует 30, 37 и 40 единицам по логарифмической шкале интенсивности на графиках.) Пику, для которого все три весовых вектора давали положительные скалярные произведения, произвольно приписывали значение 50 (10% полного ионного тока). Если все три весовых вектора давали отрицательные скалярные произведения, то интенсивность считалась равной 25 (0,03% эта величина была, вероятно, обусловлена шумом). Если же три весовых вектора давали скалярные произведения с разными знаками, то интенсивность полагали равной 34 (в случае расхождения между векторами с порогами 30 и37) или 39 (в случае расхождения между векторами с порогами 37 и 40). [c.197]

В табл. 7.11 приведены результаты обучения пороговых логических элементов для разных значений пороговой интенсивности по каждому из 25 положений т/е. В первой колонке перечислены положения т/е, на которых проводилось их обучение. По каждому положению обучали три пороговых логических элемента с такими порогами интенсивности, которые делили обучающую выборку на подмножества со следующими отношениями числа входящих в них объектов 1 3, 1 1 и 3 1. Для каждого порогового логического элемента регистрировали данные трех типов 1) интенсивность, соответствующую выбранному порогу 2) название обучающей выборки 3) прогнозирующую способность. Исследование проводилось на трех произвольно составленных обучающих выборках, условно обозначенных А, Б vi В. Если обучение на каждой такой обучающей выборке не завершалось за 2500 коррекций (предел экономичности), то из обучающей выборки исключали пять объектов, которые чаще всего отвергались обучающейся машиной, и предпринималась попытка повторить курс обучения. В случае необходимости цикл обучения можно было повторять. Так, обозначение -10 для выборки, на которой обучали первый пороговый элемент на положении т/е 29, соответствует тому, что в процессе исключения объектов из обучающей выборки было изъято 10 структур, после чего была достигнута сходимость. [c.211]

Прогнозирующая способность пороговых логических элементов лежала в пределах 70—97% и составила в среднем 87,2%. Средняя прогнозирующая способность пороговых логических элементов с отношениями числа объектов в подмножествах 1 3, 1 1 и 3 1 указана [c.211]

Результаты обучения пороговых логических элементов [c.212]

Таким образом, информация, относящаяся к задаваемым химическим вопросам, содержится в части компонент исходных векторов образов. Отбрасывая малозначащие дескрипторы, можно улучшить характеристики пороговых логических элементов. [c.214]

Простой биметаллический термостат в бытовом нагревательном приборе представляет хороший пример порогового логического элемента. Комнатная температура используется как входной сигнал, преобразуемый в изгиб биметаллической пластины. До тех пор пока сигнал превосходит определенный пороговый уровень, который можно выразить в градусах, термостат не генерирует напряжение (нулевой сигнал), так что реле питания нагревателя остается в выключенном положении. Когда же температура уменьшается до уровня ниже порогового, термостат начинает генерировать напряжение, включающее печь нагревателя. [c.23]

О первоначальном исследовании скорости сходимости и прогнозирующей способности пороговых логических элементов сообщается в статье [1]. Данные были заимствованы из таблиц Американского нефтяного института, составленных по проекту 44. Массив данных состоял из 630 масс-спектров низкого разрешения соединений, имеющих молекулярный состав i ioH2 220o 4No 2. Интенсивности пиков давались в процентах от интенсивности основного пика каждого спектра. Рассматривались только пики с интенсивностью не менее 1% основного пика большая часть спектров имела от 15 до 40 таких пиков. Во всем массиве данных пикам соответствовали 155 положений mie, так что векторы образов имели размерность 156. Интенсивности, вошедшие в векторы образов, были преобразованы в препроцессоре извлечением квадратного корня. В табл. 4.1 приведены результаты обучения весовых векторов для обнаруже- [c.46]

Т. е. от расстояния, до решающей поверхности. Несмотря на значительный уровень шума в случае небольших чисел, общая тенденция очевидна. Когда расстояние образов до решающей поверхности превосходит 2, доверительный уровень налшого выше, причем с уменьшением скалярного произведения он все более снижается. Следует обратить внимание на разницу между предсказаниями внутри разделяющей полосы и вне ее. Последние целесообразно сопоставить с результатами, даваемыми пороговыми логическими элементами (см. табл. 4.9). [c.70]

Во всех рассмотренных до сих пор исследованиях для классификации образов использовался один пороговый логический элемент. Дальнейшим шагом по пути обобщения является переход к использованию двухуровневых пороговых логических элементов. При таком подходе образ одновременнс предъявляют трем (пяти, [c.71]

Другим и совершенно отличным от прежних массивом химических данных, на котором испытывали простые пороговые логические элементы, является сонокуппссть СЭ-полярограмм [5, 6]. Сами эти данные и их предварительные преобразования подробно обсуждались в гл. 3. Для каждого образа было выделено по 1 3 признака. Программа обучения предусматривала следующие операции построение двух весовых векторов со всеми исходными компонентами + 1 в одном случае и—1 в другом отбрасывание признаков, для которых компоненты двух обученных весовых векторов имели разные знаки повторение процесса обучения. [c.73]

В последующих исследованиях проводилось изучение воз- южнo тeй дальнейшего сокращения признаков. В связи с этим уместно отметить только то, что пороговые логические элементы способны обнаружить наличие дублирующих СЭ-полярограмм при довольно широко изменяющихся условиях, когда визуальная расшифровка не всегда возможна. [c.75]

Применение методов распознавания образов в масс-спектрометрии на первых порах почти всегда проводилось с использованием пороговых логических элементов. Такие распознающие системы принадлежат к категории линейных систем, поскольку масс-спектрометрические пики считаются в данном случае не зависящими друг от друга. Между тем теория масс-спектрометрии, равно как и фундаментальные основы классификации образов, позволяют предположить, что при подобной классификации можно было бы успешно использовать взаимодействия второго порядка (перекрестные члены, учитывающие зависимости между пиками). В статье [2] сообщается об использовании меры подобия к данным масс-спектро-метрии низкого разрешения для вывода перекрестных членов двух типов внутригрупповых (для объектов одной выборки) и межгруп-повых (для объектов нескольких выборок). Показано, что для полученных таким образом межгрупповых перекрестных членов существует большая вероятность корреляции с теми молекулярными признаками, которые можно положить в основу разбиения на категории. Это предположение было реализовано в виде классификаторов образов на пороговых логических элементах, проверявшихся на нескольких выборках масс-спектрометрических данных. Как оказалось, перекрестные члены расширяют возможности систем классификации образов либо ускоряя сходимость, либо повышая прогнозирующую способность этих систем, либо же обеспечивая и то и другое одновременно. [c.138]

Теперь мы обсудим обратную задачу определение физических свойств соединений непосредственно из их молекулярной структуры. Эту задачу также можно решить общими методами распознавания образов, которые подробно были рассмотрены ранее. В этом случае необходимо закодировать молекулярные структуры исследуемых соединений в виде некторов образов такого формата, который был бы согласован с возможностями пороговых логических элементов. Решение поставленной нами сейчас задачи относится к области обработки информации о химической структуре. [c.172]

В четвертой колонке табл. 7.3 дано число коррекций через обратную связь, необходимых для обеспечения сходимости. Если, например, число коррекций >2500, то это означает, что 2500 итераций не обеспечивали полной обученности. Нельзя считать, что подобные случаи указывают на линейную неразделимость. В отдельных случаях необученные полностью весовые векторы показывали довольно высокую прогнозирующую способность, как, например, для порогового логического элемента, обучающегося на пиках с mie 65. Однако в нескольких случаях обучения все-таки имела место неразделимость, которая, по-видимому, была следствием недостаточности информации для описания молекул. Чтобы [c.186]

Справочник химика 21

Химия и химическая технология