Нейросети и интернет

Недавно одна известная компания на ровном месте столкнулись с кризисной ситуацией: сотрудники увлеклись доступом к интернет настолько, что использовали его на сумму, сопоставимую с фондом заработной платы. Решение было найдено быстро: дешевый нелимитированные канал, предоставляемый компанией Yota (простите за невольную рекламу). Но, несмотря на то, что Yota честно отрабатывает свои деньги, это решение оказалось началом дороги в ад: снижение скорости доступа в 30 раз привело к конфликтам и неосознаному саботажу со стороны сотрудников: раз работать стало трудно, то стоит ли работать вообще?

Наивное решение лежало на поверхности: пустить рабочий трафик по быстрому каналу, а новостной и развлекательный (доля которого оказалась значительной) - по бесплатному. Но тщетными были надежды, что сбегутся радостные сотрудники и скажут: "Да, да! Вот этот сайт мы используем для работы!", - никто не пришел, а вызывать сотрудников по одному в комнату с утюгом и паяльником показалось затеей бесперспективной.

Тогда появилась идея составить "модель сотрудника", и жестко допросить ее о пристрастиях.

Гипотетическое устройство, подключаемое тем или иным образом к человеку и выполняющее функции, сходные с функциями коры головного мозга: т.е. имитирующее высшую нервную деятельность. Предположительно, может использоваться для протезирования или как средство "усиления разума".

В этом тексте речь пойдет о существовании в прошлом бикамерального разума. Бикамеральный разум - когнитивное состояние человека, характеризующееся неучастием самосознания в процессе жизни человека, в особенности при необходимости принятия сложных решений. Теория о наличии бикамерального разума у представителей homo sapiens в период с появления вида и до возникновения письменности была предложена канадским учёным Джулианом Джейнсом в результате проведённого им глубокого исторического, физиологического анализа, самоанализа и исследований языка. Бикамеральный разум был ярко выражен у героев «Илиады» и выражался в отсутствии у них самосознания, вместо которого присутствовали аудиальные галлюцинации, порождаемые правым полушарием мозга и воспринимавшиеся левым полушарием как голоса Богов.

Открыта новая версия сайта Neural.Ru. Сайт перенесен на новый, современный движок CMS DreamBot. Содержание сайта также существенно изменилось, так, чтобы больше соответствовать теме сайта: нейросети, искусственный интеллект и все, что с этим связано.

ноголетние исследования в разных направлениях привели, наконец, к возможности предложить решение для двунаправленного нейрокомпьютерного интерфейса. Причем, в данном случае речь идет не о знаменитых поделках на основе ЭЭГ (Neuroactuator, EPOC и другие), а о непосредственном контакте, который позоволит выполнять более целенаправленный и точный обмен.

Для специалистов, создающих вычислительные нейроподобные структуры, искажение работы сети при введении нового нейрона не является чем-то новым: то, что сеть может "забыть" часть того, чему была обучена очевидно. Введение нового нейрона в этом смысле ничуть не лучше удаления старого: это повреждение сети. Но вот группа японских нейробиологов смогла продемонстрировать этот эффект в естественной нейронной сети мозга (точнее, гиппокампа) и пришли к интересным выводам.

Многочисленные группы исследователей пытаются воплотить в жизнь нейрокомпьютерный интерфейс, позволяющий управлять реальностью силой мысли. Возможно, поэтому на на недавней выставке привлек большое внимание перформанс исследователей, представивших форму поверхности альфа-ритма в виде куска мягкой пены: оператор Вася надел сеточку электроэнцефалографа, подумал "Удобно!" и трехмерный диаграмма была отправлена на фрезерный станок, вместо привычного лазерного принтера. Конечно, ЭЭГ слова "удобно" имеет такое же отношение к пониманию удобства оператором Васей, как радиоперехват космического шума к предстставлениям об удобстве среди инопланетных рас, но эта демонстрация хорошо иллюстрирует желаемый технологический процесс.

Многочисленные поклонники "Мехов" из Аниме, возможно, не очень в курсе, что такой "Мех" является одним из концептуальных понятий киборгизации - киборгизации через создание "Экзоскелета": создания специальной, высокоинтеллектуальной аппаратуры, дополняющей возможности человеческого тела, но, в отличие от различных танков и самолетов, сохраняющих антропоморфизм. Предположительно, такое устройство более легко управляется и более универсально чем танк или грузовик (при сопоставимом поражающем эффекте). Группа японских (кто бы сомневался) разработчиков работает в направлении создания одной из компонент экзоскелета и уже близка к завершению.

Сеть Кохонена-Гроссберга это двуслойная сеть, используемая, в основном, в задачах классификации. Первый слой сети - сеть Кохонена, обучаемая для получения наилучшего представления векторов обучающей выборки. Второй слой - сеть Гроссберга, обучаемый отображать нейроны слоя Кохонена на различные классификационные рубрики. Слой Гроссберга обучается "с учителем".

Таким образом, сеть Кохонена-Гроссберга позволяет выделить в пространстве входных векторов области, соответствующие каждой из предъявленных рубрик.

Семантическое ядро - это множество связанных между собой слов (или понятий), отобранных по некоторому критерию. Понятие семантического ядра находит применение в лингвистике, статистическом анализе текста, разработке поисковых систем и поисковой оптимизации.

Векторная модель текста определяет способ представления текста для последующего использования в алгоритмах классификации и полнотекстового поиска, основанных на анализе статистических характеристик.

Статистический анализ текста позволяет выделить в нем значимые слова, которые могут быть использованы для поиска, рубрикации и автоматического аннотирования. Программа semanticcore реализует некоторые из таких алгоритмов и позволяет составить словарь значимых слов в полуавтоматическом режиме. Реализованные алгоритмы основаны на векторной модели текста и ориентированы на выделение т.н. семантического ядра предметной области.

В этой статье приводятся подробные инструкции по ее использованию.

Программа поиска семантического ядра

В статье введена инкрементальная модель сети, которая способна обучатся важным топологиским отношением между входными векторами, посредством простого Хэббовского правила. В противоположенность предыдущему подходу, сходному с "Neural Gas", методу Martinetz и Schulten (1991, 1994), эта модель не имеет параметров, которые изменяются во времени, и способна продолжать обучание, добавляя узлы и соединения, до тех пор пока не будет ограничена производительностью. Приложение этой модели включает в себя векторную квантизацию, кластеризацию, и интерполяцию.

Скачать: A growing neural gas network learn topologies

Нейронный газ - конструктивная сеть, в которой нейроны добавляются до тех пор, пока их добавление имеет смысл с точки зрения накопленной ошибки. В остальном метод обучения сети сходен с сетью Кохонена.

Визуализация подразумевает способ представления данных, который будет не только интуитивно-понятен, но и информативен: т.е. содержать особенности, критичные для принятия решения. В этой статье рассматривается использование метода наилучшей квантизации для улучшения информативности представления в форме гистограммы и "облака тегов".

CELL - микропроцессорная архитектура, основанная на совмещении ядра общего назначения с сопроцессорами, которые значительно ускоряют обработку мультимедиа и векторных вычислений.

Оценка доверия - способ, позволяющий оценить доверие, которое может быть оказано участнику сообщества.

Нейронная сеть Кохонена - это сеть, которая обучается без учителя. Работа и обучение сети происходит по соревновательному принципу "победитель получает все": из всех нейронов выбирается нейрон, наилучшим образом опознавший предъявленный вектор. Этот нейрон используется для получения выходного сигнала сети или же в алгоритме обучения.

Квантизация - это представление большого числа отсчетов некоторой величины небольшим количество областей, на которые разбито пространство этих величин.

Если нужно составить словарь ключевых слов вашей предметной области, например, чтобы обеспечить таргетинг поисковых систем, то можно пойти двумя путями: нудной работой с попытками "угадать" возможные запросы или быстрый анализ уже существующей подборки текстов, чтобы получить слова, отличающие ваши тексты от всех других.

Эта статья описывает второй подход: автоматическое составление семантического ядра по готовой подборке текстов.

Семь лет назад я написал статью под названием Нейросети и интернет. Статья должна была стать чем-то определяющим мое развитие на ближайшие несколько лет, однако не стала - занимался я много чем другим и было совсем не до того. Но вот настал день, когда, как я надеюсь, я могу возобновить заниматься тем, чем хотел.

Подавляющее большинство задач, поставленных раньше, сейчас уже являются объектом крупного бизнеса, что дает основания предположить, что так или иначе их решение найдено. Но, старые задачи уходят - новые появляются. Попробуем написать что-то о задачах сегодняшнего дня.

Я некоторое время не в теме был, так что отнеситесь к этому как к взгляду из прошлого.

Примитивная реализация сети Хопфилда, сделана только для демонстрационных целей.

Создали прототип дизайна нового сайта Neural.Ru. Всеми любимый логотип вернулся. наконец, на свое законное место :).

Пришла пора заняться переносом сайта neural.ru на новую платформу. Сегодня я создал сайт neural.dreambot.ru, как прототип нового сайта neural.ru. В отличие от предыдущей попытки, этот сайт будет содержать только материалы по нейросетям и ничего более.