Главная / Новости, 201704 / МТИ: Идее нейронных сетей — более семидесяти лет

МТИ: Идее нейронных сетей — более семидесяти лет

Будь в СЕТИ! Каталог социальных сетей :: Будь в СЕТИ! - Добавить в избранное KiT - Keep-inTouch :: RSS-лента

Сети :: [Профессиональные] | [Зарубежные] | [Тематические] | [Молодежные] | [Детские] | [Медиа (игры, развлечения)] | [Знакомства] | [Купоны] | [Прочее]

Категории (метки) :: Авто | Музыка | Книги | Хобби | Профессии | Сообщества | Семья | Бизнес | Регионы | Спорт | * Статусы

Последние десять лет характеризуются бурным развитием систем искусственного интеллекта на основе глубокого обучения нейронных сетей — они широко используются для распознавания образов и речи, а также для финансового прогнозирования и не только. В Массачусетском технологическом институте напоминают, что сама идея обучаемых нейросетей была впервые предложена еще в 1944 году Уорреном Маккалоком и Уолтером Питтсом, научными сотрудниками Чикагского университета, которые в 1952 году перешли в МТИ и основали в нем кафедру когнитивных наук.

Нейросеть может решать определенные задачи после обучения — анализа учебных образцов, которые обычно заранее размечаются человеком. Например, получив тысячи размеченных снимков машин, домов, кофейных чашек и т. д., нейросеть научится обнаруживать характерные черты, соответствующие каждой из меток.

Нейросеть построена по образцу головного мозга человека — она состоит из множества тесно взаимосвязанных простейших вычислительных узлов. Каждый такой узел может быть соединен с несколькими на предыдущем слое, передающем ему данные, и с несколькими на следующем. Каждому из входящих соединений узел присваивает некоторое число — «вес». В процессе работы нейросети узел получает по каждому из соединений разные числа и умножает на соответствующий вес, а получившиеся произведения складывает. Если сумма больше определенного порогового значения, она передается на следующий уровень по всем исходящим соединениям узла.

Изначально веса и пороговые значения выбираются случайным образом, а в процессе обучения они постоянно корректируются, пока учебные данные с одинаковыми метками, подаваемые на вход сети (нижний слой), не будут выдавать одинаковые значения на выходе из нее.

Первая обучаемая нейросеть, «перцептрон», была создана Фрэнком Розенблаттом, психологом Корнельского университета, в 1957 году. В отличие от современных, она имела лишь один слой между входным и выходным. Уже в то время было предсказано, что с помощью перцептрона можно решать практически любые стандартные математические задачи, и до 1969 года нейросети оставались областью активных исследований. Но затем математики МТИ Марвин Минский и Сеймур Пейперт опубликовали результаты исследования, показавшего, что выполнение стандартных вычислительных операций с помощью перцептрона будет отнимать неприемлемо много времени. После этого интерес к нейронным сетям угас и возродился только к 1980-м, когда были разработаны алгоритмы корректировки весов и порогов, позволившие преодолеть ограничения, указанные Минским и Пейпертом.

Нынешнему взрыву развития машинного обучения помогла эволюция графических процессоров, которые содержат множество относительно простых ядер, которые можно использовать в качестве узлов нейросети. Современные видеочипы позволяют строить нейросети не из одного, как в 1960-х, и не из двух-трех, как в 1980-х, а из гораздо большего количества слоев. Именно поэтому «глубокое обучение» получило свое название: глубина — это число слоев нейросети.

Между тем, вопросом, беспокоящим исследователей, остается смысл настроек обученной нейросети — неясно, например, на какие именно особенности изображения она обращает внимание при классификации; изучение весов каждого из соединений ответа на этот вопрос не дает. Что касается продвижения науки на этом фронте, на сегодня решены задачи глобальной оптимизации — получения гарантий того, что сеть нашла настройки, оптимально соответствующие учебным данным, и выявления признаков переобучения — когда сеть настолько сфокусировалась на обучающей выборке, что на любых значениях за ее пределами она работать не сможет.



Мировые продажи Windows рухнули

Выручка Microsoft от продаж лицензий на операционную систему Windows производителям персональных компьютеров снизилась приблизительно на 23% в III квартале 2014-2015 финансового года, окончившегося 31 марта 2015 г. При этом выручка от продаж лицензий...

Подразделение безопасности Белого дома выявило следы хакерской атаки, проведенной в октябре 2014 года.

Как показало расследование, данные с мобильного телефона Барака Обамы не были скомпрометированы. Однако неизвестные хакеры могли получить доступ к архивным копиям, содержащим секретную информацию. Вывод в пользу принадлежности хакеров к русскому сег...

Disney снабжает смартфоны ультразвуковыми ручками управления

Чехол-ободок по тонкой трубке передает ультразвуковой сигнал, непрерывно генерируемый динамиком, на микрофон аппарата. Изменения в звуке, вызванные касаниями ободка, распознаются как управляющие сигналы: чехол представляет собой пассивное аналоговое...

США приняли стратегию наступательной кибервойны

Власти США будут совершать кибератаки на военные вычислительные сети и военную инфраструктуру своих противников в регионах, где США имеют собственные интересы. Решение о применении кибератак будут принимать президент США и министр обороны. Например, ...

В России могут начать взимать налоги с зарубежных ИТ-компаний.

Николай Никифоров, руководитель Минкомсвязи РФ, думает, что пора уже рассмотреть вопрос налогообложения зарубежных ИТ-компаний по местонахождению пользователей их услуг. В случае экстерриториального оказания электронных услуг фактор размещения конеч...

Комментарии

Нравится
Счетчики
хостинг от .masterhost Яндекс.Метрика

Главная | Новости | КАТАЛОГ | Контакты