Время жестоких чудес #2: intelligent design vs supervised learning

[zlyuk]

<impromptu>: если пророчество не сбылось, с какого момента его следует считать непророчеством?

Спонтанное возникновение структуры из шума - одно из наиболее контринтуитивных явлений вокруг нас. Оттого народ и не верит в эволюцию, и аргументы за разумного создателя кажутся столь убедительными. (Притом, сам по себе этот спор, с философской т. зр., - ill-posed, то бишь плохо задан. Например, потому что нет точного отделения осмысленности от спонтанности. То что нам представляется шумом, может быть инструкцией по сборке дельфиньего звездолёта. Говоря заумью, случайность - понятие не онтологическое а гносеологическое, the information is in the eye of the beholder.)

Нейросети дают нам убедительный пример торжества эволюции над дизайном. В начале у нас есть сеть однотипных случайных элементов, весьма простых. Мы используем повторяющуюся стандартную процедуру и набор сырых данных. В результате получаем упорядоченный автомат, который умеет представлять реальность и действовать в ней в своих интересах. Никакого специального дизайна под условия задачи не происходит. Как я уже сообщал, главная доблесть моделировщика - никак не интерпретировать данные и не пытаться подсказывать модели, используя экспертные знания.

(Забавно, кстати, что самих специалистов это не очень устраивает. В последние годы появилась мода на сети особо подстроенные под онтологию задачи. Например, physically informed neural nets. А главный папа всея диплернинга Ян ЛеКун проклял autoencoders и reinforced learning и рисует антропоморфные схемы познающих моделей, от которых наворачиваются слёзы на глаза у доживших до наших дней структуральнейших лингвистов 60х. Трогательнейшим образом, коммьюнити data science открывает для себя математическое моделирование и подгонку параметров под данные.)

Мне видится тут, конечно, диалектическая кривая. Полное отсутствие управляющей системы/структуры не работает (я сам не очень понимаю, что это значит: порядок, опять же, - не в мире а у нас в голове; даже если мы жосткие атеисты, уж законы физики для нас реальны, то есть полный хаос невообразим). С другой стороны, можно обойтись без заботливого архитектора: набросай в кучу пару миллионов простых обобщённо-линейных регрессий, задай условия задачи, и потряси пару тысяч эпох - оно само научится и представлять, и понимать, и просчитывать варианты, и действовать. В каком-то смысле синтетическая теория эволюции (в меру моего убогого понимания) подготовила почву. Осталось только понять, каким образом фраза "в течение эволюции крылья возникалм независимо несколько раз" потеряет свой смысл.

Короче, предвижу новый виток эволюционной теории, вдохновлённый успехом и разочарованием от агностических предсказательных моделей, состоящих из квази-самоорганизованных примитивных элементов (сокр.: нейросетей)