Сведение рук в тренажере: Сведение рук в тренажере: придай форму своим грудным! | willandwin.ru

Граница логического вывода на основе моделирования

) Механистические модели могут использоваться для прогнозирования поведения систем в различных обстоятельствах.Они охватывают весь диапазон шкал расстояний, с яркими примерами, включая физику элементарных частиц, молекулярную динамику, сворачивание белков, популяционную генетику, нейробиологию, эпидемиологию, экономику, экологию, климатологию, астрофизику и космологию. Выразительность языков программирования облегчает разработку сложных симуляций с высокой точностью, а мощность современных вычислений дает возможность генерировать из них синтетические данные. К сожалению, эти симуляторы плохо подходят для статистических выводов.Источник проблемы состоит в том, что плотность вероятности (или вероятность) для данного наблюдения - важный компонент как частотных, так и байесовских методов вывода - обычно трудноразрешима. Такие модели часто называют неявными моделями и сравнивают с предписанными моделями, в которых вероятность наблюдения может быть вычислена явно (1). Постановка задачи статистического вывода при трудноразрешимых вероятностях была названа выводом без правдоподобия - хотя это немного неправильное название, поскольку обычно пытаются оценить неразрешимую вероятность, поэтому мы считаем, что термин вывод, основанный на моделировании, более уместен.

Сложность вероятности является препятствием для научного прогресса, поскольку статистический вывод является ключевым компонентом научного метода. В областях, где возникла эта преграда, ученые разработали различные специальные или отраслевые методы ее преодоления. В частности, два распространенных традиционных подхода полагаются на то, что ученые используют свое понимание системы для построения мощных сводных статистических данных, а затем сравнивают наблюдаемые данные с смоделированными данными. В первом из них методы оценки плотности используются для аппроксимации распределения сводной статистики по выборкам, сгенерированным симулятором (1).Этот подход был использован для открытия бозона Хиггса в частотной парадигме и проиллюстрирован на рис. 1 E ). В качестве альтернативы метод, известный как приближенное байесовское вычисление (ABC) (2, 3), сравнивает наблюдаемые и смоделированные данные на основе некоторой меры расстояния, включающей сводную статистику. ABC широко используется в популяционной биологии, вычислительной нейробиологии и космологии и изображена на рис. 1 A . Оба метода обслуживают широкий и разнообразный сегмент научного сообщества.

В последнее время набор инструментов для вывода на основе моделирования пережил ускоренное расширение. Вообще говоря, три силы придают этой области новый импульс. Во-первых, наблюдается значительный перекрестный обмен мнениями между теми, кто изучает логический вывод на основе моделирования, и теми, кто изучает вероятностные модели в машинном обучении (ML) (4), а впечатляющий рост возможностей машинного обучения позволяет использовать новые подходы. Во-вторых, активное обучение - идея постоянного использования приобретенных знаний для управления симулятором - признается ключевой идеей для повышения эффективности выборки различных методов вывода.Третье направление исследований перестало рассматривать симулятор как черный ящик и сосредоточилось на интеграции, которая позволяет механизму вывода напрямую подключаться к внутренним деталям симулятора.

На фоне продолжающейся революции ситуация с логическим выводом на основе моделирования быстро меняется. В этом обзоре мы стремимся предоставить читателю общий обзор основных идей, лежащих в основе как старых, так и новых методов вывода. Вместо того, чтобы обсуждать алгоритмы в технических деталях, мы сосредотачиваемся на текущих границах исследований и комментируем некоторые текущие разработки, которые мы считаем особенно интересными.

Вывод на основе моделирования

Симуляторы.

Статистический вывод выполняется в контексте статистической модели, а при выводе на основе моделирования статистическая модель определяется самим имитатором. Для целей данной статьи имитатор - это компьютерная программа, которая принимает на вход вектор параметров θ, выбирает серию внутренних состояний или скрытых переменных zi∼pi (zi | θ, z

• • Параметры θ описывают лежащую в основе механистическую модель и, таким образом, влияют на вероятности перехода pi (zi | θ, z

• • Скрытые переменные z, которые появляются в процессе генерации данных, могут прямо или косвенно соответствовать физически значимому состоянию системы, но обычно это состояние ненаблюдаемо на практике. Структура скрытого пространства существенно различается между симуляторами. Скрытые переменные могут быть непрерывными или дискретными, а размерность скрытого пространства может быть фиксированной или может изменяться в зависимости от потока управления симулятора. Моделирование может свободно комбинировать детерминированные и стохастические шаги.Детерминированные компоненты симулятора могут быть дифференцируемыми или могут включать в себя элементы прерывистого потока управления. На практике некоторые симуляторы могут обеспечить удобный доступ к скрытым переменным, в то время как другие фактически являются черными ящиками. Любой симулятор может комбинировать эти различные аспекты практически любым способом.

• • Наконец, выходные данные x соответствуют наблюдениям. Они могут варьироваться от нескольких неструктурированных чисел до многомерных и высокоструктурированных данных, таких как изображения или геопространственная информация.

Например, процессы физики элементарных частиц часто зависят только от небольшого числа представляющих интерес параметров, таких как массы частиц или силы связи. Скрытый процесс сочетает в себе высокоэнергетическое взаимодействие, строго описываемое квантовой теорией поля, с прохождением образующихся частиц через невероятно сложный детектор, наиболее точно моделируемый стохастическим моделированием с миллиардами скрытых переменных. Эпидемиологическое моделирование может быть основано на сетевой структуре с геопространственными свойствами, а скрытый процесс состоит из множества повторяющихся структурно идентичных стохастических временных шагов.Напротив, космологическое моделирование эволюции Вселенной может состоять из сильно структурированного стохастического начального состояния, за которым следует плавная детерминированная временная эволюция.

Эти различия приводят к отсутствию универсального метода вывода. В этом обзоре мы стремимся прояснить соображения, необходимые для выбора наиболее подходящего подхода к данной проблеме.

Вывод.

Задачи научного вывода различаются в зависимости от того, что делается: учитывая наблюдаемые данные x, является ли цель вывести входные параметры θ или скрытые переменные z, или и то, и другое? Мы сосредоточимся на общей проблеме вывода θ в параметрической установке, мы прокомментируем методы, которые позволяют вывод по z, и мы не будем сосредотачиваться на непараметрических обратных задачах.(x) или расширен, чтобы включить вероятностное понятие неопределенности. В случае частотного анализа доверительные наборы часто формируются из тестов инвертирования гипотез, основанных на статистике теста отношения правдоподобия. В байесовском выводе цель обычно состоит в том, чтобы вычислить апостериорное значение p (θ | x) = p (x | θ) p (θ) / ∫ dθ′p (x | θ ′) p (θ ′) для наблюдаемых данных x и заданный априор p (θ). В обоих случаях функция правдоподобия p (x | θ) является ключевым ингредиентом.

Основная проблема для задач вывода на основе моделирования состоит в том, что функция правдоподобия p (x | θ), неявно определенная симулятором, обычно не поддается отслеживанию, поскольку она соответствует интегралу по всем возможным траекториям через скрытое пространство (т.е., все возможные следы исполнения тренажера). То есть p (x | θ) = ∫ dz p (x, z | θ), [1] где p (x, z | θ) - совместная плотность вероятности данных x и скрытых переменных z. Для реальных симуляторов с большими скрытыми пространствами явно невозможно вычислить этот интеграл в явном виде. Поскольку функция правдоподобия является центральным компонентом как частотного, так и байесовского вывода, это является серьезной проблемой для вывода во многих областях. В этой статье рассматриваются основанные на моделировании или вероятностные методы вывода, которые позволяют делать частотный или байесовский вывод, несмотря на эту сложность.Эти методы можно рассматривать как специализацию количественной оценки обратной неопределенности (UQ) параметров модели в ситуациях с точными стохастическими симуляторами.

На практике важным различием является различие между выводом, основанным на одном наблюдении, и выводом, основанным на нескольких независимых и одинаково распределенных (i.i.d.) наблюдениях. Во втором случае вероятность разлагается на отдельные составляющие вероятности для каждого i.i.d. наблюдение, поскольку p (x | θ) = ∏ipindividual (xi | θ).Например, данные временных рядов обычно не являются i.i.d. и его следует рассматривать как единичное наблюдение большой размерности, тогда как анализ данных о столкновениях при поиске бозона Хиггса представляет собой набор данных с множеством i.i.d. измерения. Это различие важно, когда речь идет о вычислительных затратах на метод вывода, так как вывод в i.i.d. Случай потребует многократных повторных оценок индивидуального индивидуума правдоподобия (xi | θ).

Традиционные методы.

Проблема вывода без поддающихся обработке вероятностей не нова, и для ее решения были разработаны два основных подхода.Пожалуй, наиболее известным является ABC (2, 3). До недавнего времени было установлено, что термины «вывод без правдоподобия» и «ABC» часто использовались как синонимы. В простейшей форме отклонения ABC параметры θ берутся из предыдущего, симулятор запускается с этими значениями для выборки xsim∼p (⋅ | θ), а θ сохраняется в качестве апостериорной выборки, если моделируемые данные достаточно близки к наблюдаемым данным. По сути, вероятность аппроксимируется вероятностью того, что выполняется условие ρ (xsim, xobs) <ρ, где ρ - некоторая мера расстояния, а ϵ - допуск.Принятые образцы затем следуют приблизительной версии апостериорного исследования. Мы показываем схематический рабочий процесс этого алгоритма на рис. 1 A (для более сложного алгоритма Монте-Карло цепи Маркова с функцией предложения).

В пределе ϵ → 0 вывод с помощью ABC становится точным, но для непрерывных данных вероятность принятия равна нулю. На практике малые значения ϵ требуют невероятно большого количества симуляций. Для больших эффективность выборки увеличивается за счет качества вывода.Точно так же эффективность выборки ABC плохо масштабируется для данных большой размерности x. Поскольку данные немедленно влияют на процесс отклонения (и в более продвинутых алгоритмах ABC на распределение предложений), вывод для новых наблюдений требует повторения всего алгоритма вывода. Таким образом, ABC лучше всего подходит для случая одного наблюдения или, самое большее, нескольких i.i.d. точки данных. Не имея места, чтобы отдать должное обширной литературе ABC, мы отсылаем читателя к обзору методов ABC, см. Исх. 5 и выделите комбинацию с цепью Маркова Монте-Карло (MCMC) (6) и последовательным Монте-Карло (SMC) (7, 8).

Второй классический подход к выводу на основе моделирования основан на создании модели правдоподобия путем оценки распределения смоделированных данных с помощью гистограмм или оценки плотности ядра (1). Тогда частотный и байесовский вывод происходит так, как если бы вероятность была поддающейся обработке. Мы схематически изображаем этот алгоритм на рис. 1 E (заменяя зеленый этап обучения классическим методом оценки плотности). Этот подход имеет достаточно сходства с ABC, чтобы авторы ссылки назвали его «приближенным частотным вычислением».9. Одним из преимуществ перед ABC является амортизация: после предварительных затрат на вычисления на этапе моделирования и оценки плотности новые точки данных могут быть эффективно оценены. На рис. 1 E это изображено синим полем «данных», вводимым только на этапе вывода и не влияющим на этап моделирования. Это свойство делает вывод на основе оценки плотности особенно подходящим для задач со многими i.i.d. наблюдения, что является основной причиной его широкого использования в измерениях физики элементарных частиц.

Оба традиционных подхода страдают от проклятия размерности: в худшем случае необходимое количество симуляций увеличивается экспоненциально с размерностью данных x. Следовательно, оба подхода полагаются на сводную статистику y (x) низкой размерности, а качество вывода зависит от того, насколько хорошо эти сводки сохраняют информацию о параметрах θ. Традиционно разработка мощной сводной статистики была задачей эксперта в предметной области, и сводная статистика предписывалась до вывода.

Границы вывода на основе моделирования.

Эти традиционные методы вывода, основанные на моделировании, уже много лет играют ключевую роль в нескольких областях. Однако они страдают недостатками в трех важных аспектах:

• • Эффективность выборки: количество смоделированных выборок, необходимое для обеспечения хорошей оценки вероятности или апостериорной вероятности, может быть чрезмерно дорогим.

• • Качество вывода: при сведении данных к сводной статистике низкого измерения неизменно отбрасывается некоторая информация в данных о θ, что приводит к потере статистической мощности.Большие значения параметра ϵ в ABC или параметра полосы пропускания для оценки плотности ядра приводят к плохой аппроксимации истинного правдоподобия. Оба снижают общее качество вывода.

• • Амортизация: Выполнение вывода с помощью ABC для нового набора наблюдаемых данных требует повторения большинства шагов цепочки вывода, в частности, если распределение предложения зависит от наблюдаемых данных. Метод плохо масштабируется при применении к большому количеству наблюдений. С другой стороны, вывод, основанный на оценке плотности, амортизируется: дорогостоящие в вычислительном отношении шаги не должны повторяться для новых наблюдений.Это особенно желательно в случае с i.i.d. наблюдения.

В последние годы стали доступны новые возможности, позволяющие улучшить все три этих аспекта. Мы условно сгруппируем их по трем основным направлениям развития:

• 1) Революция машинного обучения позволяет нам работать с данными более высокой размерности, что может улучшить качество вывода. Методы вывода, основанные на суррогатах нейронных сетей, напрямую выигрывают от впечатляющих темпов прогресса в глубоком обучении.

• 2) Методы активного обучения могут систематически повышать эффективность выборки, позволяя нам использовать более дорогие в вычислительном отношении симуляторы.

• 3) Глубокая интеграция автоматического дифференцирования и вероятностного программирования в код моделирования, а также дополнение обучающих данных информацией, которая может быть извлечена из симулятора, меняет способ обработки симулятора в выводе: больше не является черным ящиком, но подвергается процессу вывода.

Революция в машинном обучении.

За последнее десятилетие методы машинного обучения, в частности глубокие нейронные сети, превратились в универсальные, мощные и популярные инструменты для решения множества задач (10). Первоначально нейронные сети продемонстрировали прорыв в задачах контролируемого обучения, таких как классификация и регрессия. Их можно легко составлять для решения задач более высокого уровня, подстраиваясь под задачи с иерархической или композиционной структурой. Были разработаны архитектуры, адаптированные к различным структурам данных, включая плотные или полностью связанные сети, нацеленные на неструктурированные данные, сверточные нейронные сети, которые используют пространственную структуру, например, в данных изображения, рекуррентные нейронные сети для последовательностей переменной длины и нейронные сети на графах для графов. структурированные данные.Выбор архитектуры, хорошо подходящей для конкретной структуры данных, является примером индуктивного смещения, которое в более общем плане относится к предположениям, присущим алгоритму обучения, независимому от данных. Индуктивная предвзятость - одна из ключевых составляющих наиболее успешных приложений глубокого обучения, хотя трудно точно охарактеризовать ее роль.

Одной из областей, где активно развиваются нейронные сети, является оценка плотности в больших измерениях: для заданного набора точек {x} ∼p (x) цель состоит в том, чтобы оценить плотность вероятности p (x).Поскольку явных ярлыков нет, это обычно считается задачей обучения без учителя. Мы уже обсуждали, что классические методы, основанные, например, на гистограммах или оценке плотности ядра, плохо масштабируются для данных большой размерности. В этом режиме все более популярными становятся методы оценки плотности на основе нейронных сетей. Одним из классов этих методов оценки нейронной плотности являются нормализующие потоки (11⇓⇓⇓⇓⇓⇓⇓⇓⇓⇓⇓⇓⇓⇓ – 26), в которых переменные, описываемые простым базовым распределением p (u), например многомерным гауссовским, являются преобразованный через параметризованное обратимое преобразование x = gϕ (u), которое имеет уступчивый якобиан.Тогда целевая плотность pg (x) определяется формулой замены переменных как произведение базовой плотности и определителя якобиана преобразования. Несколько таких шагов могут быть объединены, при этом плотность вероятности «течет» через последовательные преобразования переменных. Параметры ϕ преобразований обучаются путем максимизации правдоподобия наблюдаемых данных в рамках модели pg (xobs), что приводит к плотности модели, которая приближается к истинной, неизвестной плотности p (x). Помимо регулируемой плотности, можно генерировать данные из модели, извлекая скрытые переменные u из базового распределения и применяя преобразования потока.Оценщики нейронной плотности были обобщены для моделирования зависимости от дополнительных входных данных, то есть для моделирования условной плотности, такой как вероятность p (x | θ) или апостериорная p (θ | x).

Генеративные состязательные сети (GAN) - это альтернативный тип генеративной модели, основанный на нейронных сетях. В отличие от нормализующих потоков преобразование, реализуемое генератором, не ограничивается обратимостью. Хотя это обеспечивает большую выразительность, плотность, определяемая генератором, непреодолима.Поскольку максимальная вероятность не является возможной целью обучения, генератор настраивается против злоумышленника, роль которого заключается в том, чтобы отличать сгенерированные данные от целевого распределения. Позже мы обсудим, как ту же идею можно использовать для вывода на основе моделирования, используя идею, известную как «трюк отношения правдоподобия».

Активное обучение.

Простая, но очень эффективная идея - запустить симулятор в точках параметров θ, которые, как ожидается, максимально увеличат наши знания.Это можно делать итеративно, так что после каждого моделирования информация, полученная в результате всех предыдущих прогонов, используется для определения того, какую точку параметра следует использовать в следующий раз. Есть несколько технических реализаций идеи активного обучения. Он обычно применяется в байесовской настройке, где апостериорные данные могут постоянно обновляться и использоваться для управления предложенным распределением параметров симулятора (27⇓⇓⇓⇓⇓ – 33). Но это также хорошо применимо к эффективному вычислению частотных доверительных наборов (34⇓ – 36).Даже простая реализация может привести к существенному повышению эффективности выборки.

Подобные идеи обсуждаются в контексте принятия решений, экспериментального проектирования и обучения с подкреплением, и мы ожидаем дальнейших улучшений в алгоритмах вывода от перекрестного опыления между этими областями. Например, вопрос, который время от времени обсуждается в контексте обучения с подкреплением (37, 38) или байесовской оптимизации (39), но еще не применялся к параметрам без вероятности, заключается в том, как использовать симуляторы множественности, предлагающие несколько уровни точности или приближения.

Интеграция и расширение.

Как машинное обучение, так и активное обучение могут существенно улучшить качество вывода и эффективность выборки по сравнению с классическими методами. Однако в целом они не меняют кардинально базовый подход к выводу на основе моделирования: они по-прежнему рассматривают симулятор как генеративный черный ящик, который принимает параметры в качестве входных данных и предоставляет данные в качестве выходных, с четким разделением между имитатором и механизмом логического вывода. Третье направление исследований - это изменение этой точки зрения путем открытия черного ящика и более тесной интеграции вывода и моделирования.

Одним из примеров этого сдвига является парадигма вероятностного программирования. Гордон и др. (40) описывают вероятностные программы как обычные функциональные или императивные программы с двумя добавленными конструкциями: 1) способность извлекать значения случайным образом из распределений и 2) способность обусловливать значения переменных в программе посредством наблюдений. Мы уже описали симуляторы как вероятностные программы, ориентированные на первую конструкцию, которая не требует открытия черного ящика. Однако обусловливание наблюдений требует более глубокой интеграции, поскольку включает в себя контроль случайности в процессе генерации.Этот подход абстрагирует возможности, необходимые для реализации фильтров частиц и SMC (41). Раньше для этого требовалось писать программу на специальном языке; однако недавние работы позволяют добавлять эти возможности к существующим симуляторам с минимальными изменениями в их кодовой базе (42). В конечном итоге вероятностное программирование направлено на предоставление инструментов для вывода невероятно сложного пространства всех следов выполнения симулятора, обусловленного наблюдением.

Дополнительным развитием является наблюдение, что дополнительная информация, характеризующая процесс генерации скрытых данных, может быть извлечена из симулятора и использоваться для увеличения данных, используемых для обучения суррогатов.Тем, кто разрабатывает алгоритмы вывода, и тем, кто знаком с деталями симулятора, следует подумать о том, являются ли, помимо единственной возможности выборки x∼p (x | θ), следующими величинами хорошо определенными и управляемыми:

• 1) p (x | z, θ)

• 2) t (x, z | θ) ≡∇θ⁡log⁡p (x, z | θ)

• 3) ∇z⁡log⁡p (x, z | θ)

• 4) r (x, z | θ, θ ′) ≡p (x, z | θ) / p (x, z | θ ′)

• 5) ∇θ (x , z)

• 6) ∇zx.

Эти величины затем можно использовать для увеличения обычного вывода x симулятора и использовать в целях обучения с учителем, что может значительно повысить эффективность выборки для суррогатного обучения (43⇓ – 45), как мы подробно рассмотрим позже.

Многие из приведенных выше величин включают производные, которые теперь можно эффективно вычислить с помощью автоматического дифференцирования (часто называемого просто автодифференцированием) (46). Autodiff - это семейство методов, аналогичных алгоритму обратного распространения ошибки, но более общему, чем алгоритм обратного распространения ошибки, который повсеместно используется в глубоком обучении. Автоматическое дифференцирование, как и вероятностное программирование, включает нестандартные интерпретации кода моделирования и было разработано небольшой, но устоявшейся областью компьютерных наук.В последние годы несколько исследователей высказались за то, чтобы глубокое обучение лучше описывать как дифференциальное программирование (47, 48). С этой точки зрения включение autodiff в существующие коды моделирования - более прямой способ использовать достижения в области глубокого обучения, чем попытки включить знания предметной области в совершенно чужеродный субстрат, такой как глубокая нейронная сеть.

Для извлечения необходимой информации из симулятора снова требуется глубокая интеграция в коде. В то время как технологии для включения парадигмы вероятностного программирования в существующие кодовые базы только появляются, разработка инструментов для включения autodiff в наиболее часто используемых языках научного программирования далеко продвинулась.Мы подчеркиваем, что две из перечисленных выше величин (величины 2 и 3) включают как автодифференциальное, так и вероятностное программирование. Интеграция логического вывода и моделирования, а также идея дополнения обучающих данных дополнительными величинами потенциально могут изменить то, как мы думаем о выводе на основе моделирования. В частности, эта перспектива может повлиять на способ разработки кодов моделирования для обеспечения этих новых возможностей.

Рабочие процессы для вывода на основе моделирования

Этот широкий спектр возможностей можно комбинировать в различных рабочих процессах вывода.В качестве ориентира для этого множества различных рабочих процессов давайте сначала обсудим общие строительные блоки и различные подходы, которые можно использовать в каждом из этих компонентов. На рис. 1 и в следующих разделах мы затем объединим эти блоки в разные алгоритмы вывода.

Неотъемлемой частью всех методов вывода является запуск симулятора, представленного в виде желтого пятиугольника на рис. 1. Параметры, при которых запускается симулятор, взяты из некоторого распределения предложений, которое может зависеть или не зависеть от предыдущего в Байесовская настройка, которую можно выбрать статически или итеративно с помощью активного метода обучения.Затем потенциально многомерные выходные данные симулятора могут использоваться непосредственно в качестве входных данных для метода вывода или сводиться к сводной статистике низкой размерности.

Методы вывода можно в целом разделить на те, которые, как и ABC, используют сам симулятор во время вывода, и методы, которые создают суррогатную модель и используют ее для вывода. В первом случае выходные данные симулятора напрямую сравниваются с данными (Рис. 1 A – D ). В последнем случае выходные данные симулятора используются в качестве обучающих данных для этапа оценки или машинного обучения, что показано зелеными прямоугольниками на рис.1 E - H . Полученные суррогатные модели, показанные в виде красных шестиугольников, затем используются для вывода.

Алгоритмы решают проблему неразрешимости истинного правдоподобия по-разному: одни методы конструируют поддающийся обработке суррогат для функции правдоподобия, а другие - для функции отношения правдоподобия, причем оба метода упрощают частотный вывод. В других методах функция правдоподобия никогда не появляется явно, например, когда она неявно заменяется вероятностью отклонения.

Конечная цель байесовского вывода - апостериорная. Методы различаются тем, предоставляют ли они доступ к выборкам точек параметров, выбранных из апостериорной, например, из MCMC или ABC, или управляемой функции, которая аппроксимирует апостериорную функцию. Точно так же некоторые методы требуют указания количества, которое должно быть выведено на ранней стадии рабочего процесса, в то время как другие позволяют отложить это решение.

Использование симулятора непосредственно во время вывода.

Давайте теперь обсудим, как эти блоки и вычислительные возможности могут быть объединены в методы вывода, начиная с тех, которые, как и ABC, используют симулятор непосредственно во время вывода.Набросок некоторых из этих алгоритмов представлен на рис. 1 A – D .

Причина низкой эффективности выборки исходного алгоритма отклонения ABC заключается в том, что симулятор запускается в точках параметров, взятых из предыдущего, которые могут иметь большую массу в регионах, которые сильно не согласуются с наблюдаемыми данными. Были предложены различные алгоритмы, которые вместо этого запускают симулятор в точках параметров, которые, как ожидается, улучшат знания в наибольшей степени (27⇓⇓⇓ – 31). По сравнению с обычным ABC, эти методы повышают эффективность выборки, хотя они по-прежнему требуют выбора сводной статистики, меры расстояния ρ и допуска.

В случае, когда последний этап симулятора управляем или симулятор дифференцируем (соответственно, свойства 1 и 6 из списка в Integration and Augmentation ), асимптотически точный байесовский вывод возможен (43), не полагаясь на допуск на расстояние или сводная статистика, устраняющая основные ограничения ABC с точки зрения качества вывода.

Парадигма вероятностного программирования представляет собой более фундаментальное изменение способа выполнения вывода.Во-первых, симулятор должен быть написан на вероятностном языке программирования, хотя недавние работы позволяют добавлять эти возможности к существующим симуляторам с минимальными изменениями в их кодовой базе (42). Кроме того, вероятностное программирование требует либо поддающейся обработке правдоподобия для последнего шага p (x | z, θ) (величина 1), либо введения сравнения в стиле ABC. Когда эти критерии удовлетворяются, существует несколько алгоритмов вывода, которые могут извлекать выборки из апостериорных p (θ, z | x) входных параметров θ и скрытых переменных z с учетом некоторых наблюдаемых данных x.Эти методы основаны либо на MCMC (рис. 1 C ), либо на обучении нейронной сети для предоставления распределений предложений (49), как показано на рис. 1 D . Ключевое отличие от ABC заключается в том, что механизм вывода контролирует все этапы выполнения программы и может смещать каждый отбор случайных скрытых переменных, чтобы моделирование с большей вероятностью соответствовало наблюдаемым данным, повышая эффективность выборки.

Сильной стороной этих алгоритмов является то, что они позволяют нам вывести не только входные параметры в симулятор, но и весь скрытый процесс, ведущий к конкретному наблюдению.Это позволяет нам отвечать на совершенно разные вопросы о научных процессах, добавляя особую физическую интерпретируемость, которой не обладают методы, основанные на суррогатах. В то время как стандартные алгоритмы ABC в принципе позволяют делать выводы о z, вероятностное программирование решает эту задачу более эффективно.

Суррогатные модели.

Ключевым недостатком использования симулятора непосредственно во время вывода является отсутствие амортизации. Когда становятся доступными новые наблюдаемые данные, необходимо повторить всю цепочку вывода.При обучении послушного суррогата или эмулятора для симулятора вывод амортизируется: после предварительного моделирования и фазы обучения новые данные могут быть оценены очень эффективно. Этот подход особенно хорошо масштабируется для данных, состоящих из множества i.i.d. наблюдения. Как обсуждалось в Традиционные методы , это не новая идея, и хорошо зарекомендовавшие себя методы используют классические методы оценки плотности для создания суррогатной модели для функции правдоподобия. Но новые вычислительные возможности, обсуждаемые в Simulation-Based Inference , придали новый импульс этому классу методов вывода, некоторые из которых визуализированы на рис.1 E – H .

Мощный вероятностный подход заключается в обучении нейронных средств оценки условной плотности, таких как нормализация потоков, в качестве суррогата для симулятора. Условная плотность может быть определена в двух направлениях: сеть может изучать апостериорное значение p (θ | x) (32, 50⇓⇓⇓ – 54) или вероятность p (x | θ) (33, 55⇓ – 57). . Мы показываем эти три метода на рис. 1 E и F ; Обратите внимание, что алгоритм суррогата правдоподобия структурно идентичен классическому подходу, основанному на оценке плотности, но использует более мощные методы оценки плотности.

Соответственно, нейронные сети можно обучить изучать функцию отношения правдоподобия p (x | θ0) / p (x | θ1) или p (x | θ0) / p (x), где в последнем случае знаменатель дается маржинальной моделью, интегрированной по предложению или предшествующему (4, 58–65). Набросок этого подхода представлен на рис. 1 G . Ключевая идея тесно связана с дискриминаторной сетью в GAN, упомянутой выше: классификатор обучается с использованием контролируемого обучения для различения двух наборов данных, хотя в этом случае оба набора поступают из симулятора и генерируются для разных точек параметров θ0 и θ1.Выходную функцию классификатора можно преобразовать в приближение отношения правдоподобия между θ0 и θ1! Это проявление леммы Неймана – Пирсона в условиях машинного обучения часто называют трюком отношения правдоподобия.

Эти три подхода, основанные на суррогатах, амортизируются: после предварительного моделирования и фазы обучения суррогаты могут быть эффективно оценены для произвольных данных и точек параметров. Они требуют предварительной спецификации интересующих параметров, а затем сеть неявно уступает место всем остальным (скрытым) переменным в симуляторе.Все три класса алгоритмов могут использовать элементы активного обучения, такие как итеративно обновляемое распределение предложений, чтобы направлять параметры симулятора θ к соответствующей области параметров, повышая эффективность выборки. Использование нейронных сетей устраняет необходимость в сводной статистике низкого уровня, оставляя на усмотрение используемой модели изучение структур в данных высокой размерности и потенциально улучшающее качество вывода.

Несмотря на эти фундаментальные сходства, есть некоторые различия между имитацией вероятности, отношением правдоподобия и апостериорной вероятностью.Непосредственное изучение апостериорного вывода обеспечивает основную целевую величину в байесовском выводе, но вызывает априорную зависимость на каждом этапе метода вывода. Изучение правдоподобия или отношения правдоподобия позволяет делать частотный вывод или сравнения моделей, хотя для байесовского вывода необходим дополнительный шаг MCMC или количество 6 для генерации выборок из апостериорного анализа. Априорная независимость оценок правдоподобия или отношения правдоподобия также приводит к дополнительной гибкости для изменения априорной оценки во время вывода.Преимущество обучения генеративной модели для аппроксимации вероятности или апостериорной вероятности по сравнению с обучением функции отношения правдоподобия заключается в дополнительной функциональности возможности выборки из суррогатной модели. С другой стороны, изучение вероятности или апостериорного обучения является проблемой обучения без учителя, тогда как оценка отношения правдоподобия с помощью классификатора является примером обучения с учителем и часто является более простой задачей. Поскольку для цели вывода более высокого уровня вероятность и отношение правдоподобия могут использоваться взаимозаменяемо, изучение суррогата для функции отношения правдоподобия часто может быть более эффективным.

Другая стратегия, которая позволяет нам использовать контролируемое обучение, основана на извлечении дополнительных величин из симулятора, которые характеризуют вероятность скрытого процесса (например, количества 2 и 4 из списка в Integration and Augmentation ). Эту дополнительную информацию можно использовать для пополнения обучающих данных для суррогатных моделей. Результирующая задача контролируемого обучения часто может быть решена более эффективно, в конечном итоге повышая эффективность выборки в задаче вывода (9, 44, 45, 66).

Подходы, основанные на суррогатах, выигрывают от введения подходящего индуктивного смещения для данной проблемы. Широко признано, что сетевая архитектура нейронного суррогата должна выбираться в соответствии со структурой данных (например, изображениями, последовательностями или графиками). Другой, потенциально более значимый способ навязать индуктивное смещение состоит в том, чтобы суррогатная модель отражала причинную структуру симулятора. Определение соответствующих структур вручную и проектирование соответствующих суррогатных архитектур очень сильно зависит от предметной области, хотя, как было показано, улучшает производительность при решении некоторых проблем (67–69).Недавно были предприняты попытки автоматизировать процесс создания суррогатов, имитирующих моделирование (70). Заглядывая дальше, мы хотели бы изучить суррогаты, которые отражают причинную структуру грубой системы. Если это возможно, это позволит суррогату моделировать только соответствующие степени свободы для явлений, которые возникают из лежащей в основе механистической модели.

Предварительная и постобработка.

Существует ряд дополнительных шагов, которые могут окружать эти основные алгоритмы вывода, либо в форме шагов предварительной обработки, которые предшествуют основному этапу вывода, либо в виде дожигания после основного шага вывода.

Один из этапов предварительной обработки - изучение мощных сводок y (x). Из-за проклятия размерности и ABC, и классические методы вывода, основанные на оценке плотности, требуют сжатия данных в сводную статистику низкого уровня. Обычно они назначаются (т. Е. Выбираются вручную учеными в предметной области на основе их интуиции и знания проблемы), но итоговые сводки обычно теряют некоторую информацию по сравнению с исходными данными. Минимально инвазивное расширение этих алгоритмов состоит в том, чтобы сначала изучить сводную статистику, которая имеет определенные свойства оптимальности, перед запуском стандартного алгоритма вывода, такого как ABC.Мы набросали этот подход на рис. 1 B для ABC, но он в равной степени применим к выводу, основанному на оценке плотности.

Оценка t (x | θ) ≡∇θp (x | θ), градиент логарифмического (маргинального) правдоподобия по отношению к интересующим параметрам, определяет такой вектор оптимальной суммарной статистики: В окрестности θ компоненты оценки представляют собой достаточную статистику, и их можно использовать для вывода без потери информации. Как и вероятность, оценка сама по себе, как правило, не поддается обработке, но ее можно оценить на основе величины 5 и экспоненциального семейного приближения (71, 72).Если доступно количество 2, вместо этого можно использовать расширенные данные, извлеченные из симулятора, для обучения нейронной сети для оценки оценки (44), не требуя такого приближения. Полученные сводки также можно сделать устойчивыми по отношению к мешающим параметрам (73, 74).

Даже если нет необходимости сводить данные к сводной статистике низкого уровня, в некоторых полях измеренные необработанные или «низкоуровневые» данные могут быть очень многомерными. В таком случае обычной практикой является их сжатие до более управляемого набора «высокоуровневых» функций умеренной размерности и использование этих сжатых данных в качестве входных данных для рабочего процесса вывода.

Компиляция вывода (49) - это этап предварительной обработки для алгоритмов вероятностного программирования, показанный на рис. 1 D . Первоначальные прогоны симулятора используются для обучения нейронной сети, используемой для последовательной выборки по важности как θ, так и z.

После завершения основного рабочего процесса вывода возникает важный вопрос, являются ли результаты надежными: можно ли доверять результату при наличии недостатков, таких как ограниченный размер выборки, недостаточная пропускная способность сети или неэффективная оптимизация?

Одно из решений - откалибровать результаты логического вывода.Используя способность симулятора генерировать данные для любой точки параметра, мы можем использовать параметрический подход начальной загрузки для расчета распределения любой величины, участвующей в рабочем процессе вывода. Эти распределения можно использовать для калибровки процедуры вывода, чтобы обеспечить наборы достоверности и апостериорные данные с надлежащим охватом и достоверностью (9, 60). Хотя такие процедуры в принципе возможны, они могут потребовать большого количества симуляций. Другие диагностические инструменты, которые могут применяться в конце этапа вывода, включают обучающие классификаторы для различения данных суррогатной модели и истинного симулятора (60), проверки самосогласованности (9, 60), методы ансамбля и сравнение распределений сети. вывод против известных асимптотических свойств (75⇓ – 77).Некоторые из этих методов могут использоваться для оценки неопределенности, хотя статистическая интерпретация таких планок погрешностей не всегда очевидна.

Ни одна из этих диагностических программ не решает проблемы, возникающие, если модель указана неправильно, а симулятор не является точным описанием изучаемой системы. Ошибочная спецификация модели - это проблема, которая в равной степени затрудняет вывод как предписанных, так и неявных моделей. Обычно это решается путем расширения модели для большей гибкости и введения дополнительных мешающих параметров.

Рекомендации.

Соображения, необходимые для выбора, какой из описанных выше подходов лучше всего подходит для данной проблемы, будут включать цели вывода, размерность параметров модели, скрытые переменные и данные; доступна ли хорошая сводная статистика; внутреннее устройство тренажера; вычислительная стоимость тренажера; уровень контроля за запуском симулятора; и является ли имитатор «черным ящиком», и можно ли извлечь из него какие-либо величины, обсуждаемые в документе «Интеграция и расширение» .Тем не менее, мы считаем, что существующие исследования позволяют нам дать несколько общих рекомендаций.

Во-первых, если доступны какие-либо из величин, обсуждаемых в Границы вывода на основе моделирования , их следует использовать. Доступны мощные алгоритмы для случая с дифференцируемыми симуляторами (43), для симуляторов, для которых доступна совместная вероятность данных и скрытых переменных (44), и для симуляторов, явно написанных как вероятностная модель в рамках вероятностного программирования (78).Вероятностное программирование также является наиболее универсальным подходом, когда целью является не только вывод по параметрам θ, но также вывод по скрытым переменным z.

Если установлены мощные сводные низкоразмерные статистические данные, традиционные методы все равно могут предложить приемлемую производительность. Однако в большинстве случаев мы рекомендуем попробовать методы, основанные на обучении суррогата нейронной сети для вероятности (33, 56) или отношения правдоподобия (60, 62, 64). Если создание синтетических данных из суррогата не важно, изучение отношения правдоподобия, а не правдоподобия, позволяет нам использовать мощные контролируемые методы обучения.

Наконец, методы активного обучения могут повысить эффективность выборки для всех методов вывода. Существует компромисс между активным обучением, которое адаптирует эффективность к конкретному наблюдаемому набору данных, и амортизацией, которая выигрывает от суррогатов, которые не зависят от наблюдаемых данных. Хороший компромисс здесь будет зависеть от количества наблюдений и резкости заднего обзора по сравнению с предыдущим.

LTspice: ускорение моделирования

LTspice разработан с нуля для быстрого моделирования схем, но в некоторых моделированиях есть запас для увеличения скорости.Обратите внимание, что при использовании описанных здесь методов возможны компромиссы в отношении точности. Дополнительные сведения о любом из этих подходов см. В файле справки LTspice (F1). Чтобы измерить влияние ваших изменений, просмотрите время моделирования в журнале ошибок LTspice (Ctrl + L).

Уменьшите время, необходимое для моделирования импульсного источника питания (SMPS), сократив линейное изменение напряжения на выходе, изменив значение конденсатора плавного пуска. Перед тем как сделать это, убедитесь, что вы хорошо разбираетесь в пусковых характеристиках источника питания.Затем уменьшите емкость конденсатора плавного пуска - используя 0,001 мкФ вместо значения по умолчанию 0,1 мкФ - для быстрого перехода к желаемому выходному напряжению.

Обратите внимание, что конденсатор плавного пуска не следует уменьшать до точки, при которой возрастающий выходной сигнал позволяет выводу V _C / I _TH выходить за пределы своей номинальной контрольной точки и спускаться дальше, чтобы остановить выброс.

Задержка приложения нагрузки к источнику питания

Еще один эффективный метод ускорения моделирования SMPS - задержка приложения нагрузки с помощью переключателя, управляемого напряжением (SW).При использовании переключателя, который включает основную нагрузку, когда выходное напряжение приближается к норме (или в известное время), вся выходная энергия SMPS идет на зарядку больших выходных конденсаторов до включения нагрузки. Пусковое сопротивление и сопротивление основной нагрузки также могут быть заключены в Ron и Roff из описания модели SW, а не с использованием отдельных резисторов.

Более простой подход может быть достигнут с использованием токовой нагрузки, сконфигурированной с импульсной функцией.

Установите начальные условия

Аналогичным образом может быть эффективным использование.ic spice, чтобы установить начальные условия для выбранных узлов. Например, укажите начальное напряжение на выходе, чтобы оно было близко к стабилизации при запуске моделирования. Точно так же вы можете указать напряжение в узле компенсации, чтобы исключить начальное падение при запуске.

.ic V (выход) = 11 В (vc) = 1

Уменьшите объем данных анализа переходных процессов

Обычно анализ переходных процессов LTspice начинается в момент времени = 0. Вы можете отредактировать команду симуляции .trans «Время для начала сохранения данных», чтобы отложить сохранение до более позднего интересующего времени, тем самым уменьшив общее время симуляции.Конечно, это предполагает, что вам не нужны исходные точки данных, которые не сохраняются.

В качестве альтернативы, если вас интересуют только напряжения нескольких узлов и токи устройств, вы можете ограничить количество сохраняемых данных с помощью директивы .save, чтобы сохранить только эти конкретные напряжения узлов и токи устройств. В директиве добавьте параметр «диалоговое окно» для отображения всех доступных узлов и токов, чтобы вы могли сохранить дополнительные интересующие данные.

. Сохранить V (выход) I (L1) V (вход) диалоговое окно

Решение для пропуска начальной рабочей точки

Иногда вы замечаете, что моделирование остается в «Анализе псевдопереходных процессов с затуханием» в течение длительного периода времени (информацию о состоянии моделирования см. В нижнем левом углу окна).Обычно это происходит, когда ищется решение постоянного тока, чтобы найти рабочую точку цепи. Если это приемлемо для вашей симуляции, вы можете нажать Esc, чтобы пропустить поиск начальной рабочей точки и продолжить симуляцию. Точно так же вы также можете «Пропустить решение для начальной рабочей точки», отредактировав команду моделирования.

Если вы предпочитаете сохранять трудную для решения рабочую точку постоянного тока, вы можете использовать команду .savebias, чтобы сохранить предпочтительное решение в файл при начальном моделировании, а затем в последующих симуляциях использовать расширение.loadbias, чтобы быстро найти решение постоянного тока перед продолжением остальной части моделирования.

Используйте директиву .savebias в начальном моделировании:

.savebias filename.txt внутреннее время = 10 мин.

Используемые .loadbias в последующих симуляциях:

.loadbias filename.txt

Преобразование в формат быстрого доступа при просмотре сигналов

Для поддержания высокой скорости моделирования LTspice использует сжатый двоичный формат файла, который позволяет быстро добавлять дополнительные данные моделирования на лету.Однако после завершения моделирования этот формат не является оптимальным для просмотра формы сигнала. Чтобы ускорить построение формы сигнала после завершения моделирования, преобразуйте файл в альтернативный формат «Быстрый доступ». Щелкните в окне формы сигнала и выберите «Файлы»> «Преобразовать в быстрый доступ». Это также можно реализовать с помощью директивы fastaccess .option:

.option fastaccess

Важно отметить, что в некоторых симуляциях это преобразование может занять больше времени, чем реальное моделирование.

из итеративного моделирования с использованием нескольких последовательностей в JSTOR

Сэмплер Гиббса, алгоритм Метрополиса и аналогичные методы итеративного моделирования потенциально очень полезны для суммирования многомерных распределений. Однако при наивном использовании итеративное моделирование может дать неверные ответы. Наши методы просты и обычно применимы к выходным данным любого итеративного моделирования; они предназначены для исследователей, в первую очередь интересующихся наукой, лежащей в основе данных и моделей, которые они анализируют, а не для исследователей, интересующихся теорией вероятности, лежащей в основе самих итерационных симуляций.Наша рекомендуемая стратегия - использовать несколько независимых последовательностей, с начальными точками, взятыми из сверхдисперсного распределения. На каждом этапе итеративного моделирования мы получаем для каждой одномерной оценки и представляющую интерес оценку распределения и оценку того, насколько точнее может стать оценка распределения, если моделирование будет продолжаться бесконечно. Поскольку наше внимание сосредоточено на прикладном выводе для байесовских апостериорных распределений в реальных задачах, которые часто имеют тенденцию к нормальности после преобразований и маргинализации, мы получаем наши результаты как приближения нормальной теории к точному байесовскому выводу, обусловленные наблюдаемым моделированием.Методы проиллюстрированы на модели смеси случайных эффектов, применяемой к экспериментальным измерениям времени реакции нормальных пациентов и пациентов с шизофренией.

Цель статистической науки - представить полный спектр современная статистическая мысль на техническом уровне, доступном широкому кругу лиц. сообщество практиков, учителей, исследователей и студентов, изучающих статистику и вероятность. В журнале публикуются обсуждения методологических и теоретических тем. актуальные и актуальные, обзоры основных областей исследований с перспективными статистическими приложениями, подробными обзорами книг, обсуждениями классических статей из статистической литературы и интервью с известными статистики и вероятностники.

Целью Института математической статистики (IMS) является содействие развитие и распространение теории и приложений статистики и вероятность. Институт сформирован на встрече заинтересованных лиц. 12 сентября 1935 года в Анн-Арборе, штат Мичиган, вследствие чувства что теория статистики будет продвинута с образованием организации тех, кто особенно интересуется математическими аспектами предмета.Летопись статистики и Анналы вероятности (которые заменяют "Анналы математической статистики"), Статистические Наука и Анналы прикладной вероятности - это научные журналы института.