Зависимость от размера ансамбля методов постобработки глубокого обучения, которые минимизируют (не)справедливый балл: мотивационные примеры и доказательство концепции решения
Изображение создано Gemini AI
Статья обсуждает проблемы использования скорректированного непрерывного рангового вероятностного показателя (aCRPS) для обучения ансамблевым прогнозам, особенно когда вводятся структурные зависимости между членами ансамбля. Выделяются два проблемных подхода: линейная калибровка членов и метод глубокого обучения, который может вызывать проблемы с переоценкой дисперсии. Авторы предлагают "трассировочные трансформеры", адаптируя структуру PoET для поддержания условной независимости в прогнозах. Этот метод эффективно снижает систематические смещения и улучшает надежность недельных прогнозов средней температуры от системы ECMWF, независимо от размера ансамбля (3 против 9 членов на этапе обучения; 9 против 100 в реальном времени).
Новое исследование подчеркивает зависимость эффективности от размера ансамбля в методах постобработки глубокого обучения
Недавние открытия показывают, что эффективность некоторых методов постобработки глубокого обучения в ансамблевом прогнозировании может значительно зависеть от размера ансамбля. Исследование сосредоточено на справедливых оценках, в частности, на скорректированном непрерывном ранговом вероятностном счете (aCRPS), который предназначен для оценки ансамблевых прогнозов без предвзятости в отношении размера ансамбля.
В исследовании рассматриваются два подхода, направленных на минимизацию ожидаемого aCRPS для конечных ансамблей:
- Линейная калибровка по членам ансамбля: Этот метод связывает члены ансамбля через общую зависимость от среднего значения выборки ансамбля.
- Глубокое обучение с самообращением трансформеров: Эта техника связывает членов ансамбля, используя механизмы самообращения по всей размерности ансамбля.
Оба метода продемонстрировали чувствительность к размеру ансамбля, что указывает на то, что улучшения в aCRPS могут быть обманчивыми, часто сопровождаясь систематической ненадежностью и чрезмерной дисперсией в прогнозах.
Траектория трансформеров как решение
Чтобы решить эти проблемы, исследователи представили траектории трансформеров, адаптацию концепции "Постобработка ансамблей с трансформерами" (PoET). Этот подход использует самообращение на разных временных отрезках, сохраняя необходимую условную независимость для оценок aCRPS.
Примененные к недельным прогнозам средней температуры на высоте 2 метров из подсистемы субмесячного прогнозирования ECMWF, траектории трансформеров эффективно уменьшили систематические смещения модели и улучшили надежность прогнозов, независимо от размера ансамбля, используемого в обучении.
Связанные темы:
📰 Первоисточник: https://arxiv.org/abs/2602.15830v1
Все права и авторство принадлежат первоначальному издателю.