"Записки научных семинаров ПОМИ"
Том 540, стр. 132-147
Оценка максимального уровня шума в задачах черного ящика
А. Лобанов, А. Гасников
Moscow Institute of Physics and Technology, Dolgoprudny, Russia;
Skolkovo Institute of Science and Technology;
ISP RAS Research Center for Trusted Artificial Intelligence, Moscow, Russia
lobanov.av@mipt.ru
Moscow Institute of Physics and Technology, Dolgoprudny, Russia;
Innopolis University, Innopolis, Russia;
Steklov Mathematical Institute of RAS, Moscow, Russia
gasnikov.av@mipt.ru
- Аннотация:
В задачах оптимизации черного ящика точная оценка максимального
уровня шума имеет ключевое значение для обеспечения надежной работы.
В настоящей работе предлагается новый подход к улучшению оценки
максимального уровня шума, сосредоточенный на сценариях,
где доступны только значения функции, возможно, с ограниченным
состязательным шумом. Используя безградиентные алгоритмы оптимизации,
мы вводим новое ограничение на шум, основанное на предположении о липшицевости,
что позволяет улучшить оценку уровня шума (или улучшить уровень ошибки)
для негладких и выпуклых функций. Теоретический анализ и численные
эксперименты демонстрируют эффективность нашего подхода, даже для гладких
и выпуклых функций. Данное достижение способствует повышению надежности
и эффективности алгоритмов оптимизации черного ящика в различных областях,
таких как машинное обучение и проектирование инженерных систем,
где состязательный шум представляет значительную проблему.
Библ. -- 32 назв.
- Ключевые слова: оценка уровня шума, оптимизация черного ящика, состязательный шум
[noise level estimation, black-box optimization, adversarial noise]
Полный текст(.pdf)