Алгоритм секантной оптимизации для эффективной глобальной оптимизации

Более умный поиск для сложных задач

От разработки более чистых солнечных панелей до обучения точных систем распознавания изображений — многие современные задачи сводятся к одному: поиску хорошего решения в огромном пространстве возможностей. В этой статье представлен алгоритм секантной оптимизации (SOA) — новый способ проводить такой поиск более эффективно. Вдохновлённый классической идеей из анализа, но адаптированный к шумным, реальным данным, SOA стремится быть одновременно быстрым и надёжным там, где традиционные методы испытывают трудности.

Почему оптимизации нужны новые идеи

Современные инженерные и задачки в области данных часто включают десятки или сотни регулируемых параметров, множественные цели и запутанные зависимости, которые трудно выразить простыми формулами. Классические методы, использующие точные градиенты, такие как метод наискорейшего спуска, могут давать сбои, когда ландшафт функции шероховат, полон локальных ловушек или когда производные вычислить трудно или невозможно. В ответ исследователи разработали «метаэвристические» алгоритмы, имитирующие природу, физику или математические приёмы для исследования таких сложных пространств. Эти методы, например генетические алгоритмы или оптимизаторы-стая, показали себя универсальными, но по-прежнему сталкиваются с компромиссом между широким разведением и точным сужением.

Превращение трюка из учебника в поисковый движок

Суть SOA — в секантном методе, старом численном приёме для нахождения нулей функции без явного использования производных. Вместо вычисления наклона через исчисление секантный метод проводит прямую между двумя близкими точками на кривой и использует её как приближённый наклон. SOA обобщает эту идею на многомерные задачи и множество кандидатов одновременно. Он поддерживает популяцию векторов (возможных ответов) и многократно обновляет их с помощью шагов, похожих на секантные, которые аппроксимируют тенденцию функции цели, используя только значения функции. Это делает метод привлекательным в ситуациях, где градиенты шумны, дороги в вычислении или неопределены, например при настройке гиперпараметров нейронных сетей по ошибке на валидации.

Баланс между широким исследованием и точным сужением

Дизайн SOA явно разделяет этапы исследования и уточнения. На стадии исследования каждый кандидат корректируется правилом на основе секанты, которое комбинирует информацию от текущего лучшего решения, текущего вектора и случайно выбранного собрата. Это помогает направлять поиск в перспективные направления, не сводя его к чистой случайности. На стадии эксплуатации SOA вводит «фактор расширения» и контролируемую случайность. Он подталкивает решения к лучшей, средней, ближайшей и даже самой удалённой точкам в популяции и смешивает это со случайными блужданиями. Простое правило мутации время от времени сохраняет старую позицию вместо новой, что поддерживает разнообразие. В совокупности эти механики помогают SOA выходить из локальных ловушек и одновременно нацеливаться на высококачественные решения.

Тестирование на бенчмарках и реальных устройствах

Чтобы проверить, что SOA — это не только красивая идея на бумаге, авторы испытывают его на широко используемых наборах тестовых функций CEC2021 и CEC2020. Эти функции намеренно сложны: некоторые имеют низкую размерность, но множество ложных минимумов, другие простираются до 50 или 100 измерений. В этих тестах SOA сравнивают с двумя группами конкурирующих алгоритмов, включая 11 математически ориентированных методов и 9 современных или модифицированных оптимизаторов. Используя статистику типа средней ошибки, разброса, кривых сходимости и ранговых тестов, SOA последовательно сопоставим или превосходит большинство соперников, особенно по скорости и надёжности достижения хороших решений. Затем авторы переходят от синтетических тестов к двум требовательным реальным задачам: оценке ключевых параметров в моделях фотовольтаики (PV) и автоматической настройке гиперпараметров сверточных нейронных сетей для нескольких наборов изображений.

От солнечных панелей до нейронных сетей

В сфере солнечной энергетики точные модели PV-элементов и модулей необходимы для прогнозирования выработки и оптимизации работы. Команда применяет SOA к нескольким стандартным PV-моделям, включая одно- и двухдиодные модели и полные описания модулей. Используя измеренные характеристики ток–напряжение, SOA подбирает параметры моделей для минимизации ошибки и показывает более низкую или сопоставимую среднеквадратичную ошибку по сравнению с рядом устоявшихся оптимизаторов. В экспериментах по машинному обучению SOA применяется для настройки архитектуры и параметров обучения сверточной нейронной сети на MNIST и связанных наборах изображений. И там алгоритм находит комбинации гиперпараметров, обеспечивающие конкурентные или лучшие показатели классификации по сравнению с другими автоматизированными стратегиями поиска.

Что это значит на практике

Для неспециалистов главный вывод в том, что SOA предлагает практичный новый «поисковый движок» для тяжёлых задач оптимизации, где ландшафт сложен, а градиенты недоступны. Заимствуя геометрию секантного метода и встраивая её в популяционный поиск с взвешенной случайностью, алгоритм часто сходится быстрее и точнее многих современных альтернатив. Поскольку он относительно прост, не требует производных и мало зависит от настройки параметров, SOA можно внедрять в разные приложения — от проектирования более эффективных солнечных установок до конфигурации моделей глубокого обучения — что делает его перспективным дополнением к инструментарию инженеров и специалистов по данным.

Цитирование: Ibrahim, M.Q., Qaraad, M., Hussein, N.K. et al. Secant Optimization Algorithm for efficient global optimization. Sci Rep 16, 6659 (2026). https://doi.org/10.1038/s41598-026-36691-z

Ключевые слова: глобальная оптимизация, метаэвристические алгоритмы, алгоритм секантной оптимизации, моделирование фотовольтаики, настройка гиперпараметров