Гиперпараметрическая оптимизация для Моделей глубокого обучения с использованием высокопроизводительных вычислений Уважаемые коллеги, в среду, 5 апреля, в 12 часов в ЦЕРН состоится семинар "Гиперпараметрическая оптимизация для Моделей глубокого обучения с использованием высокопроизводительных вычислений". Докладчик Эрик Вульф (ЦЕРН). Эрик Вульф - сотрудник ИТ-отдела в ЦЕРН и руководитель проекта по реконструкции событий столкновения БАК в Европейском центре передового опыта в области масштабных вычислений (CoE RAISE). Его опыт включает крупномасштабное распределенное обучение и гиперпараметрическую оптимизацию алгоритмов DL на суперкомпьютерах и использование квантовых вычислений для алгоритмов, основанных на ML / DL. До прихода в CERN Эрик был инженером по машинному обучению в Axis Communications, где он работал над обнаружением объектов и видеоаналитикой с использованием методов глубокого обучения. Аннотация: За последнее десятилетие машинное обучение (ML), и в частности глубокое обучение (DL), превзошло основанные на правилах традиционные алгоритмы в решении широкого спектра задач, например таких, как распознавание изображений, обнаружение объектов и обработка естественного языка. В CoE RAISE мы также увидели, что ML может раскрыть новый потенциал в таких областях, как физика высоких энергий (HEP), дистанционное зондирование, сейсмическая визуализация, аддитивное производство и акустика. Однако обучение моделей DL не является тривиальной задачей, особенно если модель большая и имеет множество настраиваемых гиперпараметров. Для решения этой задачи можно использовать гиперпараметрическую оптимизацию (HPO) для систематического изучения пространства поиска возможных конфигураций гиперпараметров, и в сочетании с вычислительной мощностью современных высокопроизводительных вычислительных систем (HPC) это может значительно ускорить процесс улучшения моделей DL. Цель этого доклада - дать представление о HPO и основных проблемах, с которыми сталкиваются специалисты по обработке данных при настройке своих моделей, а также привести несколько примеров из практики HEP, где был успешно применен крупномасштабный HPO в системах HPC. Трансляция будет организована в ком. 310 (ЛИТ). Приглашаем всех желающих.
