Вы представитель учебного заведения ? Вашей организации ещё нет на нашем портале ? Добавить учебное заведение

Защитить ИИ от угроз: в ИТМО запускают новую магистратуру «Безопасность систем искусственного интеллекта»

В 2022 году в ИТМО запускается новая магистратура «Безопасность систем искусственного интеллекта». Будут готовить специалистов, которые смогут обеспечить защиту систем искусственного интеллекта от хакерских атак. Во время обучения студенты смогут работать над реальными задачами от компаний-партнеров («Газпром нефть», «Сбербанк», «Ростелеком») или научных групп. В материале ITMO.NEWS рассказываем, как поступить на программу и какие перспективы открываются перед ее выпускниками.  


Актуальность направления
Согласно  SkillFactory, в 2022 году профессии специалиста по информационной безопасности, AI/ML станут одними из самых востребованных. Об этом говорят количество вакансий на рынке, рейтинги зарплат и безработицы, отчеты и аналитические данные известных компаний. Уже сегодня технология ИИ вошла во многие сферы: автомобилестроение, искусство, телекоммуникации, науку и многие другие. В ее основе ? анализ огромного объема различной информации, с помощью которого ИИ выявляет закономерности и делает выводы. Но алгоритмы и наборы данных уязвимы и могут быть «отравлены» злоумышленниками, которые манипулируют алгоритмами для создания ложных прогнозов. В результате в систему можно внедрить вредоносное ПО, переобучить ее для формирования неверных предсказаний.

На новой магистерской программе ИТМО «Безопасность систем искусственного интеллекта» будут готовить специалистов, которые смогут обеспечить защиту технологий искусственного интеллекта от хакерских атак. По итогам обучения выпускники смогут работать в таких компаниях, как «РЖД», «Газпром нефть», «Сбербанк», «Ростелеком» и других.

«Современное общество обеспокоено вопросом информационной безопасности используемых технических систем. ИИ все больше проникает во все сферы социальных отношений, что приводит к зависимости от его корректного функционирования. Поэтому компетенции выпускника находятся на стыке двух сложнейших направлений: систем искусственного интеллекта и информационной безопасности. Обучение предоставляет уникальную возможность получить подготовку в этих областях на основе решения реальных задач, которые ставят наши заказчики, и уже в процессе обучения определиться с профилем и работодателем», — рассказывает руководитель образовательной программы, декан  Данил Заколдаев.

Будущая профессия
Во время обучения студенты смогут выбрать одну из специализаций, которая и определит их дальнейшее карьерное развитие. Образовательная программа включает два трека:

«Управление информационной безопасностью систем искусственного интеллекта»
В рамках трека студенты научатся использовать существующие методы и средства обеспечения информационной безопасности ИИ. По окончании обучения выпускники смогут критически осмысливать уязвимости системы, предлагать ее оптимизацию, выбирая известные методы и средства защиты или разрабатывая новые.

«Математические методы информационной безопасности систем искусственного интеллекта»
Магистры узнают математические основы, которые используют для обеспечения информационной безопасности ИИ. А полученные знания позволят им разрабатывать программно-технические комплексы нового поколения.

Выпускники программы могут работать исследователями или программистами в сфере информационной безопасности систем искусственного интеллекта, аналитиками данных с помощью ИИ, специалистами по автоматизации информационно-аналитической деятельности или по обеспечению безопасности информации систем искусственного интеллекта.

Процесс обучения
Одна из особенностей магистратуры ИТМО — это возможность построить свою индивидуальную траекторию обучения: выбрать предметы, преподавателей и так далее. Общую концепцию подготовки по образовательной программе можно представить в виде последовательности: обзор, задача, исследование, апробация, результат и внедрение. 

Обзор — это знакомство студента с направлениями и научными группами. Как правило, на программе проводится конкурс по отбору кандидатов в исследовательские коллективы. Затем магистр формулирует задачу, которая должна включать исследовательскую часть. По завершении работы полученный результат проверяют и доказывают, например с помощью экспериментов или в формате публикаций и презентаций на конференциях. А завершается все внедрением готового решения в работу научной группы или у работодателя. Так за два года выпускники научатся проектировать и сопровождать внедрение безопасных технологических процессов, использующих ИИ, а также предотвращать угрозы информационной безопасности сложных систем.

«Важнейшая задача университета — подготовить высококвалифицированного востребованного выпускника. Именно поэтому более 60% преподавателей ФБИТ — это действующие профессионалы: руководители и ведущие специалисты профильных организаций, в том числе из компаний-партнеров. В ходе учебных занятий, НИР и практик магистрант общается со специалистами, которые помогают определить задачи для исследований, решить их и дают оценки на всех этапах, в том числе при защите выпускных работ. А результат будет оцениваться не только и не столько по шкале успеваемости, но и через призму ценности для работодателей», — рассказал Данил Заколдаев.

Место проведения практики магистрантов определяется выбором модели их исследований: если работа заказана предприятием — в компании, научной группой — на своем рабочем месте в университете. Формат зависит от задания научного руководителя. Это может быть проведение теоретических исследований, освоение приборной базы и инструментальных средств, разработка экспериментальных стендов и проведение экспериментов, сбор и обработка экспериментальных данных, освоение специализированных программных и аппаратных средств или приобретение и совершенствование навыков выполнения функциональных задач на рабочем месте.

Требования к абитуриентам
На программе ждут абитуриентов, которые знакомы с основами Python, имеют хорошую математическую подготовку и знания в области информационной безопасности. Список вопросов для вступительного экзамена размещен по .

Журналист
вуз: Санкт-Петербургский государственный университет информационных технологий, механики и оптики
Комментариев нет
  • Желаете оставить комментарий?