Ученые Вышки представили проекты по этической экспертизе в сфере ИИ
Технологии искусственного интеллекта уже стали неотъемлемой частью повседневной жизни и активно применяются в различных отраслях экономики. Однако этические вопросы использования ИИ все еще требуют обсуждения и осмысления. Сегодня в России с участием ученых НИУ ВШЭ ведется работа над несколькими отраслевыми приложениями к национальному Кодексу этики в сфере ИИ, в которых будут конкретные рекомендации в помощь каждому, кто нуждается в понимании и анализе рисков и угроз со стороны ИИ.
Эксперты Высшей школы экономики приняли участие в IV Международном форуме «Этика в сфере искусственного интеллекта: окно возможностей», который собрал ведущих специалистов и лидеров цифровой индустрии.
Сергей Наквасин
Сергей Наквасин, директор Национального центра развития искусственного интеллекта при Правительстве РФ (действует на базе НИУ ВШЭ), подчеркнул важность формирования этической культуры в области ИИ: «Культура ест стратегию на завтрак. Этика — ядро любой культуры. Если мы сейчас не договоримся о ключевых принципах этики, то вопрос благополучия нашего общества остается открытым». Средний уровень внедрения технологий ИИ в экономике России превысил 30%, и единственная возможность обеспечить эффективное и безопасное их применение — включить в управление рисками разработчиков ИИ и те организации, которые у себя его внедряют и применяют, полагает он. Сергей Наквасин напомнил, что в 2021 году в России по поручению президента был разработан Кодекс этики в сфере искусственного интеллекта. Высшая школа экономики присоединилась к кодексу в числе первых, а сегодня насчитывается более 800 подписантов, в том числе иностранных.
Сегодня ведется работа над несколькими отраслевыми приложениями к национальному Кодексу этики в сфере ИИ, рассказала Анастасия Углева, профессор, заместитель директора Центра трансфера и управления социально-экономической информацией, руководитель проекта «Этическая экспертиза в сфере ИИ» Центра искусственного интеллекта НИУ ВШЭ. Эти приложения будут учитывать специфику и потребность в выработке не только общих принципов, но и конкретных рекомендаций в помощь каждому, кто нуждается в понимании и анализе рисков и угроз со стороны технологий для обеспечения благополучия общества и здоровья нации.
Анастасия Углева
«Форум этики в сфере ИИ — само по себе примечательное событие, одна из немногих площадок, где действительно удается говорить собственно об этике представителям государства, общества, бизнеса. Это позитивно заряженная аудитория, вместе с тем критически осмысливающая перспективы внедрения ИИ в образование, медицину, транспорт и другие жизненно важные сферы», — подчеркнула она.
Анастасия Углева стала одним из спикеров сессии «Этика исследований в сфере ИИ», в рамках которой представители исследовательских центров различных образовательных и учебных заведений России продемонстрировали свои проекты, объяснив их суть простым языком. Участники обсудили ключевую роль исследовательских центров в развитии ИИ и важность взаимодействия ученых с бизнесом и конечными пользователями для создания безопасного и функционального продукта. Эксперт Вышки в своем выступлении проанализировала ключевые этические проблемы и дилеммы, возникающие в ходе исследований, а также трансформацию академической этики в связи с внедрением технологий ИИ в сам исследовательский процесс.
Кроме того, Анастасия Углева выступила модератором стратегической сессии «Этическое регулирование ИИ в образовании: от принципов к реализации», собравшей более 25 представителей средней и высшей школы, а также ведущих экспертов из сферы бизнеса. Кроме того, в ходе торжественной церемонии награждения лауреатов Премии за вклад в развитие этики в сфере искусственного интеллекта Анастасия Углева была отмечена среди экспертов, которые работают над созданием пространства ответственного и доверенного ИИ.
На постерной сессии форума был представлен чат-бот «Индекс этичности», разработанный в Центре искусственного интеллекта НИУ ВШЭ. Он помогает оценить понимание респондентами глубины этических вопросов, связанных с разработкой, внедрением и использованием алгоритмов ИИ в медицинской практике. Чат-бот был разработан в рамках проекта «Этическая экспертиза в сфере ИИ», который реализуется в Центре ИИ. Проект направлен на выработку принципов и стандартов оценки для проведения гуманитарной (этической) экспертизы, необходимой как на этапе разработки, так и на этапе внедрения систем искусственного интеллекта в различных общественных сферах.
На сессии «Возможности и риски для рынка труда в эпоху развития искусственного интеллекта» НИУ ВШЭ представляли Павел Травкин, заместитель проректора, и Александр Чулок, директор Центра научно-технологического прогнозирования ИСИЭЗ НИУ ВШЭ. Участники обсудили несколько ключевых вопросов: какие основания для опасений есть у россиян относительно внедрения ИИ, как изменится рынок труда в России, к чему готовиться работодателям и работникам, какие требования будут предъявляться к соискателям и какие компетенции им понадобятся.
Вам также может быть интересно:
Ученые НИУ ВШЭ признаны лидерами в сфере развития ИИ
В рамках международной конференции по искусственному интеллекту и машинному обучению AI Journey наградили победителей Национальной премии «Лидеры ИИ — 2024». В число финалистов вошли двое ученых НИУ ВШЭ. Лауреатом в номинации «Ученым» стал Сергей Самсонов, научный сотрудник Международной лаборатории стохастических алгоритмов и анализа многомерных данных Института искусственного интеллекта и цифровых наук ФКН.
Обуздать стихию: как ИИ интегрируется в учебный процесс в странах мира
Искусственный интеллект постепенно становится незаменимой частью высшего образования. Его используют и студенты, и преподаватели для снижения объема рутинных задач и расширения своих возможностей. Ограничения и перспективы ИИ рассматриваются в докладе «Начало конца или новой эпохи? Эффекты генеративного искусственного интеллекта (ГИИ) в высшем образовании», который вышел в журнале «Современная аналитика образования» под научной редакцией научного руководителя НИУ ВШЭ Ярослава Кузьминова.
Виртуальный Моцарт, бот «Венчурный капитал» и генерация учебных видео: как в Вышке применяют ИИ
В середине ноября в Вышке состоялся митап, на котором преподаватели, исследователи и административные работники университета представили собственные проекты и поделились опытом использования ИИ-технологий в образовательной и научной деятельности. Встреча прошла в рамках программы повышения квалификации «Искусственный интеллект в образовании и исследованиях».
Названы ключевые тренды в образовании — 2025
Искусственный интеллект и виртуальная реальность все чаще становятся частью образования. Больше половины преподавателей-новаторов готовы поддерживать мультимодальные подходы с использованием ИИ, а каждый третий студент считает, что технологии способны сделать учебу интереснее и удобнее. Такие данные представили Лаборатория инноваций в образовании ВШЭ и холдинг Ultimate Education.
Студенты Вышки выиграли международный этап «Цифрового прорыва»
В начале ноября в Калининграде прошел международный этап хакатона «Цифровой прорыв. Сезон: Искусственный интеллект». В нем приняли участие 203 команды в составе 1569 человек, и среди них — студенты факультета компьютерных наук ВШЭ, призеры всероссийского этапа. Они соревновались в решении задач от партнеров хакатона — РЖД, Media Wise, «Атома», «Росатома», «Силы» и других организаций.
«Можно что-то сделать? Или меня отчислят?»: ИИ-помощники в образовании
Искусственный интеллект может значительно облегчить жизнь студентов и преподавателей университетов. Например, он способен автоматизировать некоторые учебные процессы, а также составить прогноз возможностей трудоустройства выпускников.
В НИУ ВШЭ разработан инструмент для контроля ИИ-технологий в медицине
Группа исследователей из Центра искусственного интеллекта НИУ ВШЭ разработала индекс для определения уровня этичности систем искусственного интеллекта (ИИ) в медицине. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику.
Драйвер прогресса и статья доходов: роль университетов в трансфере технологий
В современном мире необходим эффективный трансфер социально-экономических и гуманитарных знаний в реальный сектор экономики и госуправление. Решающую роль в этом играют университеты. У них есть возможность объединять различные коллективы и в партнерстве с государством и бизнесом разрабатывать и совершенствовать передовые технологии.
ИНФОТЕХ-2024: «понять перспективы и ограничения использования ИИ в образовании»
В конце октября в рамках XVII Тюменского цифрового форума информационных технологий «ИНФОТЕХ-2024» прошел круглый стол «Эксперименты с ИИ в образовании». Эксперты Высшей школы экономики, Московского городского педагогического университета, Уральского федерального университета и Тюменского государственного университета обсудили практический опыт разработки и внедрения технологий ИИ в образовательный процесс, обозначили основные вызовы, связанные с быстрым развитием образовательных решений на базе ИИ.
Fall into ML 2024: взгляд в будущее машинного обучения
25–26 октября в Москве состоялась конференция Fall into ML, организованная Институтом искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ совместно с Центром ИИ при поддержке титульного партнера — Сбера. На протяжении двух дней ведущие специалисты в области искусственного интеллекта обсуждали перспективы развития фундаментальных технологий ИИ.