Эксперты Вышки просчитали риски цифровизации
Подавляющее большинство российских граждан — 85% — не готовы доверить принятие решений искусственному интеллекту, говорится в докладе Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ. Соответствующее исследование он провел для Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ). Чтобы минимизировать риски, нужна новая модель правового регулирования, говорится в исследовании.
Развитие цифровой сферы связано с серьезными рисками в области прав человека, заявил на пресс-конференции в минувшую пятницу председатель СПЧ Валерий Фадеев. Он напомнил, что впервые эта тема была поднята на встрече президента с членами Совета в декабре прошлого года. По ее итогам глава государства дал ряд поручений, в частности, разработать методологические и правовые основы в сфере цифровизации, своего рода «цифровой кодекс».
«Как любая мощная технология, которая меняет жизнь почти всех областей деятельности человека, цифровизация несет новые риски. Мы должны минимизировать эти риски в области прав человека», — пояснил Фадеев.
В рамках подготовки предложений СПЧ взаимодействует с научным сообществом, с общественными институтами, подчеркнул глава СПЧ, представляя исследование ВШЭ «Влияние процессов цифровизации на права человека и развитие гражданского общества». По мнению авторов, цифровая среда дает много преимуществ: повышение производительности, создание новых продуктов, услуг, впечатлений, доступность актуальной и достоверной информации и новые технологии ее обработки.
Однако вместе с новыми возможностями появляются новые риски. Так, алгоритмическая обработка данных цифровыми платформами и государством может привести к нарушению права на неприкосновенность частной жизни. Также среди основных угроз: цифровая дискриминация граждан государством и частными корпорациями на основе злоупотребления персональными данными и накопления больших данных о гражданах; кибератаки и компьютерное мошенничество; кибербуллинг, троллинг, иные акты агрессии в цифровой среде; информационные войны в киберпространстве, рост числа «фейковых новостей» и спланированных кампаний по дезинформации в интернете, в том числе с использованием современных технологий синтезирования медиаконтента (DeepFake).
По результатам опроса выяснилось, что российские граждане обеспокоены соблюдением своих прав. Так, 64% граждан при пользовании интернетом опасаются утечки персональных данных, и только 35% не видят рисков. При этом с агрессией в интернете от незнакомых людей сталкивались лишь 28% опрошенных, 71% — не встречал словесных угроз в свой адрес.
Внедрение цифровых технологий в целом несет обществу только пользу (так считает 20% респондентов) или по крайней мере больше пользы, чем вреда (полагают 44% опрошенных).
Ирина Мерсиянова
«Чтобы граждане перестали опасаться доверять принятие решений искусственному интеллекту, у них должно возникнуть доверие к самой технической системе, — говорит директор Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Ирина Мерсиянова. — Однако доверие на пустом месте возникнуть не сможет, ведь это, по сути, оправданные ожидания от взаимодействия. Даже если постоянно уверять людей в том, что все хорошо и надежно, без своего опыта взаимодействия доверие не возникнет. У людей просто не будет такой установки».
Несмотря на пока несформировавшееся доверие граждан к искусственному интеллекту, вектор развития правового регулирования должен быть направлен на укрепление информационного суверенитета государств и защиту прав граждан в цифровой среде, не нарушая вектора раскрытия положительного потенциала технологий, полагают авторы исследования.
Вам также может быть интересно:
Виртуальный Моцарт, бот «Венчурный капитал» и генерация учебных видео: как в Вышке применяют ИИ
В середине ноября в Вышке состоялся митап, на котором преподаватели, исследователи и административные работники университета представили собственные проекты и поделились опытом использования ИИ-технологий в образовательной и научной деятельности. Встреча прошла в рамках программы повышения квалификации «Искусственный интеллект в образовании и исследованиях».
Названы ключевые тренды в образовании — 2025
Искусственный интеллект и виртуальная реальность все чаще становятся частью образования. Больше половины преподавателей-новаторов готовы поддерживать мультимодальные подходы с использованием ИИ, а каждый третий студент считает, что технологии способны сделать учебу интереснее и удобнее. Такие данные представили Лаборатория инноваций в образовании ВШЭ и холдинг Ultimate Education.
Студенты Вышки выиграли международный этап «Цифрового прорыва»
В начале ноября в Калининграде прошел международный этап хакатона «Цифровой прорыв. Сезон: Искусственный интеллект». В нем приняли участие 203 команды в составе 1569 человек, и среди них — студенты факультета компьютерных наук ВШЭ, призеры всероссийского этапа. Они соревновались в решении задач от партнеров хакатона — РЖД, Media Wise, «Атома», «Росатома», «Силы» и других организаций.
«Можно что-то сделать? Или меня отчислят?»: ИИ-помощники в образовании
Искусственный интеллект может значительно облегчить жизнь студентов и преподавателей университетов. Например, он способен автоматизировать некоторые учебные процессы, а также составить прогноз возможностей трудоустройства выпускников.
В НИУ ВШЭ разработан инструмент для контроля ИИ-технологий в медицине
Группа исследователей из Центра искусственного интеллекта НИУ ВШЭ разработала индекс для определения уровня этичности систем искусственного интеллекта (ИИ) в медицине. Инструмент предназначен для минимизации потенциальных рисков, обеспечения безопасной разработки и внедрения ИИ-технологий в медицинскую практику.
Драйвер прогресса и статья доходов: роль университетов в трансфере технологий
В современном мире необходим эффективный трансфер социально-экономических и гуманитарных знаний в реальный сектор экономики и госуправление. Решающую роль в этом играют университеты. У них есть возможность объединять различные коллективы и в партнерстве с государством и бизнесом разрабатывать и совершенствовать передовые технологии.
ИНФОТЕХ-2024: «понять перспективы и ограничения использования ИИ в образовании»
В конце октября в рамках XVII Тюменского цифрового форума информационных технологий «ИНФОТЕХ-2024» прошел круглый стол «Эксперименты с ИИ в образовании». Эксперты Высшей школы экономики, Московского городского педагогического университета, Уральского федерального университета и Тюменского государственного университета обсудили практический опыт разработки и внедрения технологий ИИ в образовательный процесс, обозначили основные вызовы, связанные с быстрым развитием образовательных решений на базе ИИ.
Fall into ML 2024: взгляд в будущее машинного обучения
25–26 октября в Москве состоялась конференция Fall into ML, организованная Институтом искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ совместно с Центром ИИ при поддержке титульного партнера — Сбера. На протяжении двух дней ведущие специалисты в области искусственного интеллекта обсуждали перспективы развития фундаментальных технологий ИИ.
ВШЭ и «Яндекс» представили доклад об интеграции искусственного интеллекта в высшее образование
Высшая школа экономики и «Яндекс Образование» подготовили совместный доклад «Искусственный интеллект в образовании». В нем проанализированы ведущие мировые практики, раскрывающие потенциал технологий искусственного интеллекта (ИИ) в образовательной сфере. Доклад представляет собой карту с кейсами университетов разных стран, уже сегодня применяющих ИИ. Цель проекта — помочь российским вузам внедрять ИИ, опираясь на опыт других университетов.
Практика лицензирования разработок НИУ ВШЭ отмечена премией в области корпоративных инноваций GIA
На церемонии вручения премии GIA совместный проект Центра искусственного интеллекта НИУ ВШЭ и АО «Новое сервисное бюро» получил награду в номинации «Трансфер технологий». Это стало плодом интенсивной работы университетского Центра трансфера технологий и научных сотрудников вместе с индустриальным партнером.