Эксперты Вышки просчитали риски цифровизации
Подавляющее большинство российских граждан — 85% — не готовы доверить принятие решений искусственному интеллекту, говорится в докладе Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ. Соответствующее исследование он провел для Совета при Президенте РФ по развитию гражданского общества и правам человека (СПЧ). Чтобы минимизировать риски, нужна новая модель правового регулирования, говорится в исследовании.
Развитие цифровой сферы связано с серьезными рисками в области прав человека, заявил на пресс-конференции в минувшую пятницу председатель СПЧ Валерий Фадеев. Он напомнил, что впервые эта тема была поднята на встрече президента с членами Совета в декабре прошлого года. По ее итогам глава государства дал ряд поручений, в частности, разработать методологические и правовые основы в сфере цифровизации, своего рода «цифровой кодекс».
«Как любая мощная технология, которая меняет жизнь почти всех областей деятельности человека, цифровизация несет новые риски. Мы должны минимизировать эти риски в области прав человека», — пояснил Фадеев.
В рамках подготовки предложений СПЧ взаимодействует с научным сообществом, с общественными институтами, подчеркнул глава СПЧ, представляя исследование ВШЭ «Влияние процессов цифровизации на права человека и развитие гражданского общества». По мнению авторов, цифровая среда дает много преимуществ: повышение производительности, создание новых продуктов, услуг, впечатлений, доступность актуальной и достоверной информации и новые технологии ее обработки.
Однако вместе с новыми возможностями появляются новые риски. Так, алгоритмическая обработка данных цифровыми платформами и государством может привести к нарушению права на неприкосновенность частной жизни. Также среди основных угроз: цифровая дискриминация граждан государством и частными корпорациями на основе злоупотребления персональными данными и накопления больших данных о гражданах; кибератаки и компьютерное мошенничество; кибербуллинг, троллинг, иные акты агрессии в цифровой среде; информационные войны в киберпространстве, рост числа «фейковых новостей» и спланированных кампаний по дезинформации в интернете, в том числе с использованием современных технологий синтезирования медиаконтента (DeepFake).
По результатам опроса выяснилось, что российские граждане обеспокоены соблюдением своих прав. Так, 64% граждан при пользовании интернетом опасаются утечки персональных данных, и только 35% не видят рисков. При этом с агрессией в интернете от незнакомых людей сталкивались лишь 28% опрошенных, 71% — не встречал словесных угроз в свой адрес.
Внедрение цифровых технологий в целом несет обществу только пользу (так считает 20% респондентов) или по крайней мере больше пользы, чем вреда (полагают 44% опрошенных).
Ирина Мерсиянова
«Чтобы граждане перестали опасаться доверять принятие решений искусственному интеллекту, у них должно возникнуть доверие к самой технической системе, — говорит директор Центра исследований гражданского общества и некоммерческого сектора НИУ ВШЭ Ирина Мерсиянова. — Однако доверие на пустом месте возникнуть не сможет, ведь это, по сути, оправданные ожидания от взаимодействия. Даже если постоянно уверять людей в том, что все хорошо и надежно, без своего опыта взаимодействия доверие не возникнет. У людей просто не будет такой установки».
Несмотря на пока несформировавшееся доверие граждан к искусственному интеллекту, вектор развития правового регулирования должен быть направлен на укрепление информационного суверенитета государств и защиту прав граждан в цифровой среде, не нарушая вектора раскрытия положительного потенциала технологий, полагают авторы исследования.
Вам также может быть интересно:
В Вышке создали собственную MLOps-платформу
Ученые НИУ ВШЭ создали MLOps-платформу SmartMLOps. Она предназначена для исследователей в области искусственного интеллекта, которые хотели бы превратить свое изобретение в полноценный сервис. В будущем на платформе могут быть развернуты ИИ-помощники для упрощения образовательного процесса, оказания медицинской помощи, консультирования и решения многих других задач. Создатели ИИ-технологий смогут получить готовый к работе сервис в течение считанных часов. На суперкомпьютере Вышки этот сервис может быть запущен в несколько кликов.
«От нашей общей работы зависит будущее»: что несет человечеству развитие ИИ
Какие перспективы и вызовы для человечества несет развитие технологий искусственного интеллекта? Как его используют ученые? Каким будет мир, где доминирует ИИ? Эти и другие темы обсудили эксперты на форсайт-сессии «Будущее исследований в сфере искусственного интеллекта», которая прошла в НИУ ВШЭ.
ИИ позволит точно моделировать производительность систем хранения данных
Исследователи факультета компьютерных наук НИУ ВШЭ разработали новый подход к моделированию систем хранения данных на основе генеративных моделей машинного обучения. Он позволяет с высокой точностью предсказывать ключевые характеристики работы таких систем при различных условиях. Результаты опубликованы в журнале IEEE Access.
ИИ в образовании: как преодолеть соблазн готовых решений
Искусственный интеллект уже стал обыденностью для молодежи: как показал опрос, около 87% студентов ведущих вузов используют ИИ в процессе обучения. Большая часть из них отметила, что он помогает им экономить время, при этом они проверяют сделанную ИИ работу. Результаты исследования были представлены на конференции по анализу данных и технологиям ИИ Data Fusion. В ее работе приняли участие научный руководитель НИУ ВШЭ Ярослав Кузьминов и другие эксперты Вышки.
Большинство студентов не верят, что ИИ сможет заменить их на работе
Большинство студентов считают, что ИИ не сможет заменить их на работе в ближайшие десять лет. Низким такой риск называют 27,2% респондентов, 41,5% — крайне маловероятным. Эти оценки были получены НИУ ВШЭ в ходе опроса 4200 студентов в 2025 году. Они приводятся в докладе «Эпоха больших языковых моделей: почему они все еще не профессионалы», подготовленном научным руководителем НИУ ВШЭ Ярославом Кузьминовым и старшим преподавателем кафедры высшей математики НИУ ВШЭ Екатериной Кручинской. Доклад был представлен на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества, которая проходит с 15 по 18 апреля в НИУ ВШЭ.
Точный ИИ-оракул: какие тренды интересуют бизнес
Современные технологии ежедневно меняют мир, автоматизируя бизнес-процессы в различных отраслях. Специалисты НИУ ВШЭ представили масштабный опыт команды iFORA по реализации ИИ-проектов в интересах крупных компаний и органов власти.
Перспективы ИИ: математика машинного обучения в фокусе
Институт искусственного интеллекта и цифровых наук ФКН НИУ ВШЭ провел выездной воркшоп «Математика машинного обучения». Здесь собрались ведущие ученые и специалисты НИУ ВШЭ в области машинного обучения, математики и статистики. В центре внимания исследователей оказались математические аспекты, лежащие в основе современных и наиболее перспективных направлений машинного обучения. Программа воркшопа включала мини-курсы, практические работы, доклады и круглый стол, посвященный перспективам развития ИИ в России.
Внедрение искусственного интеллекта в организации: какие эффекты отмечают сотрудники
45% организаций, которые занимались внедрением ИИ в работу, заявили о повышении производительности труда в результате его использования. Об этом говорится в исследовании «Внедрение ИИ в работу организаций: чем обусловлена вариация эффектов на труд?». Исследование проведено директором Центра статистики труда и заработной платы ИСИЭЗ НИУ ВШЭ Анной Демьяновой и стажером-исследователем центра Дарьей Талакаускас. Оно было презентовано на XXV Ясинской (Апрельской) международной научной конференции по проблемам развития экономики и общества (XXV ЯМНК), проходящей в НИУ ВШЭ с 15 по 18 апреля.
«Идею всегда задает человек»: что дает ИИ образованию и медиа
ИИ-технологии меняют принципы работы образования и медиаиндустрии. Большинство студентов уже в той или иной мере используют ИИ, а нейросети уже массово производят все виды контента. Возможности и вызовы эксперты обсудили на конференции «Образование и медиа в эпоху цифровых перемен», организованной Дирекцией по маркетинговым коммуникациям НИУ ВШЭ и «Яндекс Образованием».
В Вышке стартовали открытые семинары «ИИ в индустрии»
Институт искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ запустил цикл открытых семинаров. Встречи посвящены актуальным вопросам внедрения искусственного интеллекта в различные отрасли экономики. Семинары проводятся еженедельно в 18:00 в кампусе на Покровском бульваре. Для участников также предусмотрена онлайн-трансляция.