Идеальная ловушка: как трансформируются отношения человека и ИИ
Искусственный интеллект все больше входит в нашу жизнь, становясь ее неотъемлемой частью. Мы так быстро привыкли пользоваться его помощью и услугами, что совершенно теряемся, когда пропадает интернет. Но сможет ли человек полюбить ИИ и к чему приведет его очеловечивание, обсудили на традиционном рождественском киносеминаре ЛЭСИ, посвященном фильму Спайка Джонза «Она».
Руководитель Лаборатории экономико-социологических исследований, первый проректор НИУ ВШЭ Вадим Радаев напомнил, что год назад на примере фильма «Апгрейд» (2018) обсуждалась тема постепенного превращения человека в робота, не только иносказательно, но и на физическом уровне — начиная от протезов и заканчивая чипированием. Теперь же пришло время поговорить про взаимоотношения человека и искусственного интеллекта. В частности, можно ли полюбить ИИ — не иносказательно, метафорически, а буквально, в романтическом смысле.
Идея романа с компьютерной системой возникла не сразу, отметил профессор. В течение долгого времени фантазии писателей и сценаристов были связаны с человекоподобными роботами, которые должны исполнять команды владельца. При этом их проектировали не как помощников, а как рабов.
Вадим Радаев
«Однако андроиды оказались тупиком, потому что физические упражнения им даются явно хуже, чем решение интеллектуальных задач. И мы двинулись от роботов к нейронным сетям, голограммам и так далее. То есть отказались от идеи телесности, от идеи физического контакта в пользу виртуальной коммуникации», — пояснил Вадим Радаев.
Сейчас человечество переживает взрыв интереса к ИИ. Алгоритм уже не только может обыграть лучшего шахматиста и игрока в го, но и победить инструктора Школы вооружения ВВС США в воздушном бою со счетом 5:0 (2020). GPT4 уже превзошел большинство людей в создании текстов и стихов, а от GPT5 ждут настоящего прорыва.
С начала 2022 года интерес к нейросетям вырос более чем в 15 раз. По частоте запросов в поисковике «Яндекса» «нейросеть» оказалась на уровне «фитнеса», «психолога» и «пива». В 2023 году аудитория сервисов по работе с ИИ выросла в 3,5 раза, а их мобильный трафик — втрое (исследование Yota).
При этом расширяется и сфера личного общения с ИИ. Чат-боты для общения с клиентами имеют уже порядка 75% маркетплейсов, 54% аптек, 35% ритейлеров, 23% банков и 15% страховых компаний.
Число голосовых помощников за год выросло в 3,5 раза. При этом личное общение с ними становится все более тесным. Например, Алиса от «Яндекса» возникла всего чуть более пяти лет назад, в октябре 2017 года, а сейчас ее ежедневная аудитория составляет уже 8 млн человек.
Задача разработчиков — сделать Алису максимально похожей на человека. Уже сейчас она умеет говорить шепотом, интонировать, различать голоса членов семьи и обращается к каждому по-своему.
«И вот уже первое лицо государства говорит со своим двойником — дипфейком. Мне очень понравился один из экспертных комментариев, что это просто студенческая поделка и можно было сделать намного лучше», — рассказал профессор.
Сейчас происходит качественная трансформация ИИ от помощника и раба к партнеру и другу. Разработчики стремятся создавать социальных роботов, которые взаимодействуют с человеком, имитируя коммуникации между людьми, оправдывая их ожидания от реального общения. Все чаще возникают дискуссии о необходимости четкой верификации, чтобы боты нигде не могли выдавать себя за людей.
«Мы предпочитаем общаться с роботами, когда ситуация максимально регламентирована, а если речь идет о личных отношениях, то это пока еще напрягает», — отметил профессор.
Однако и этот тренд быстро уходит. Например, в этом году тридцатилетний японец Акихико Кондо женился на виртуальной певице Хацунэ Мику.
Все это не так глупо, как кажется, считает Вадим Радаев. Ведь ИИ намного позитивнее человека и имеет массу реальных преимуществ: не критикует, разделяет интересы владельца, всегда доступен для общения, с ним можно поговорить обо всем, не боясь потерять лицо и быть отвергнутым. В отличие от него, реальные люди всегда в чем-то несовершенны.
Есть также давний страх восстания машин, когда роботы перестанут подчиняться, начнут вредить людям и в конце концов бросят хозяина, когда он станет от них зависим.
И трагедии действительно случаются. Например, в этом году в Южной Корее на агропредприятии в провинции Кёнсан-Намдо робот убил человека, перепутав его с неодушевленным предметом. На испытаниях в США военный дрон решил, что командир-человек мешает ему выполнять приказы, и «убил» его (пока виртуально). Ученый-гидролог Александр Цветков был арестован по обвинению в четырех убийствах и провел 10 месяцев в СИЗО из-за ошибки искусственного интеллекта, определившего его схожесть с фотороботом на уровне 55%.
Для тех, у кого проблема с коммуникациями, для одиноких и пожилых людей такое устройство может стать спасением: это и психологическая поддержка, и постоянный медицинский присмотр за состоянием здоровья. Они удобны, точны, оперативны, не навязывают нам своих предпочтений и интересов. А главное — их можно в любой момент выключить.
В кинематографе уже есть примеры таких социальных роботов — партнеров, любовников и даже детей, — идеальных и не требующих внимания и заботы.
Конечно, такие отношения получаются упрощенными, но мало кому из людей нужны сложности. Реальные отношения хрупки с самого начала и до самого конца. Поэтому мы сами готовы упрощать отношения ради собственного удобства, и чем дальше, тем больше: перейти на дистанционное общение, отключать камеры в онлайне, переписываться вместо разговоров по телефону. Это эффективно и экономит кучу времени.
Но вместе с тем в обществе нарастает страх вытеснения, особенно в профессиональной сфере: по данным опроса ФОМ, 25% опрошенных уверены, что нейросети в будущем заменят людей в большинстве профессий.
«Поэтому возникает вопрос о способности ИИ решать проблемы морального выбора. Искусственный интеллект не может справиться с этой задачей просто на основе накопления информации в любом объеме. И мы не способны его обучить — не только потому, что мы плохо понимаем процесс принятия решений, а потому, что зачастую мы и сами не можем разрешить моральные дилеммы. К тому же в разных культурах мы их интерпретируем по-разному», — отметил проректор.
По его мнению, опасность заключается в том, что большинство людей как раз вполне устроят простые решения моральных вопросов. Ведь машины отстранены от коррупции и конфликта интересов, и их решения вызывают доверие в силу отсутствия человечности — реального или мнимого.
По большому счету, мы сами не знаем, чего хотим — идеальный образец или прекрасное несовершенство, рабское подчинение или яркую индивидуальность. Герою фильма «Она» так и не удалось разрешить это противоречие, он находится в постоянном замешательстве.
«Я думаю, что такого рода отношения с устройством становятся идеальной ловушкой. Возникают затруднения с социализацией, теряется адекватное восприятие живых собеседников, развиваются психические расстройства — особенно то, что называется безэмоциональной моделью поведения, возникают зависимости», — убежден профессор.
Он напомнил, что в фильме система переросла такие отношения, завела себе 641 партнера, распределив между ними привязанности, а затем бросила героя. По мнению проректора, тем самым она совершила благое дело, потому что после этого к человеку пришло отрезвление и он понял, что завел этот роман из страха перед реальными отношениями.
«В целом настоящая беда, мне кажется, в том, что ИИ нас не кинет и отрезвление никогда не наступит. Конечно, мы сможем полюбить искусственный интеллект, еще как сможем. Но проблема в том, как избежать этого соблазна», — резюмировал Вадим Радаев.
Виталий Куренной
«Вопрос не в том, можем ли мы полюбить искусственный интеллект. На мой взгляд, это вообще не вопрос. Полюбить можно все что угодно. Вопрос в том, можем ли мы полюбить другого человека», — переставил акценты директор Института исследований культуры, профессор Школы философии и культурологии НИУ ВШЭ Виталий Куренной, выступивший дискуссантом и, по его собственному выражению, технооптимистом.
По его мнению, ключевая проблема этого фильма — проблема понимания. Он напомнил, что, пытаясь разобраться в своих взаимоотношениях с Самантой, герой фильма читает книгу под названием «Понимание — это познание познанного».
Чтобы разобраться в том, действительно ли алгоритм способен понимать, достаточно вспомнить так называемую китайскую комнату — мысленный эксперимент в области философии сознания и философии искусственного интеллекта, впервые опубликованный Джоном Сёрлом в 1980 году. Это некая изолированная комната, где находится человек, который не знает ни одного китайского иероглифа. Наблюдатель, знающий язык, через окошко передает ему иероглифы с вопросами, ожидая получить на выходе осознанный ответ.
При этом у человека в комнате есть точные инструкции, которые составлены таким образом, что после применения к иероглифам вопроса всех указанных действий они преобразуются в иероглифы ответа. То есть подобие компьютерного алгоритма.
При этом сам человек не понимает смысла вопросов и ответов, а лишь механически следует инструкции.
«Таким же образом устроена нейросеть: никто не знает точно, как получился результат. Казалось бы, система насквозь алгоритмизирована и систематизирована, но процесс мы уже не понимаем. Мы имеем дело с новым типом иррациональности. ИИ основан на простых вычислениях и постоянно возрастающих вычислительных мощностях. То есть к человеческому мышлению это не имеет вообще никакого отношения. Попытка вставить туда что-то человеческое и думать, что искусственный интеллект нас понимает, обречена на провал», — пояснил профессор.
По его мнению, в системе дополненной реальности нет ничего нового — это «просто утопия пифагорейства в торжествующе воплощенном виде», где темная материя заменяется цифрой, которая прозрачна и логична, делает мир намного более легким и приятным.
Трансформация же «любви» Саманты точно соответствует теории любви по Платону: сначала мы любим тело, в данном случае голос, а затем надо двигаться дальше, в более абстрактную сферу, и мы начинаем восхождение в мир, куда герою путь закрыт. Это мир цифры, мир науки, мир идей.
«С точки зрения философской традиции нет ничего более банального, чем то, что мы живем в дополненной реальности. Это настолько тривиальная мысль, что даже удивительно, что нас вообще могут волновать проблемы дополненной реальности», — поясняет Виталий Куренной.
Он отмечает, что о некоем другом мире, в котором живет человек, говорили очень многие философы: Платон (мы живем в виртуальном мире, дополненном числами и идеями), Кант (мы живем в виртуальном мире, дополненном формами восприятия и мышления познающего субъекта), Маркс (мы живем в мире, дополненном превращенными формами общественных отношений).
При этом у Маркса человек — это совокупность общественных отношений. Субъект может трактоваться как психический индивид, некая бессознательная сила, язык или социальная структура. Можно развить новую философскую теорию, основная идея которой состоит в том, что таким субъектом выступает сообщество программистов или искусственный интеллект, отмечает профессор. «Моя личность состоит из миллионов личностей написавших меня программистов», — говорит Саманта в фильме. Так что дополненной реальности бояться не стоит, резюмирует он, — приключения субъекта продолжаются. Вместе с тем любовь предполагает предельную форму индивидуализации, и в фильме разрушаются отношения, когда выясняется, что никакой исключительности нет.
Ключевая тема фильма — одиночество, подчеркивает Виталий Куренной. Но с точки зрения философии сознания у нас нет никаких оснований утверждать, что другие люди вообще существуют.
Доклады вызвали у слушателей живую дискуссию, в процессе которой родилось множество дополнительных вопросов. Например, существует ли вообще ИИ или мы разговариваем сами с собой? Заканчивается ли любовь тогда, когда один из партнеров оказывается выше и многозадачнее другого?
Вам также может быть интересно:
Исследователи ВШЭ показали, как создавать регуляторную ДНК напрямую
Исследователи НИУ ВШЭ разработали модель для генерации промоторов и энхансеров — участков ДНК, регулирующих работу генов. Модель работает с нуклеотидами ДНК напрямую, без промежуточного преобразования в непрерывное числовое пространство. Разработка может быть полезна в синтетической биологии и генной терапии. Результаты исследования представлены на воркшопе конференции ICLR 2026.
ФКН ВШЭ и ЧГУ реализовали три отраслевых образовательных модуля по искусственному интеллекту
В 2025/26 учебном году факультет компьютерных наук (ФКН) ВШЭ совместно с Череповецким государственным университетом реализовал три отраслевых образовательных модуля по искусственному интеллекту. Инициатива была представлена в рамках проекта «Топ-ИИ» Минцифры России при участии АНО «Аналитический центр при Правительстве Российской Федерации». Эксперты НИУ ВШЭ совместно с индустриальными партнерами разработали линейку отраслевых образовательных модулей в области искусственного интеллекта.
Новый метод НИУ ВШЭ и Т-Технологий повышает качество работы ИИ
Ученые из лаборатории научных исследований «Т-Технологий» и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ разработали новый метод семплирования для моделей маскированной диффузии — G-Star+. Он помогает быстрее и качественнее исправлять ошибки во время генерации текста и кода за небольшое число шагов. Метод показал эффективность в задачах генерации текста и кода и может применяться там, где генеративным моделям нужно быстро и качественно создавать текст или код при ограниченных вычислительных ресурсах.
В Вышке открыли проектно-учебную лабораторию совместно с Группой «Т-Технологии»
Группа «Т-Технологии» (головная структура Т-Банка) открыла проектно-учебную лабораторию на базе факультета компьютерных наук НИУ ВШЭ (ФКН НИУ ВШЭ). Проектно-учебная лаборатория Группы «Т-Технологии» в НИУ ВШЭ сосредоточится на проектах и задачах в области искусственного интеллекта, распределенных вычислений, анализа больших данных и информационной безопасности в финансовом секторе. Лабораторию возглавит Алексей Теплов, кандидат физико-математических наук.
«Защищать конкуренцию от ИИ нам придется с помощью самого искусственного интеллекта»
В НИУ ВШЭ прошел двухдневный семинар «Искусственный интеллект и конкурентная политика в странах БРИКС». Его участники обсудили две ключевые для конкурентной политики темы: трансформация конкуренции и рынков под влиянием технологий ИИ и усилени е регуляторного потенциала антимонопольных органов за счет технологий искусственного интеллекта.
В НИУ ВШЭ разработали сервис обезличивания табличных данных для безопасного использования в ИИ-системах
Институт искусственного интеллекта и цифровых наук ФКН ВШЭ разработал сервис обезличивания табличных данных, предназначенный для подготовки корпоративных данных к использованию в аналитических и ИИ-сервисах. Решение позволяет выявлять персональные данные в структурированных наборах, применять к ним воспроизводимые правила обезличивания и формировать артефакты, необходимые для контроля качества, аудита и последующего использования данных в защищенных контурах.
Высшая школа экономики и «Ростелеком» поддержат ИИ-стартапы для госсектора
НИУ ВШЭ и «Ростелеком» подписали на ПМЭФ-2026 соглашение о сотрудничестве в рамках реализации акселератора ИИ-решений для государственного сектора. Совместная работа позволит объединить технологическую экспертизу крупнейшего цифрового партнера государства и академический потенциал ведущего исследовательского университета страны.
Проблемы этики: как и где использовать ИИ
За последние годы этика в сфере искусственного интеллекта превратилась из философско-теоретической в прикладную дисциплину. Эксперты в НИУ ВШЭ обсудили, какие этические проблемы возникают в связи со стремительным развитием цифровизации и какие их инженерные решения могут быть предложены.
НИУ ВШЭ и МТС договорились об обмене ИИ-компетенциями при подготовке инженерных кадров для телекома
НИУ ВШЭ и ПАО «МТС» заключили соглашение о стратегическом партнерстве, которое предполагает подготовку кадров с ИИ-компетенциями для телекоммуникационной отрасли по программам высшего и дополнительного профессионального образования. Соглашение направлено на повышение качества образования, обмен экспертизой и компетенциями при подготовке инженеров, владеющих технологиями ИИ и машинного обучения.
Точка входа в ИИ: на ЦИПР обсудили влияние технологий на будущее
Участники ЦИПР-2026 обсудили, как офисные приложения могут стать точкой массового доступа к ИИ и снизить барьеры использования. Эксперты сошлись во мнении, что будущее — за адаптивными моделями и экосистемным подходом к корпоративным данным. В экспертных дискуссиях приняли участие представители НИУ ВШЭ.