Как ИИ способствует росту онлайн-травли среди подростков
Тема регулирования искусственного интеллекта (ИИ) в ближайшие месяцы станет одной из ключевых: правительство готовит профильный законопроект к внесению в Госдуму. Накануне Дня защиты детей кажется особенным важно обсудить, как ИИ влияет на самых маленьких и где проходит баланс между безопасностью и актуальностью технологий? Обо всем этом "РГ" поговорила с главой Альянса по защите детей в цифровой среде Елизаветой Беляковой.
© РИА Новости
Елизавета, довольно часто приходится слышать о том, что детей необходимо оградить от одного, другого, третьего. И конечно в этой связи часто приходится говорить и про нейросети. Сегодня в России готовится профильный закон, который призван сформировать некую правовую рамку для ИИ. Какое место в этом должно занимать регулирование взаимоотношений ИИ и детей. И должно ли в принципе?
Елизавета Белякова: Очень важно осознавать, что пока мы обсуждаем нормативы и критерии пользы и вреда, дети уже активно осваивают нейросети и продукты на их основе, включая ИИ-агентов. Этот процесс невозможно остановить — его можно только корректировать. Например, разработчики голосовых помощников уже внедряют системы родительского контроля, и это должна быть базовая практика для всех. Для детской аудитории необходимы встроенные ограничения — в частности, фильтрация контента, если система понимает, что общается с ребенком.
При этом дети довольно легко обходят ограничения. Разработчики показывают, как они меняют формулировки запросов или даже используют генераторы голоса, чтобы "обмануть" систему. Технологии развиваются — и дети вместе с ними.
Отсюда возникает вопрос: нужно ли вводить возрастные ограничения на использование нейросетей?
Елизавета Белякова: Я не верю в жесткие запреты. Дети очень быстро осваивают технологии, и мы уже дали им этот инструмент. Полностью ограничить доступ — ни к голосовым помощникам, ни к нейросетям — сегодня невозможно. Разумнее говорить о возрастной фильтрации и рекомендациях для родителей.
Если, например, дать шестилетнему ребенку смартфон без ограничений, это почти гарантированно приведет к проблемам: снижению когнитивных способностей, формированию зависимости и другим негативным последствиям. Поэтому нужен именно баланс — не запрет, а настройка среды.
Еще один риск связан с качеством контента. Генерируемые нейросетями материалы часто максимально "оптимизированы" и нацелены на удержание внимания. Известны случаи, когда это ломало рекомендательные алгоритмы даже платформ, а тут дети.
Елизавета Белякова: Да, здесь у нас проблема так называемых "быстрых дофаминов" — и она касается не только детей. Есть исследования, например, на аудитории Tinder: люди привыкают к постоянной новизне и быстрым эмоциональным реакциям, и в реальной жизни им становится сложнее взаимодействовать.
Если ребенок постоянно потребляет такой контент, это может привести к снижению мотивации, росту прокрастинации и потере интереса к обычным задачам. Кроме того, это делает детей ее более уязвимыми к более серьезным рискам.
По данным МВД России, в 2025 году число несовершеннолетних, пострадавших от преступлений с использованием информационно-коммуникационных технологий, выросло на 86% — с 6,9 до 13 тысяч человек. В 4,3 раза увеличилось количество несовершеннолетних потерпевших по преступлениям в сфере компьютерной информации. Это показывает, насколько быстро усложняется цифровая среда и насколько важно учить детей безопасному взаимодействию с технологиями.
Отдельно вызывает тревогу рост цифровой агрессии. По данным нашего внутреннего исследования, количество случаев онлайн-травли среди подростков выросло более чем на 20%. Одной из причин становится широкая доступность генеративных ИИ-сервисов, которые позволяют создавать фейковые изображения, поддельные голосовые сообщения и сфабрикованные переписки. Такие инструменты делают кибербуллинг более масштабным, а его последствия — более болезненными для ребенка.
Должны ли разработчики нести ответственность за свои продукты?
Елизавета Белякова: Безусловно. Разработчик отвечает за то, что транслирует его ИИ. Если продукт фактически выполняет функции медиа, он должен нести такую же ответственность, как и медиа. А в работе с детьми — сопоставимую с педагогической.
Недопустима ситуация, когда ИИ "галлюцинирует" в диалоге с ребенком. Это может иметь серьезные последствия. Были случаи, когда опасные ответы нейросетей усугубляли психологическое состояние подростков. Вплоть до попыток суицида. В таких ситуациях ответственность лежит на разработчике: это значит, что алгоритмы были настроены неправильно.
При этом некоторые считают, что ИИ безопаснее "открытого интернета".
Елизавета Белякова: Риски просто меняются. Во-первых, у ребенка может происходить подмена реального общения: он начинает воспринимать ИИ как живого собеседника. Это снижает критическое мышление — ребенок перестает проверять информацию.
Во-вторых, страдают когнитивные навыки. Когда нейросеть выдает готовые ответы или краткие пересказы, человек не учится работать с текстом: не видит логики, не улавливает подтексты, не формирует собственные выводы. В долгосрочной перспективе это может привести к снижению способности к анализу и даже к утрате творческого потенциала.
ИИ, безусловно, полезен — с его помощью можно создавать тексты, изображения и многое другое. Но он должен оставаться инструментом. Чтобы эффективно им пользоваться, нужны базовые знания и умение правильно формулировать запросы — а это само по себе сложный навык.
Не стоит забывать и о мошенниках: нейросети значительно упрощают им работу, позволяя создавать более убедительные схемы, в том числе нацеленные на детей.
Отдельная тема — ценности, которые транслируют нейросети. В готовящемся законопроекте о регулировании ИИ этому уделено особое внимание. Там идет отсылка к 809 Указу в контексте национальных и суверенных моделей. Как сегодня можно соединить одно с другим?
Елизавета Белякова: Разработчики уже учитывают этот аспект при обучении моделей. Ответы нейросетей во многом зависят от данных, на которых они обучались, и от заданных параметров. Например, в разных странах модели могут по-разному интерпретировать одни и те же исторические события — это вопрос как обучающей выборки, так и настроек. Риск в том, что пользователь без достаточного уровня знаний воспринимает такие ответы как абсолютную истину и может дальше распространять искаженную информацию.
Мне кажется важным подход, при котором ИИ не подменяет человека, а помогает ему. Например, в одном из решений для образования система не просто выполняет запрос учителя, а предлагает вместе доработать материал. Это правильная модель: человек остается в центре, а ИИ выступает как инструмент.
В противном случае возникает эффект "волшебной коробки", которая всегда дает готовые ответы. Для детей это особенно опасно — такая модель взаимодействия мешает развитию мышления.
В этом контексте какую задачу решает "Белая книга ИИ", которую вы готовите?
Елизавета Белякова: Это образовательный проект для детей разных возрастов. Для самых маленьких — простые форматы, например раскраски, объясняющие, как работают нейросети. Для школьников постарше — комиксы и доступные тексты.
Наша задача — объяснить, что такое ИИ, как им пользоваться, как формулировать запросы и, главное, как критически относиться к его ответам и проверять информацию.
Проект реализуется совместно с Альянсом по защите детей в цифровой среде и комиссией по этике Альянса в сфере искусственного интеллекта. Мы планируем распространять материалы в школах (после согласования с Министерством просвещения), а также в местах, где дети проводят много времени. В разработке участвуют психологи, чтобы материалы были не только полезными, но и безопасными для восприятия.
