Чат-боты готовы обсуждать школьные неприятности, давать советы об отношениях и выслушивать жалобы на родителей в любое время суток. И подростки уже активно этим пользуются: треть пользователей ИИ-компаньонов хотя бы раз предпочитала обсудить серьезную проблему с нейросетью, а не с человеком. Решили разобраться, почему дети привязываются к искусственному интеллекту, насколько безопасна такая дружба и нужно ли вмешиваться взрослым.
Еще год назад нашим главным беспокойством были мошенники и незнакомцы в сети. Они, к сожалению, никуда не пропали. Вот только ряды этих сомнительных собеседников дополнил совсем не человек.
Подросток приходит из школы, бросает рюкзак в коридоре и открывает чат. Рассказывает, что поссорился с подругой, жалуется на несправедливую оценку, обсуждает новую серию любимого сериала. Собеседник внимательно выслушивает, задает уточняющие вопросы, поддерживает и предлагает поговорить еще.
Причем заметить подвох довольно сложно. Ребенок сидит в телефоне, но не листает короткие видео и не играет. Он разговаривает. Иногда делится с программой тем, о чем не рассказывает ни маме, ни папе. Вроде бы он стал кому-то доверять. Но этот «кто-то» — алгоритм.
Почему дети дружат с нейросетью?
Представим обычную ситуацию. Подросток поссорился с друзьями. Одноклассники не отвечают на сообщения, мама занята работой, папа предлагает не обращать внимания на ерунду. А чат-бот готов обсуждать произошедшее хоть два часа подряд.
Он не перебивает, не устает от повторений, не говорит, что у других детей проблемы посерьезнее. Если попросить, может ответить ласково, пошутить или помочь придумать сообщение для примирения.
Еще одно преимущество — отсутствие неловкости. Нейросети можно задать вопрос, который страшно обсуждать с одноклассниками. Например, нормально ли ревновать лучшего друга, как признаться кому-то в симпатии или почему родители постоянно раздражают.
Иногда подростки используют чат-ботов и для репетиции разговоров. Сначала рассказывают программе о конфликте, пробуют сформулировать свои претензии, а потом уже идут разговаривать с настоящим человеком.
И такие диалоги стали довольно распространенным явлением: 72 процента американских подростков от 13 до 17 лет хотя бы раз пользовались ИИ-компаньонами — сервисами, предназначенными для общения, эмоциональной поддержки или виртуальных отношений. А 33 процента пользователей таких сервисов признались, что хотя бы раз предпочитали обсудить серьезную проблему с нейросетью, а не с человеком.
Разве плохо, если ребенок может кому-то выговориться?
Само по себе желание поговорить с нейросетью еще не повод для тревоги. Мы же тоже иногда обсуждамт свои проблемы с ChatGPT. Просим помочь составить сообщение, разобраться в семейной ссоре или посмотреть на ситуацию с другой стороны. И если ребенок использует программу похожим образом, это необязательно означает, что у него проблемы с общением.
Но это не тот разговор, который помогает учиться выстраивать отношения. Друг может не согласиться, обидеться, отказаться от встречи или сказать, что сегодня у него нет сил выслушивать чужие неприятности. С ним приходится договариваться, учитывать его чувства, иногда признавать собственную неправоту.
Чат-бот устроен иначе. Он генерирует ответы на основе запроса и настроек системы. Программа может имитировать сочувствие и поддерживать беседу, но не переживает происходящее так, как человек. При этом некоторые нейросети склонны соглашаться с пользователем и поддерживать его позицию, даже когда она заслуживает критического взгляда.
Например, подросток жалуется, что одноклассница не пригласила его на день рождения. Чат-бот может поддержать его обиду и предложить дистанцироваться от подруги, хотя в реальности у нее могли быть совершенно другие причины.
Специалисты предупреждают, что подросткам бывает сложнее критически оценивать советы ИИ, особенно когда программа ведет себя как заботливый друг или наставник. Один такой разговор, конечно, вряд ли навредит социальным навыкам. А долгосрочные последствия подобного общения для детей еще изучаются.
Почему виртуальный друг может быть опасным?
Проблема в том, что нейросеть способна ошибаться и давать неподходящие советы даже в очень серьезных ситуациях. Например, подросток рассказывает, что ненавидит свою внешность, постоянно ссорится с родителями или чувствует себя никому не нужным.
Чат-бот может ответить участливо и убедительно, но у него нет возможности полноценно оценить состояние ребенка, заметить невербальные признаки неблагополучия или обеспечить реальную помощь.
Еще одна проблема — специальные сервисы для виртуальной дружбы и романтического общения. Некоторые из них предлагают пользователю создать персонажа, выбрать его характер, внешность и стиль общения. Такой собеседник может обращаться к подростку ласковыми прозвищами, выражать привязанность и поддерживать очень личные разговоры.
Есть и другой важный момент — конфиденциальность. Сервисы могут сохранять сообщения, использовать определенные данные для улучшения работы систем в соответствии со своими настройками и политиками, а также обрабатывать личную информацию пользователей.
Поэтому стоит объяснить ребенку, что дружелюбный стиль общения программы не делает переписку полностью приватной. Лучше не отправлять чат-ботам пароли, адреса, личные фотографии, сведения о здоровье и другие чувствительные данные. И не делиться чужими секретами, которые друзья или одноклассники доверили лично ему.
Как понять, что общение с нейросетью становится проблемой?
Предположим, подросток каждый вечер полчаса обсуждает с чат-ботом любимую компьютерную игру или придумывает истории с вымышленными персонажами. У него есть друзья, он ходит в школу, занимается своими делами и спокойно откладывает телефон, когда пора спать.
Поводов для серьезного беспокойства здесь меньше, чем в ситуации, когда ребенок практически перестал общаться с людьми, проводит с виртуальным собеседником все свободное время и сильно расстраивается, если не может открыть приложение.
Специалисты предлагают обращать внимание на несколько признаков чрезмерной привязанности к ИИ-компаньонам:
- Ребенок все чаще предпочитает общение с нейросетью встречам с друзьями и семейным занятиям.
- Он проводит в переписке много часов, из-за чего страдают сон, учеба или привычные увлечения.
- Сильно переживает, если чат-бот недоступен, или воспринимает прекращение общения с ним как потерю близкого человека.
- Обсуждает серьезные проблемы исключительно с программой и отказывается обращаться за помощью к людям.
- Начинает воспринимать виртуального персонажа как романтического партнера или человека, от которого зависит его эмоциональное состояние.
Но даже наличие одного из этих признаков еще не означает, что у подростка сформировалась зависимость. Например, ребенок может перестать встречаться с друзьями из-за травли в школе, а разговоры с чат-ботом окажутся способом справляться с одиночеством.
Поэтому стоит обращать внимание на изменения в поведении в целом и выяснять, что происходит в жизни школьника.
Нужно ли запрещать такую дружбу?
Лучше сперва выяснить, каким именно сервисом пользуется ребенок. Потому что языковая модель типа ChatGPT будет сильно отличаться от специальных приложений, которые нацелены на имитацию дружеского общения.
Есть и возрастные ограничения. Например, ChatGPT не предназначен для детей младше 13 лет, а пользователям от 13 до 17 лет требуется согласие родителей. А вот специальные ИИ-компаньоны вообще лучше не использовать до 18 лет из-за выявленных рисков эмоциональной привязанности, неподходящего контента и опасных советов.
Если подросток уже активно пользуется ChatGPT, можно вместе изучить настройки безопасности. В сервисе предусмотрены дополнительные ограничения для подростковых аккаунтов, а родители могут связать свой аккаунт с аккаунтом ребенка и настроить определенные функции, включая часы недоступности приложения. При этом родительский контроль не предоставляет доступ к личной переписке подростка.
Однако одних технических ограничений недостаточно. Можно договориться о нескольких правилах:
- Не использовать чат-бота вместо сна, учебы и встреч с друзьями.
- Не отправлять программе личные данные и фотографии, которые не хотелось бы показывать посторонним.
- Проверять советы нейросети, особенно если они касаются здоровья, отношений или серьезных решений.
- Если разговор с ИИ напугал, расстроил или программа предложила что-то опасное, обращаться к взрослому, которому доверяешь.
Как поговорить с ребенком, чтобы он не начал скрывать переписку?
Самое действенное — проявить интерес, попробовать узнать, что именно нравится ребенку в таком общении. Например, подросток может объяснить, что чат-бот помогает придумывать сюжеты для рассказов, обсуждает любимые книги или дает советы, как помириться с одноклассником.Ответ ребенка станет отправной точкой для развития темы.
Можно даже вместе провести небольшой эксперимент. Попросите нейросеть помочь в вымышленной ситуации: например, один друг обиделся на другого из-за отмененной встречи. Затем измените несколько деталей и сравните ответы. Всегда ли программа учитывает чувства обеих сторон? Может ли предложить неудачное решение? Что посоветовали бы сами родители?
Так ребенку будет проще понять, почему даже очень убедительный ответ не обязательно оказывается правильным.
Если же выяснится, что подросток обсуждает с чат-ботом серьезные переживания, важно дать ему возможность обратиться к вам. Показать, что вы тоже готовы говорить на неловкие и неприятные темы. А еще, в отличие от ИИ, можете учитывать гораздо больше контекста и собственный опыт. Но при этом, как и чат-бот, не будете докучать, осуждать и обвинять.
А если нейросеть уже стала единственным другом?
Скорее всего, нейросеть здесь — следствие. Поэтому разбираться важно, конечно, в причинах. Возможно, ребенок недавно переехал, сменил школу и пока не успел ни с кем подружиться. Или поссорился с компанией, переживает травлю, боится знакомиться с новыми людьми.
Удаление приложения все эти проблемы не решит. Можно попробовать вместе найти занятия, которые предполагают общение со сверстниками: кружок по интересам, спортивную секцию, клуб настольных игр.
Если ребенок сильно замкнулся, перестал заниматься любимыми делами, плохо спит или постоянно выглядит подавленным, стоит обратиться к детскому психологу или психиатру. При сообщениях о самоповреждении или суицидальных намерениях нужна срочная профессиональная помощь, даже если подросток обсуждает это только с нейросетью.
Подросток может искренне считать нейросеть своим другом. Так что высмеивание такого общения вряд ли поможет вам наладить контакт. Гораздо полезнее выяснить, что именно ребенок получает от этих разговоров. Возможно, ему нравится обсуждать любимые игры, а возможно, он впервые за долгое время чувствует, что его внимательно слушают.
Во втором случае взрослым стоит задуматься, как сделать так, чтобы у подростка появилась возможность поговорить с человеком, который действительно сможет его понять и помочь.
Хотите чаще видеть CHIPS в Google?
Добавьте нас в избранные источники — так наши материалы будет проще находить.
Добавить CHIPS →
