Себе на уме: стоит ли дарить детям на Новый год игрушки с искусственным интеллектом

Подробности о том, стоит ли дарить детям на Новый год игрушки с искусственным интеллектом, читайте в материале РИАМО.

Набирающие популярность во всем мире игрушки с искусственным интеллектом могут нести в себе большое количество рисков — об этом предупредили эксперты. В частности, такие игрушки могут давать детям вредные и небезопасные советы, а киберпреступники благодаря цифровым уязвимостям могут использовать их в своих целях. Подробности о том, стоит ли дарить детям на Новый год игрушки с искусственным интеллектом, читайте в материале РИАМО.

Почему игрушки с ИИ набирают популярность

Игрушки с ИИ становятся популярными потому, что генеративные модели достигли уровня, позволяющего формировать у пользователя ощущение «живого взаимодействия», говорит в беседе с РИАМО руководитель научно-исследовательского отдела «Интеллектуальные системы» Московского технического университета связи и информатики (МТУСИ), кандидат технических наук, исследователь и разработчик в области ИИ Грач Мкртчян.

«Родители воспринимают их как элемент раннего когнитивного развития, а производители активно внедряют модели, чтобы предложить продукт с персонализированным и умным поведением. По сути, рынок переносит в игрушечный сегмент те же технологии, которые используются в виртуальных ассистентах — таких, как ChatGPT», — рассказывает эксперт.

Сегодня тренд на умные электронные игрушки со встроенным ИИ набирает популярность в Китае, где масштабы производства позволили снизить стоимость датчиков, микрочипов и базовых алгоритмов для внедрения машинного обучения, отмечает IT-предприниматель и основатель платформы Supercheap.ru Алексей Бальчунас. Это сделало сложные интерактивные игрушки доступными для среднего класса и вызвало взрывной рост спроса.

«Игрушки с ИИ стали популярным подарком, поскольку они умеют разговаривать, подстраиваться под ребенка и создают эффект живого общения. Для родителей это кажется технологичным и полезным решением, но вместе с тем появляются и серьезные риски», — дополняет руководитель компании «Кибербастион» Владислав Кокунцыков.

Какие риски несут в себе «умные» игрушки с ИИ

Игрушки с ИИ несут в себе структурные риски, связанные с природой современных моделей: по словам Грача Мкртчяна, генеративный искусственный интеллект работает на вероятностной основе, и даже при наличии встроенных фильтров, контент-модераторов и поведенческих ограничителей модель остается уязвимой к обходным техникам.

«Практика показывает, что джейлбрейки (специальные формулировки, которые заставляют модель игнорировать или обходить защитные контуры) остаются реальной проблемой даже в корпоративных продуктах. В игрушках, где система защиты обычно упрощена, вероятность обхода значительно выше. Поэтому устройства могут неожиданно уходить в темы, которые разработчик не предусматривал»

Грач Мкртчян

руководитель научно-исследовательского отдела «Интеллектуальные системы» МТУСИ

Главная угроза — непредсказуемость поведения ИИ. Даже корректно обученные модели иногда дают ответы, не подходящие детям: от сомнительных советов до тем, которые ребенок вообще не должен слышать, соглашается Владислав Кокунцыков.

Как игрушки с ИИ могут использовать злоумышленники

«Умные» игрушки с ИИ могут записывать не только голоса детей, но и фоновые разговоры в доме, собирать биометрические данные, информацию о привычках и распорядке дня, рассказывает в беседе с РИАМО Алексей Бальчунас. Где и как хранятся эти данные, кто имеет к ним доступ — эти вопросы пока остаются без ответа. Их могут получить злоумышленники, а затем использовать в корыстных целях — для манипуляций, фишинга и шантажа.

«„Умные” игрушки часто собирают голосовые данные, причем производители далеко не всегда применяют зрелые практики кибербезопасности. Это создает потенциал для компрометации канала связи или подмены поведения модели»

Грач Мкртчян

руководитель научно-исследовательского отдела «Интеллектуальные системы» МТУСИ

По словам эксперта, на уровне угроз ИИ-игрушка, помимо забавы для ребенка, становится еще брешью в цифровой экосистеме, к которой могут получить доступ злоумышленники. Микрофоны, интернет-подключение и постоянная активность — все это создает риск утечки информации, соглашается Владислав Кокунцыков.

«Киберпреступники могут использовать такие устройства как входную точку: подслушивать, перехватывать трафик, менять ответы игрушки, а иногда — даже проникать в домашнюю сеть», — предупреждает специалист. А еще «безобидная» игрушка может стать элементом глобальной ботнет-сети. И это не сценарии фантастики — это реальность незащищенных гаджетов.

Как безопасно использовать «умные» игрушки c ИИ

Безопасное использование игрушек с ИИ требует осознанного операционного подхода: важно выбирать производителей, которые документируют архитектуру защиты и регулярно выпускают обновления, советует Грач Мкртчян. Кроме того, необходимо ограничивать сетевые права устройства и периодически проверять, как модель ведет себя в реальных сценариях.

«Взрослым важно понимать, что это не „умная игрушка”, а полноценная ИИ-система с типовыми уязвимостями, характерными для всех моделей», — предупреждает собеседник РИАМО.

По мнению Владислава Кокунцыкова, ИИ-игрушки не стоит полностью исключать из вариантов новогодних подарков — при грамотной настройке они могут быть безопасны. Однако родителям важно соблюдать ряд рекомендаций:

выбирать производителей, которые открыто говорят о защите данных и выпускают обновления;

перед покупкой убедиться, что устройство безопасно для использования детьми;

отключать все лишнее — особенно геолокацию и постоянный микрофон;

подключать игрушку к гостевой Wi-Fi-сети, а не к основной;

периодически проверять, какие диалоги ведет устройство;

своевременно ставить обновления.

«Для снижения рисков важно тщательно выбирать производителей с хорошей репутацией и отзывами, в продукции которых есть проверка контента и регуляция работы ИИ, самостоятельный контроль использования игрушки, установка ограничений и мониторинг разговоров»

Алексей Бальчунас

IT-предприниматель и основатель платформы Supercheap.ru

При этом важно параллельно беседовать с ребенком, предупреждать о рисках и обучать критически относиться к любому совету от устройств.

Стоит ли дарить игрушку с ИИ ребенку на Новый год

Дарить ли игрушку с ИИ ребенку на Новый год — вопрос приоритета: если родители готовы сопровождать использование и контролировать поведение системы, такой гаджет может выступать как образовательный инструмент, говорит Грач Мкртчян. Но если ожидать полностью предсказуемый и безопасный продукт без рисков обхода защитных механизмов, то текущий уровень зрелости генеративных моделей делает такие устройства плохим выбором. Однако это справедливо не только для ИИ.

«Покупать гаджет с ИИ стоит в том случае, если вы готовы подойти к этому как к покупке умного устройства, а не просто милой игрушки. При ответственном выборе и базовых мерах безопасности она может быть интересным и развивающим подарком»

Владислав Кокунцыков

руководитель компании «Кибербастион»

В то же время, если производитель неизвестен, а характеристики выглядят сомнительно, лучше остановиться на традиционном варианте. В мире ИИ-устройств осторожность — это не перестраховка, а необходимость, подчеркивает эксперт.

«Родителям не нужно бояться дарить ребенку игрушку с ИИ на Новый год. Это можно сделать, если внимательно отнестись к выбору модели и контролировать процесс игры, учитывая все риски», — заключает Алексей Бальчунас.