В США могут запретить чат-бот Grok, созданный бизнесменом и изобретателем Илоном Маском. С момента анонса в ноябре 2023 года сервис вызвал у пользователей массу претензий, но настоящий скандал разразился в августе 2024-го, когда инструмент начали использовать в политической борьбе между Дональдом Трампом и Камалой Харрис. Как считает ряд экспертов, потенциальный запрет Grok может создать прецедент и привести к ужесточению цензуры в сфере генеративного ИИ. Подробнее о возможных последствиях и причинах скандала с сервисом — читайте в материале «Известий».
Исследователи британского Центра по борьбе с цифровой ненавистью выяснили, что сервис Grok способствует распространению ложной информации о выборах в США. Платформа позволяет распространять изображения через соцсеть X, ранее известную как Twitter. На многочисленные призывы к блокировке сервиса пришлось реагировать его основателю Илону Маску. Сначала бизнесмен пытался отшутиться, но впоследствии внес коррективы в работу сервиса в той части, которая касается информации о президентских выборах 2024 года. Это произошло после того, как пятеро сенаторов США потребовали прекратить распространение недостоверной информации о деталях избирательной кампании.
Сервис Grok — часть экосистемы платформы X, запрещенной в России. Доступен в комплекте платной подписки X Premium, стоимость которой составляет $84 для США и €84.00 для стран Евросоюза. Сервис не снабжен этическим фильтром и позволяет делать провокационные иллюстрации по обычному текстовому запросу. У граждан РФ нет легального доступа к чат-боту Grok, как и к подписке X Premium.
С помощью Grok любой подписчик способен по текстовому описанию получить за считанные минуты картинку с любым содержанием, которое не сдерживается никакими этическими нормами или моральными барьерами, сообщил «Известиям» IT-журналист Сергей Поморцев.
— Это сознательный выбор Маска. Еще в апреле 2023 года он заявил в интервью Такеру Карлсону о том, что создаст конкурента для платформы ChatGPT от компании OpenAI. По словам Маска, он еще тогда решил, что будущий сервис станет беспристрастным инструментом, в отличие от «политически корректного GPT», но на практике мы видим, как с помощью сервиса создают «бомбардировки» Эйфелевой башни и компромат на политиков, — сказал эксперт.
Популярный технологический портал Beebom призвал к блокировке сервиса, так как он игнорирует «политически корректные» стандарты и новости. На этом фоне стоимость токенов $GROK упала до исторического минимума. Если тенденция продолжится, то $GROK может стать одним из самых убыточных активов Маска за последние годы, заявил эксперт Эмерсон Брукинг в интервью сайту Tech Xplore.
Главная уязвимость Grok заключается в способах исказить запросы таким образом, чтобы получить результат, противоречащий законам отдельных штатов США или стран Евросоюза, отметил Брукинг. При этом запрет или любое иное нарушение деятельности Grok рискует создать новый прецедент в сфере генеративного ИИ, который приведет к ужесточению контроля в этой сфере и потребует от рынка разработки новых правил, заявил в интервью американский эксперт. В результате система будет строже относиться к текстовым запросам от пользователей.
Подобного рода сервисы в Америке и других странах обычно задействуют как во внутренней, так и во внешней политической борьбе, рассказал директор MTS AI Дмитрий Марков.
— Речь не об ошибках Илона Маска, возможно, дело в попытке получить широкий резонанс. Маркировка контента на использование ИИ при его создании (детекция дипфейков), отфильтровка по нежелательным запросам или премодерация контента (курящие и пьющие алкоголь люди, запрещенные жесты, сцены с насилием и прочие) являются в настоящее время вполне решаемой задачей, — добавил эксперт.
Шумиха вокруг этого чат-бота — маркетинговый прием Илона Маска, согласен ведущий эксперт Центра компетенций Национальной технологической инициативы (НТИ) «Искусственный интеллект» на базе МФТИ Александр Родин. Он отметил, что в США сразу же возникла волна хейтеров, оскорбленных неполиткорректными и зачастую просто нецензурными «высказываниями» бота. Бизнесу Маска это на руку, ведь количество подписчиков в результате скандальной репутации бота ожидаемо вырастет, считает эксперт.
— Технология больших языковых моделей, на основе которой построены ChatGPT, Grok, GigaChat высветила очевидную проблему — в мире существует множество культур, субкультур и просто информационных пузырей, представители которых говорят на разных языках, имеют диаметрально противоположные ценности и жизненные установки. Соцсети разрушили надежды адептов культурной глобализации на приведение человечества к единому стандарту, и реакция западной правоохранительной системы на феномен Telegram — яркий тому пример, — заявил Александр Родин.
В России существует альянс в сфере ИИ, который регламентирует деятельность нейросетей и генеративного искусственного интеллекта. Как рассказал представитель альянса Татьяна Донская, в целях контроля за ИИ в РФ разработали регламентирующий документ для всех участников рынка: кодекс этики в сфере ИИ. Всего в РФ к нему присоединилось свыше 380 участников.
— Во время разработки нейросетевых моделей проводятся постоянные тестирования, чтобы находить максимально возможное количество промтов (наборов инструкций), которые позволяют получить неэтичный контент, и обучать ИИ не отвечать на такие запросы, — рассказала Татьяна Донская «Известиям».
Компании из РФ просто придерживаются другой стратегии продвижения, которая базируется на том, чтобы показать непосредственную пользу от применения продуктов, основанных на нейросетях, рассказал эксперт рынка НТИ TechNet (Технет) Антон Аверьянов.
Гендиректор компании Future Crew Евгений Черешнев подчеркнул, что видит пользу не в создании масштабного генеративного ИИ, как Grok, который якобы способен ответить на любой вопрос, а в разработке ИИ-агентов узкого применения: ИИ-контентмейкерах, ИИ-программистах и так далее. По словам эксперта, таким агентам не нужно знать все — достаточно фокусного материала в той сфере, в которой они работают.
— Такой подход упрощает контроль за этичностью ответов ИИ-агента,— сказал Евгений Черешнев.
В то же время, по мнению генерального директора MTS AI Андрея Калинина, более совершенные модели генерации нуждаются в более сложных механизмах фильтрации.
Что касается скандального сервиса Маска, то пока проблемы с распространением оскорбительного контента остаются, о чем сообщают многочисленные пользователи сервиса.
