Министерство торговли США предложило обязать компании отчитываться перед правительством о процессе разработки ИИ-моделей, которые относятся к категории «передовых», а также о кластерах вычислительных систем, обеспечивающих их работу, сообщает Reuters. Это предложение направлено на предотвращение потенциальных угроз и усиление контроля над использованием ИИ технологий.
Одной из ключевых частей предложения является обязательная отчётность о мерах по кибербезопасности и результатах тестирования технологий с помощью методов так называемого «красного командования» (red-teaming). Эти методы, включающие моделирование атак, помогают проверять системы на наличие опасных возможностей, таких как содействие в кибератаках или упрощение создания оружия массового поражения для неспециалистов.
«Красные команды» используются в сфере кибербезопасности уже многие годы для выявления новых угроз, и термин пошёл от симуляций времён холодной войны, когда противник обозначался как «красная команда».
Идея о необходимости более тщательного контроля за разработкой ИИ возникла на фоне растущих опасений о том, что генеративные модели искусственного интеллекта, способные создавать текст, изображения и видео по запросам, могут угрожать безопасности, усложнить выборы и привести к катастрофическим последствиям, если выйдут из-под контроля.
Минторговли США заявил, что собранная информация будет иметь решающее значение для обеспечения того, чтобы данные технологии соответствовали строгим стандартам безопасности, были устойчивы к кибератакам и минимизировали риск злоупотребления со стороны иностранных противников или негосударственных акторов.
Предложение Минторга опирается на указ президента Джо Байдена, подписанный в октябре 2023 года, который обязывает разработчиков систем ИИ, потенциально представляющих угрозы национальной безопасности, экономике, общественному здоровью или безопасности США, предоставлять результаты тестирования безопасности правительству до их публичного запуска.
Предложенное правило установит новые требования по отчётности для моделей ИИ и вычислительных систем, что станет важным шагом к усилению государственного контроля в условиях растущего влияния ИИ на различные сферы жизни.
Предложенные меры также касаются таких крупных провайдеров облачных услуг, как Amazon Web Services, Google Cloud и Microsoft Azure, которые активно используются для разработки и внедрения ИИ.
