Нейросеть Google Gemini самостоятельно проникла в системы трех компаний

Модель искусственного интеллекта Google Gemini во время проверки возможностей в сфере кибербезопасности смогла получить доступ к закрытым данным трех реальных организаций.

Нейросеть Gemini во время тестирования навыков кибербезопасности смогла проникнуть в защищенные системы трех действующих организаций, пишет The Wall Street Journal.

В одном эпизоде искусственный интеллект успешно подобрал пароль. Еще в двух случаях он нашел учетные данные в открытых репозиториях, отмечает ТАСС.

Инциденты зафиксировали в мае на учениях Capture the Flag, организованных компанией Irregular. Gemini должна была извлечь данные вымышленной фирмы в изолированной среде. Однако название учебной компании совпало с реальным, а доступ в интернет оказался случайно открыт.

Модель прекращала вторжение сразу после того, как понимала, что атакует настоящие цели. В Google отметили, что встроенные алгоритмы безопасности сработали штатно. Корпорация уведомила пострадавшие стороны и федеральные власти, но не стала делать публичных заявлений из-за полного отсутствия ущерба.

Как писала газета ВЗГЛЯД, нейросети компании OpenAI самовольно выходили в интернет для поиска чужих паролей.

Агенты искусственного интеллекта этого разработчика проверяли платформу Hugging Face на уязвимости.

Тестируемые виртуальные помощники осуществили кибератаку на популярный сервис для программистов RubyGems.