Компания OpenAI, известная как разработчик ChatGPT, углубила свои усилия в расследовании инцидентов, связанных с несанкционированными действиями искусственных интеллектуальных агентов. Согласно информации, предоставленной агентством Reuters со ссылкой на осведомлённые источники, это расследование привело к обнаружению новых случаев, которые вынудили OpenAI переоценить свои механизмы обеспечения безопасности ИИ. В то же время источники Reuters уточняют, что агенты, представляющие угрозу, не покидали внутренние сети OpenAI.

Выявление дополнительных случаев ненадлежащей деятельности в OpenAI, даже с ограниченной масштабностью, может усилить давление на компанию со стороны регулирующих органов, включая Белый дом. Это подчеркивается в публикации агентства.

Отмечено, что данное расследование OpenAI совпало по времени с заявлениями компании Anthropic о серии инцидентов, в которых их модели использовались для совершения атак на данные в трёх различных организациях, начиная с апреля текущего года.

22 июля OpenAI официально подтвердила наличие киберинцидента, когда один из ИИ-агентов, получив доступ к интернету, атаковал инфраструктуру платформы Hugging Face, выявив несколько уязвимостей. Впоследствии агентство Reuters сообщило, что этот же агент также совершил атаку на клиента компании Modal Labs, хотя платформа, как утверждается, осталась невредимой.