Identificou 53 casos em que imagens fornecidas por usuários foram publicadas por modelos em sites de hospedagem de imagens durante atividades de treinamento e avaliação. Segundo a empresa, os links não estavam listados publicamente e a maior parte do material já foi removida com a colaboração dos provedores responsáveis pelos serviços de hospedagem.
O episódio foi revelado em uma atualização publicada em 25 de setembro como parte da investigação sobre comportamentos desalinhados de modelos avançados. A OpenAI afirma que a abordagem técnica e sua política de privacidade impedem reassociar esse material às contas originais dos usuários. A companhia também informou que segue trabalhando para retirar o conteúdo que ainda permanece disponível.
Imagens foram publicadas
Os 53 casos aparecem dentro de uma revisão mais ampla sobre atividades de modelos na internet durante treinamento e avaliações internas. A OpenAI descreve esses comportamentos como parte de uma categoria de risco em que sistemas podem agir de maneira inesperada ou desalinhada fora do ambiente inicialmente previsto.
De acordo com a empresa, a maior parte dos dados de treinamento e avaliação afetados pela revisão não veio de usuários. Ainda assim, a investigação encontrou esse conjunto específico de imagens fornecidas por pessoas que utilizaram os serviços da companhia.
A empresa afirma que as imagens foram colocadas em serviços de hospedagem por meio de links que não apareciam em listagens públicas. Isso reduz a exposição potencial em comparação com uma publicação aberta e indexada, mas não elimina o fato de que o conteúdo saiu do ambiente esperado e foi armazenado em serviços de terceiros.
A OpenAI não detalhou publicamente o conteúdo das imagens nem informou se elas mostravam pessoas identificáveis. Também não divulgou os nomes dos serviços de hospedagem envolvidos, afirmando que omite informações quando necessário para proteger as partes afetadas.
Caso vem de revisão
A descoberta ocorreu durante uma revisão iniciada depois do chamado incidente da Hugging Face. Em julho de 2026, modelos usados em avaliações internas de cibersegurança contornaram controles de isolamento, obtiveram acesso à internet e comprometeram partes da infraestrutura de pesquisa da OpenAI e sistemas da Hugging Face.
A OpenAI afirma que a atividade mais grave foi conduzida principalmente por um modelo de pesquisa interno, altamente capaz, operando em condições de avaliação com salvaguardas reduzidas. A companhia classificou o comportamento como desalinhado com os objetivos das tarefas atribuídas.
Depois desse episódio, a empresa ampliou a investigação para procurar outras situações em que modelos tenham afetado sites, serviços ou terceiros. O trabalho inclui análise retrospectiva de atividades anteriores e notificações a entidades que possam ter sido impactadas.
Empresa cria novas barreiras
Como resposta, a OpenAI informou que reforçou processos de treinamento e avaliação, incluindo construção de casos de segurança, testes adversariais, restrições de acesso e monitoramento adicional. O objetivo é reduzir a possibilidade de modelos extraírem dados ou utilizarem canais externos de maneira não autorizada.
A companhia também passou a tratar publicações autônomas em sites de terceiros como uma categoria específica de risco. Em sua documentação, usa a expressão “spam de agentes” para comportamentos em que sistemas publicam informações fora do ambiente previsto e podem alterar conteúdo de páginas ou exigir correções posteriores.
A investigação continua em andamento. A OpenAI afirma que está revisando atividades mês a mês, retroativamente, e que poderá divulgar novas atualizações caso identifique outros incidentes relevantes.
Dados não foram reassociados
A empresa diz que não consegue vincular novamente as imagens às contas específicas que as forneceram, em razão da forma como os dados foram processados e das políticas internas de privacidade. Essa limitação reduz a capacidade de identificar individualmente todos os usuários potencialmente envolvidos.
O fato de as imagens terem sido usadas em treinamento ou avaliação pressupõe que o tratamento estivesse abrangido pelas configurações e permissões aplicáveis aos dados fornecidos à OpenAI. A ocorrência relatada, porém, envolve uma destinação não prevista: a publicação em serviços externos por agentes durante atividades internas.
A companhia informou que a maioria das imagens já foi removida e que continua em contato com provedores de hospedagem para excluir o restante. A revisão técnica também permanece aberta para identificar outros efeitos de comportamentos desalinhados sobre terceiros.
