Mudança interna gera preocupação entre funcionários sobre a independência e o acesso da equipe aos pesquisadores que desenvolvem os modelos de IA.
Uma mudança interna na estrutura do Google voltou a acender o debate sobre até que ponto as gigantes de tecnologia conseguem equilibrar velocidade de lançamento de produtos com responsabilidade no desenvolvimento de inteligência artificial. A empresa completou, no início de setembro, a transferência de um grupo de cerca de 90 pessoas responsável por avaliar riscos dos modelos Gemini para fora da divisão DeepMind, remanejando a equipe para o setor de Assuntos Globais, área que cuida de políticas públicas e relações institucionais da companhia.
Time que analisava riscos biológicos e psicológicos muda de endereço dentro da empresa
O grupo deslocado é conhecido internamente como equipe de “responsabilidade em IA” e tinha a função de examinar os modelos Gemini antes do lançamento, com atenção especial a riscos de uso indevido em armas biológicas e a impactos psicológicos sobre usuários. O Google moveu o time de aproximadamente 90 pessoas que verifica o Gemini quanto a riscos de bioarmas e riscos psicológicos para fora da DeepMind, incorporando-o à divisão de assuntos globais da empresa, responsável pelo lobby junto a governos. A movimentação foi concluída no começo de setembro, e funcionários que pediram para permanecer na DeepMind tiveram o pedido negado.
Segundo apurações do setor, a mudança organizacional coincide com outro evento relevante na estrutura de liderança da empresa. A reorganização ocorreu no mesmo mês em que o presidente-executivo da DeepMind, Demis Hassabis, deixou o cargo para assumir uma função de presidente do conselho. A combinação dos dois movimentos gerou leitura entre analistas de que a companhia está reformulando o papel da governança de segurança dentro de sua hierarquia de decisão sobre lançamentos de produtos de IA.
Esse tipo de realocação interna raramente vira notícia fora dos círculos especializados em tecnologia, mas ganha peso quando envolve justamente a equipe responsável por travar ou liberar o lançamento de modelos usados por bilhões de pessoas. A proximidade física e hierárquica entre quem testa os riscos e quem desenvolve o produto costuma ser vista, por especialistas em governança de IA, como um fator que influencia diretamente a rapidez e o rigor das avaliações de segurança.
Funcionários temem perda de independência na avaliação de riscos
A preocupação central levantada internamente diz respeito à autonomia da equipe para barrar um lançamento caso identifique um risco relevante. Parte dos funcionários da equipe manifestou receio de que o remanejamento limite sua independência e reduza o acesso aos pesquisadores que desenvolvem os modelos Gemini. Isso porque, ao integrar uma área voltada para relações governamentais e não mais para pesquisa, o grupo passa a responder a uma cadeia de comando distinta daquela que efetivamente constrói e testa os sistemas de IA.
Na prática, isso significa que as pessoas com autoridade para segurar um lançamento por motivo de risco biológico, químico ou de enganação passam a estar fisicamente e hierarquicamente mais distantes de quem desenvolve o produto no dia a dia. Esse distanciamento é apontado por parte dos observadores do setor como um sinal de que considerações comerciais podem ganhar peso maior frente a avaliações técnicas de segurança nas decisões finais de lançamento.
A discussão não é apenas teórica. Em um mercado no qual empresas como OpenAI, Anthropic e Meta competem para lançar modelos cada vez mais avançados em ciclos curtos, qualquer sinal de enfraquecimento das equipes internas de segurança tende a ser interpretado como um indicativo da pressão competitiva que molda as decisões dessas companhias, inclusive nos bastidores que o público final não costuma acompanhar.
Proposta de um órgão externo independente ganha força entre especialistas
Enquanto a própria estrutura interna da empresa é reorganizada, o ex-presidente-executivo da DeepMind vem defendendo publicamente a criação de um mecanismo externo de fiscalização para toda a indústria. Demis Hassabis defende a criação de um órgão independente, nos moldes da reguladora financeira americana FINRA, para testar modelos de fronteira quanto a riscos cibernéticos, biológicos e de enganação antes do lançamento, com a meta de tê-lo em funcionamento até o fim do ano.
A proposta ganha contornos particulares porque surge em um momento no qual o governo americano tem se posicionado contra uma regulação formal do setor de inteligência artificial, deixando a cargo das próprias empresas a definição de padrões de segurança. Esse pano de fundo político amplia a relevância de decisões internas como a reorganização do Google, já que, na ausência de regras externas obrigatórias, a governança das empresas se torna o principal freio disponível sobre o ritmo de lançamentos.
Ainda não há consenso sobre quem financiaria ou coordenaria esse tipo de órgão independente, nem sobre como ele se relacionaria com iniciativas regulatórias que já existem em outras partes do mundo, como o AI Act europeu. Mas a proposta reflete uma percepção cada vez mais compartilhada dentro da própria indústria de que a autorregulação, sozinha, pode não ser suficiente para acompanhar o ritmo de avanço dos modelos mais recentes.
O que a reorganização sinaliza para o futuro do desenvolvimento de IA
A movimentação da equipe de responsabilidade não é o primeiro rearranjo estrutural do Google envolvendo a DeepMind neste ciclo. Em outro momento recente, a empresa também uniu times que antes operavam de forma mais isolada, consolidando o AI Studio e a equipe responsável pela API da série de modelos Gemini sob a estrutura da DeepMind, com o objetivo declarado de acelerar a passagem da pesquisa para o desenvolvedor final. Esse tipo de movimento sugere uma estratégia mais ampla de reorganização que busca reduzir camadas entre pesquisa e produto.
Para o público em geral, a reorganização não altera de imediato o funcionamento do Gemini nem interrompe o desenvolvimento de novos modelos. O impacto é estrutural e institucional: a mudança redefine quem, dentro do Google, tem poder de veto sobre um lançamento por motivos de segurança, e a que área essa pessoa responde.
O episódio se soma a um conjunto de discussões que têm ganhado força entre especialistas do setor sobre até que ponto a corrida por lançamentos rápidos de novos modelos de linguagem está pressionando as equipes internas de segurança das grandes empresas de tecnologia, uma tensão que deve seguir no radar de desenvolvedores e usuários ao longo dos próximos meses, incluindo no Brasil, onde o Gemini já está integrado a diversos produtos usados diariamente por empresas e consumidores.
Fontes:
- https://startupfortune.com/google-moves-its-ai-safety-team-into-the-division-that-runs-its-lobbying/
- https://qz.com/google-ai-responsibility-team-deepmind-global-affairs-082726
- https://techcrunch.com/?p=2943201