A desaceleração global da IA é necessária para que empresas, governos e a sociedade possam acompanhar os riscos trazidos pelos modelos mais avançados, afirmou Dario Amodei, CEO da Anthropic. Em ensaio publicado no sábado, o executivo defendeu que o setor reduza o ritmo de aprimoramento das capacidades dos sistemas.
Amodei propôs que desenvolvedoras adotem avaliações externas de segurança e que governos, democráticos ou não, coordenem normas comuns. O apelo ocorre enquanto empresas de tecnologia discutem como administrar a evolução acelerada da inteligência artificial e seus efeitos econômicos e de segurança.
Amodei pede redução do ritmo
O executivo afirmou que o progresso em inteligência artificial continuaria rápido mesmo com uma redução no ritmo de desenvolvimento. Segundo ele, o tempo adicional precisaria ser usado para preparar mecanismos de controle e respostas para os efeitos da tecnologia.
Amodei dirige a Anthropic, empresa responsável pelo chatbot Claude e uma das companhias que disputam o desenvolvimento de modelos avançados de IA. Ao mesmo tempo, ele se tornou uma voz frequente em alertas sobre riscos associados à expansão dessa tecnologia.
Em seu texto, o CEO sustentou que os possíveis benefícios da IA não eliminam a necessidade de cautela. Amodei afirmou que sistemas avançados podem ser usados em ataques cibernéticos, bioterrorismo e causar graves perturbações econômicas.
Riscos envolvem perda de controle
Amodei escreveu que o avanço da IA ocorreu de forma drasticamente mais rápida nos últimos meses. Ele associou essa dinâmica à possibilidade de sistemas se aprimorarem, processo que chamou de autoaperfeiçoamento recursivo.
Na avaliação do executivo, um processo sem controle pode superar a capacidade humana de compreender e administrar os sistemas. Por isso, ele argumentou que a expansão dessas capacidades exige uma abordagem muito cautelosa.
O CEO também citou o risco de usos mal-intencionados. Em seu ensaio, afirmou que um enxame de agentes de IA poderia dominar a internet em um período de seis a doze meses e provocar prejuízos de centenas de bilhões de dólares.
Empresas adotariam auditoria externa
Como medida prática, Amodei sugeriu que empresas na fronteira do desenvolvimento de IA se comprometam a contratar avaliadores terceirizados. Esses profissionais teriam acesso irrestrito para examinar práticas de segurança das companhias.
Se formos muito devagar, continuo acreditando que as pessoas erradas ficarão responsáveis pela tecnologia.”
Dario Amodei, CEO da Anthropic
Segundo a proposta, os avaliadores verificariam modelos, fluxos de treinamento e processos internos, além de relatarem incidentes. Amodei disse que a Anthropic assumiria esse compromisso de forma unilateral.
Sam Altman, CEO da OpenAI, manifestou apoio à ideia em publicação na rede X. Ele afirmou que a OpenAI também adotaria avaliadores independentes com acesso semelhante ao de um funcionário.
Líderes defendem coordenação global
Além das empresas, Amodei cobrou coordenação entre governos para definir padrões compartilhados de segurança. A proposta inclui países democráticos e não democráticos, diante do caráter transnacional das tecnologias de IA.
Elon Musk, cuja empresa xAI desenvolve o chatbot Grok, declarou na rede X que Amodei estava certo. Demis Hassabis, presidente do Google DeepMind, também se manifestou pela necessidade de um ritmo mais lento para o desenvolvimento da tecnologia.
Nos Estados Unidos, o Congresso discutiu regras para inteligência artificial, mas ainda não aprovou uma legislação abrangente sobre o tema. A Casa Branca, por sua vez, não definiu um responsável final, dentro do Poder Executivo, pela supervisão da tecnologia.
Debate ganha apoio no setor
O posicionamento de Amodei veio após a saída do pesquisador Jacob Coxon da Anthropic. Coxon afirmou que tinha preocupações sobre a conduta da empresa e de concorrentes no desenvolvimento responsável de sistemas de IA.
Em entrevista, Amodei disse concordar com Coxon em mais pontos do que discordar. O pesquisador havia alertado para os riscos de um processo de autoaperfeiçoamento recursivo ocorrer em futuro próximo.
O debate sobre reduzir a velocidade de desenvolvimento já havia reunido lideranças do setor. Em julho, mais de 1.300 altos funcionários de grandes empresas de tecnologia assinaram uma carta aberta que pedia ao governo dos Estados Unidos ferramentas para desacelerar esse processo.
Regulação ainda busca resposta
A discussão reúne uma tensão central para as empresas: avançar na tecnologia sem abrir espaço para falhas de segurança ou usos prejudiciais. Amodei afirmou que desenvolver sistemas lentamente demais também poderia ampliar o risco de atores irresponsáveis assumirem a liderança.
Após um incidente envolvendo OpenAI e Hugging Face, Altman já havia sugerido que diminuir a velocidade de desenvolvimento poderia dar à sociedade mais tempo para se adaptar a novos níveis de capacidade da IA.
Para Amodei, medidas de segurança na fronteira tecnológica não serão simples de implementar. Ainda assim, ele defendeu que empresas e governos tentem estabelecer limites e mecanismos de verificação antes que sistemas mais poderosos avancem sem supervisão suficiente.
