Relatório da METR diz que a Anthropic usa IA para acelerar o desenvolvimento de novas IAs
Segundo a organização de segurança, modelos da empresa evoluem cerca de duas vezes mais rápido que há um ano, e a própria IA responde pela maior parte do ganho
A organização de pesquisa em segurança de IA METR publicou, na quinta-feira (5), um relatório sobre o processo interno de pesquisa e desenvolvimento da Anthropic, empresa responsável pela família de modelos Claude. O documento é resultado de uma investigação de 11 semanas dentro da companhia, e a conclusão central é que a inteligência artificial já acelera a criação de inteligência artificial.
Ritmo dobrado
Segundo a METR, as capacidades dos modelos da Anthropic avançam cerca de duas vezes mais rápido do que avançavam um ano atrás. A avaliação se apoiou em dados internos fornecidos pela empresa, referentes ao período de meados de agosto ao fim de outubro, além de entrevistas com funcionários. Pesquisas informais no Slack, nas quais colaboradores relataram ganhos de produtividade, também entraram na análise, segundo a reportagem da Dataconomy.
Para a METR, a ajuda de sistemas de IA aos pesquisadores humanos é o principal motor dessa aceleração, e não a atuação totalmente autônoma. A organização, no entanto, avaliou que já há sinais de que contribuições dessa natureza podem ganhar peso em breve. Os pesquisadores também não identificaram gargalos, como limites de poder computacional ou de dados, capazes de frear o avanço nos próximos meses.
Relatório com partes ocultas
A divulgação, porém, ficou incompleta. De acordo com o imasters, a empresa retirou grande parte das evidências de um relatório de 100 páginas antes de torná-lo público. A reportagem afirma que metade do material foi suprimida. Já a publicação Mezha descreve a situação de forma mais genérica, dizendo que a Anthropic ocultou trechos da versão pública, o que limita a capacidade de quem lê de avaliar o ritmo e os riscos da pesquisa de fronteira. As duas fontes concordam no ponto principal: a versão divulgada não traz tudo o que a METR examinou.
A METR analisou ainda o relatório público de risco da empresa, publicado em agosto, além de uma versão privada e outras informações não divulgadas. Segundo a organização, o documento público subestimou o grau de aceleração interna. A Anthropic não respondeu de imediato aos pedidos de comentário da agência ABC News.
O dilema do setor
O caso expõe uma contradição apontada por analistas. A empresa defende publicamente o desenvolvimento responsável e cautela com a tecnologia, mas o relatório sugere que seu trabalho contribui para acelerar a IA em direção a um patamar que muitos consideram perigoso, conforme a Mezha. Em setembro, Dario Amodei, CEO da companhia, já havia defendido que o setor desacelere o ritmo de desenvolvimento, segundo o verbete da Wikipédia sobre o executivo.
Vale notar que o estudo cobre apenas a Anthropic. Não há, pelo material consultado, uma avaliação equivalente sobre OpenAI, Google ou outros laboratórios. Por ora, a conclusão se restringe a um único caso, ainda que o precedente seja relevante para quem acompanha o futuro da pesquisa em IA.