Li o texto mais recente do Dario Amodei, já que o tema domina uma das seis bolhas que frequento. Amodei é o CEO da Anthropic, dona do Claude. Já vinha sendo um ano esquisito para a empresa e seu líder. Seria ele um herói? Um vilão? Pois venceu a primeira batalha ao não se dobrar à vontade militar do governo americano, após intensa campanha de marketing que fez o Claude superar o chatGPT em número de downloads na App Store. Mas em dias, já não parecia o guardião de valores éticos e responsáveis. Seguia flertando com o Pentágono e tudo o que dizia soava um tanto oblíquo.
Inclinado a escrever grandes ensaios sobre a IA e o futuro da humanidade, Amodei publicou em meados de setembro o texto We must pace the frontier. E aí a desconfiança aumentou. E com ela, a incerteza.
Muitos criticaram no seu novo ensaio a mudança de postura em relação ao ritmo de desenvolvimento de novos modelos de IA. A mim, o problema foi outro. Um dos maiores líderes mundiais na área da tecnologia produziu um documento quase infantil em sua ingenuidade especulativa, mas principalmente absurdo do ponto de vista lógico. Em um mesmo parágrafo, o CEO da Anthropic chega a defender direções opostas, como frear e acelerar a IA.
Faltam ao seu manifesto a coesão e a coerência exigidas de um estudante numa redação do Enem. É preciso reduzir o ritmo com que as IAs são aprimoradas, defende ele, para na sequência neutralizar seu próprio apelo, revelando que não pretende parar o desenvolvimento ou o progresso técnico. Coincidência irônica, uma dissertação argumentativa é elaborada por uma das maiores empresas de tecnologia do planeta quando se revela a queda na compreensão textual dos jovens, medida pelo Pisa.
Amodei defende três etapas para conter a IA
No documento, a Anthropic defende três etapas diante de uma IA que pode salvar ou destruir o planeta. Mas se compromete só com uma: a avaliação por pessoal externo. Sua proposta de inspeção das empresas de IA é a contradição retórica central de seu manifesto. Porque a condição não está atrelada a interromper o desenvolvimento alucinado de produtos, anunciados em massivas enxurradas diárias.
As outras duas propostas envolvem, primeiro, uma cooperação externa com as democracias ocidentais (entenda a Ucrânia como mais democrática que o Brasil neste item) e, depois, o convencimento da China parar brecar seu ritmo vertiginoso.
“Juntamente com meus cofundadores e funcionários, tenho lidado com essa dualidade entre risco e benefício desde o início da Anthropic. Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente”, escreve Amodei.
O CEO diz que é necessário avançar, mas não tão rápido; propõe desacelerar, mas não perder vantagem; quer cooperar com a China, mas antes aumentar a capacidade de pressioná-la. Em muitos casos, não se trata de contradição lógica. São objetivos diferentes que tenta sustentar simultaneamente.
Se um dos líderes empresariais mais importantes do mundo antes mudava de opinião no intervalo entre seus ensaios, agora ele consegue em um único texto desdizer aquilo tudo o que disse antes. Na corrida desenfreada da IA, Amodei prefere ser essa metamorfose ambulante.