O CEO da Anthropic, Dario Amodei, reafirmou nesta quinta-feira (19) o compromisso da empresa com o desenvolvimento responsável da inteligência artificial (IA). Durante a cerimônia de abertura do pregão da Nasdaq, em Nova York, o executivo declarou que a companhia manterá o ritmo de treinamento e implementação de seus sistemas de IA de acordo com critérios de segurança, sem ceder a pressões comerciais ou políticas.
A declaração ocorreu no dia em que a Anthropic estreou na Bolsa de Valores em uma operação que já é descrita como a maior oferta pública inicial (IPO) da história. Em seu discurso, Amodei destacou os benefícios que a tecnologia pode trazer para áreas como medicina e pesquisa científica, mas também chamou atenção para os riscos associados ao avanço acelerado da IA.
Anthropic pretende manter desenvolvimento da IA sob controle humano
Ao falar sobre a origem da empresa, Amodei explicou que a Anthropic foi criada com o objetivo de desenvolver tecnologias poderosas em benefício da humanidade. Ele também mencionou a morte de seu pai, vítima de uma doença que se tornou tratável poucos anos depois, como uma das experiências que influenciaram sua trajetória.
O executivo, que iniciou a carreira na área de biologia, destacou o potencial da inteligência artificial para acelerar descobertas científicas. Segundo ele, ferramentas como o Claude já ajudam pesquisadores a realizar atividades relacionadas a dobramento de proteínas, desenvolvimento de medicamentos, genética do câncer e administração de testes clínicos em menos tempo.
Amodei afirmou acreditar que uma IA suficientemente avançada, trabalhando em conjunto com seres humanos, poderia condensar um século de progresso científico e médico em uma década. Ele ponderou, no entanto, que os resultados ainda são iniciais e que experimentos e ensaios clínicos continuam exigindo tempo.
O CEO também mencionou outras aplicações da tecnologia, incluindo o estímulo ao crescimento econômico, o combate à pobreza, a proteção da democracia e a melhoria de serviços cotidianos.
Executivo alerta para riscos do avanço da inteligência artificial
Apesar das possibilidades apresentadas, Amodei ressaltou que a tecnologia envolve riscos concretos. Entre eles, citou o uso indevido de sistemas de IA por indivíduos ou governos, possíveis impactos econômicos e a perda de controle sobre os próprios sistemas.
Na avaliação do executivo, esses problemas podem ser evitados por meio de medidas de segurança adotadas pelas empresas responsáveis pelo desenvolvimento da tecnologia. Ele destacou iniciativas da Anthropic relacionadas à proteção contra riscos biológicos e cibernéticos, ao treinamento de alinhamento e aos testes de segurança dos modelos.
A companhia também pretende continuar investindo em métodos para compreender o comportamento de seus sistemas e direcioná-los de maneira que permaneçam sob controle humano.
“Vamos estabelecer o ritmo do treinamento e da implementação dos sistemas de IA, levando o tempo que for necessário para ter confiança de que são seguros e permanecerão sob controle humano. Não cederemos a pressões comerciais ou políticas”, afirmou Amodei em seu discurso.
O executivo acrescentou que a abertura de capital coloca a Anthropic em uma posição financeira mais forte, o que, segundo ele, reforça a capacidade da empresa de manter suas decisões relacionadas à segurança.
Daniela Amodei também destaca compromisso com segurança
A presidente e cofundadora da Anthropic, Daniela Amodei, também comentou os riscos e as possibilidades da inteligência artificial em entrevista à CNBC nesta quinta-feira (19).
Irmã de Dario, ela afirmou que os perigos associados à tecnologia são reais, mas ressaltou que seu potencial também é significativo. Daniela disse que a empresa foi fundada justamente com a missão de reduzir esses riscos e que o trabalho nessa área continuará.
A executiva reconheceu que ainda há desafios pela frente, mas reafirmou o compromisso da companhia com a segurança da inteligência artificial.
No discurso de abertura da Nasdaq, Dario Amodei também defendeu que o setor avance em direção a uma espécie de competição positiva entre empresas, na qual o desenvolvimento de sistemas mais seguros seja uma prioridade compartilhada, independentemente de qual companhia tenha os modelos mais avançados.
O post No IPO da Anthropic, CEO diz que IA ficará “sob controle humano” apareceu primeiro em Olhar Digital.

