O diretor-presidente da OpenAI, Sam Altman, discursou no Conselho de Segurança da Organização das Nações Unidas (ONU) sobre inteligência artificial (IA). O encontro ocorreu nessa quarta-feira (23), em Nova York.

Altman defendeu que a IA deve ampliar a capacidade das pessoas, não concentrar poder nas mãos de poucos. O discurso abordou os riscos de perda de controle humano sobre sistemas autônomos, a necessidade de padrões internacionais e os limites que laboratórios privados não podem cruzar.

Dois riscos que precisam ser evitados

O executivo identificou dois cenários que considera inaceitáveis. No primeiro, os sistemas de IA avançam rápido demais e as pessoas perdem a capacidade de acompanhar ou intervir. No segundo, a tecnologia se concentra em poucas mãos e passa a impor uma visão de mundo específica a todos os demais.

“Nenhuma pessoa, empresa ou país deve ser capaz de usar os modelos de IA mais poderosos para impor sua visão de mundo a todos os outros”, afirma. “Uma empresa ou país que acredita ser o único confiável com essa tecnologia pode usar essa crença para justificar quase qualquer coisa. Precisamos rejeitar essa lógica, mesmo quando ela for conveniente para um determinado ator.”

Leia também: Agente de IA da OpenAI invade portal do governo australiano

Altman também citou o conceito de autoaperfeiçoamento recursivo, processo pelo qual sistemas de IA passam a melhorar versões futuras de si mesmos de forma automatizada, o que poderia acelerar o ritmo de desenvolvimento além da capacidade de supervisão humana. “Esse momento exige extremo cuidado”, diz.

Sobre os níveis aceitáveis de risco, o executivo foi direto: “Não importa se as pessoas colocam o risco de catástrofe em 10%, 1%, 12% ou 0,1%. Nenhum desses níveis é remotamente aceitável.”

Progresso em matemática como exemplo

Para ilustrar o avanço dos modelos, Altman traçou uma linha do tempo. Três verões atrás, os sistemas da OpenAI tinham desempenho razoável em matemática do ensino fundamental. Dois verões atrás, eram bons em competições do ensino médio. No verão passado, atingiram nível de medalha de ouro na competição internacional de matemática mais prestigiada do mundo.

Poucas semanas antes do discurso, um modelo da OpenAI resolveu as equações de Navier-Stokes, um dos chamados Problemas do Milênio, conjunto de sete questões matemáticas não resolvidas cuja solução é considerada um dos maiores desafios da área. As equações têm aplicações em design de aeronaves, previsão do tempo e estudo do fluxo sanguíneo.

Padrões internacionais de IA

Altman propôs quatro medidas concretas de cooperação entre países. A primeira é a criação de padrões nacionais e internacionais complementares para medir capacidades, avaliar riscos e preservar a supervisão humana. A segunda é a adoção de uma linguagem comum para que países possam comparar evidências e verificar conformidade. A terceira envolve protocolos de registro e classificação de incidentes para que o mundo aprenda com falhas antes que se tornem catástrofes. A quarta prevê canais seguros entre governos, operadores de infraestrutura crítica e especialistas técnicos para compartilhar vulnerabilidades e novas ameaças.

O executivo ressalvou que esses padrões não podem favorecer empresas já estabelecidas nem um modelo de negócio específico. “Cada governo deve decidir como incorporar os padrões ao seu próprio sistema jurídico”, diz. “Mas todos estaremos em melhor situação se pudermos concordar sobre como são boas evidências, boas salvaguardas e boa supervisão no plano global.”

O papel das empresas e das democracias

Altman foi enfático ao separar o papel das empresas do papel das instituições democráticas. “As decisões mais importantes não podem ser tomadas apenas por laboratórios em San Francisco. Elas precisam ser moldadas por processos democráticos e por governos que respondem às pessoas que servem”, afirma.

O executivo também admitiu que a OpenAI já desacelerou o desenvolvimento de modelos por decisão própria e disse que fará isso novamente se necessário. “Não queremos construir sistemas — e acreditamos que é importante que todos evitem construir sistemas — em que não possamos oferecer as garantias de alinhamento, monitoramento e segurança que devemos oferecer”, diz.

Ao encerrar o discurso, Altman descreveu dois caminhos possíveis: um em que o poder se concentra e as decisões se tornam opacas, e outro em que instituições democráticas guiam o desenvolvimento da tecnologia e mais pessoas participam dos benefícios. “Este é um futuro de potencial realizado, entusiasmo e maravilha”, afirma. “E é o futuro que acreditamos valer a pena construir.”

Siga o IT Forum no LinkedIn e fique por dentro de todas as notícias!