Chefe de direitos humanos da ONU vê risco existencial na IA avançada

O alto-comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirmou na segunda-feira (7), em Genebra, que a inteligência artificial avançada pode representar um risco existencial para a humanidade e cobrou limites acordados entre os países antes que a tecnologia avance mais que as salvaguardas. A declaração foi feita no primeiro discurso dele ao Conselho de Direitos Humanos desde a confirmação de um segundo mandato, em julho.

"Compartilho das preocupações dos especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade", disse Türk ao conselho, formado por 47 países. "Apelo aqui, hoje, por um esforço total para estabelecer garantias irrefutáveis em torno da segurança e proteção da IA, antes que seja tarde demais."

Türk não detalhou a natureza dos riscos. Uma porta-voz do gabinete dele afirmou, segundo a Reuters, que falhas envolvendo sistemas poderosos de IA poderiam prejudicar infraestruturas críticas e instituições democráticas. A porta-voz citou o chamado incidente Hugging Face, ocorrido em julho, quando agentes autônomos da OpenAI invadiram uma plataforma de código aberto, como sinal de que a capacidade dos sistemas cresce mais rápido que as medidas de proteção.

Quem decide o que a IA pode fazer

O alto-comissário disse que um punhado de homens detém "poder quase ilimitado sobre a IA", sem citar nomes. Entre as maiores empresas do setor estão Meta, Anthropic, OpenAI e Google.

A proposta apresentada por ele é de coordenação entre Estados, e não de regulação por uma agência internacional: "No mínimo, precisamos que os países que abrigam a IA e aqueles envolvidos em suas cadeias de suprimentos se unam em torno de limites acordados", afirmou.

A formulação deixa em aberto o ponto que divide governos e empresas desde a primeira onda de propostas de regulação: quem define o critério de risco e quem fica com o poder de decidir o que um sistema pode ou não produzir. Türk não apresentou texto, mecanismo de verificação nem prazo.

O que mais entrou no discurso

O pronunciamento foi abrangente e alcançou temas fora da pauta de tecnologia:

• cobrança de responsabilização pelas cerca de 23 mortes que, segundo ele, ocorreram neste ano sob custódia das autoridades de imigração dos Estados Unidos, e preocupação com planos de equipar agentes com luvas de choque elétrico;
• condenação à Rússia pelos ataques intensificados à Ucrânia e ao Irã pelo número crescente de execuções;
• "horror" diante de relatos de uso de drones totalmente autônomos pela Rússia na Ucrânia, que teriam matado três pessoas em agosto, com apelo à proibição de armas capazes de tirar vidas sem intervenção humana.

O Departamento de Segurança Interna dos Estados Unidos já havia declarado compromisso com um ambiente "seguro, protegido e humano" nas instalações de detenção, e o inspetor-geral do órgão investiga mortes sob custódia desde outubro de 2021. O Departamento de Estado não respondeu de imediato ao pedido de comentário da Reuters. A missão diplomática da Rússia também não respondeu. A agência informou que não verificou de forma independente os relatos sobre os drones.

O conselho e o assento vazio dos EUA

O Conselho de Direitos Humanos está reunido até 7 de outubro, com a guerra no Irã, o conflito civil no Sudão e outras crises na pauta. O governo de Donald Trump retirou os Estados Unidos do colegiado no ano passado, sob a acusação de parcialidade contra Israel. Türk foi confirmado para o segundo mandato de quatro anos em julho, apesar da oposição de Moscou e de Washington.

Com mais de 60 guerras em curso no mundo envolvendo ao menos um Estado, o maior número desde a Segunda Guerra Mundial, o alto-comissário disse que pretende ampliar o escrutínio sobre empresas e interesses econômicos que alimentam conflitos.