Dezoito países estabelecem diretrizes para uso responsável da IA em operações militares

Dezoito países concordaram com um conjunto de diretrizes para promover o uso responsável da inteligência artificial (IA) em aplicações militares. O acordo foi firmado durante a Cúpula Global sobre Segurança de IA, realizada em Bletchley Park, Reino Unido.

As diretrizes, de caráter voluntário e não vinculativo, foram elaboradas pelo Centro Global para Segurança Responsável de IA, uma iniciativa internacional lançada pelo Reino Unido e apoiada pelos EUA.

O objetivo principal é garantir que os sistemas de IA sejam utilizados de forma segura, responsável e ética em operações militares. O governo do Reino Unido, em comunicado à imprensa, destacou a importância do desenvolvimento e uso responsável da IA militar: “A IA apresenta um potencial incrível para ajudar a resolver alguns dos desafios de segurança mais complexos do mundo, mas também apresenta riscos e desafios únicos. É crucial que o desenvolvimento e o uso da IA militar sejam realizados de forma responsável, ética e confiável.”

Áreas abrangidas pelas diretrizes

As diretrizes abordam uma série de áreas-chave, incluindo:

Governança e supervisão

É fundamental estabelecer estruturas de governança claras para o desenvolvimento e uso de IA militar, incluindo mecanismos eficazes de supervisão humana.

Confiabilidade técnica

Garantir que os sistemas de IA sejam robustos, confiáveis e operem conforme o esperado, mesmo em circunstâncias imprevistas, é crucial para evitar falhas e consequências indesejadas.

Gerenciamento de riscos

Identificar e mitigar os riscos potenciais associados ao uso de IA militar é essencial. Isso inclui o risco de uso não intencional ou consequências não intencionais que possam surgir da implementação da IA em cenários militares.

Engajamento e comunicação

Promover a transparência e a comunicação aberta sobre o desenvolvimento e o uso de IA militar é fundamental para construir confiança e garantir a responsabilidade. Isso se aplica tanto em nível nacional quanto internacional.

Os 18 países que endossaram as diretrizes são: Austrália, Canadá, Dinamarca, Finlândia, França, Alemanha, Índia, Itália, Japão, Coreia do Sul, Holanda, Nova Zelândia, Noruega, Polônia, Cingapura, Suécia, Reino Unido e Estados Unidos.

Impacto e recepção das diretrizes

O anúncio das diretrizes foi bem recebido por especialistas em IA e segurança, que reconhecem a importância de se estabelecer um quadro global para o uso responsável da IA em aplicações militares.

O Dr. Alex Willey, Diretor de Ética e Sociedade do Centro para Segurança e Tecnologia Emergente, elogiou a iniciativa: “Estas diretrizes são um passo importante para garantir que a IA seja usada de forma responsável no domínio militar. É essencial que os países trabalhem juntos para desenvolver normas e diretrizes comuns para o uso de IA militar, e essas diretrizes são um passo positivo nessa direção.”

Embora as diretrizes sejam voluntárias, espera-se que influenciem o desenvolvimento e o uso de IA militar globalmente. Elas fornecem um framework para os países considerarem as implicações éticas e de segurança da IA militar e podem ajudar a garantir que a IA seja usada de forma responsável e ética no setor militar.