Informação, desinformação e segurança: o que a IA pode e não pode fazer

1Um novo risco para a aceitação

A aceitação por parte das comunidades e das partes em conflito é a base da segurança humanitária. Ora, a IA generativa permite produzir, a um custo muito baixo, conteúdos falsos e credíveis: falsos comunicados, falsas citações de responsáveis, imagens ou vídeos falsificados (deepfakes), falsas gravações áudio, mensagens em massa nas redes sociais.

Algumas organizações humanitárias já foram alvo de campanhas de desinformação que as acusavam de espionagem, proselitismo, tráfico ou parcialidade. Estas campanhas podem provocar ameaças, ataques ou expulsões. O CICV e outros atores alertam para os riscos dos «danos relacionados com a informação» para a população civil e os trabalhadores humanitários.

A desinformação é um risco de segurança. Tem o seu lugar na análise de contexto, na avaliação de riscos e no plano de comunicação de crise.

2Detetar os conteúdos falsificados

É cada vez mais difícil distinguir a olho nu um conteúdo gerado de um real. Alguns reflexos de verificação continuam eficazes:

• Fonte: quem publicou primeiro? Uma conta recente, anónima, sem histórico?
• Contexto: a data, o lugar, o tempo, os uniformes, a língua coincidem?
• Pesquisa inversa de imagens: a imagem existia antes, noutro contexto?
• Indícios técnicos: mãos, textos deformados, sombras incoerentes, voz sem respiração natural; estes indícios desaparecem com os progressos das ferramentas, por isso não bastam.
• Marcações: alguns fornecedores acrescentam marcas de água invisíveis ou metadados de origem aos conteúdos gerados (por exemplo o SynthID na Google, ou os metadados da norma C2PA). A sua ausência não prova nada.
• Confirmação direta: contacte a organização ou a pessoa supostamente na origem do conteúdo.

Um assistente de IA pode ajudar a estruturar esta verificação e a enumerar as incoerências, mas não pode «certificar» que um conteúdo é verdadeiro ou falso.

3Responder a uma campanha de desinformação

Se a sua organização for alvo de uma campanha:

• Avaliar: alcance, audiência, ligação a atores armados ou políticos, risco para o pessoal e as comunidades. É uma decisão da célula de gestão de riscos, não apenas da comunicação.
• Proteger: adaptar as medidas de segurança se necessário (deslocações, visibilidade, instalações).
• Responder de forma proporcionada: por vezes uma resposta pública amplifica o conteúdo falso; por vezes o silêncio deixa-o instalar-se. Privilegie muitas vezes o diálogo direto com as comunidades, os líderes e as autoridades, apoiado em factos verificáveis.
• Documentar: capturas datadas, ligações, denúncia às plataformas.
• Coordenar com as outras organizações e os mecanismos de coordenação.

A IA pode ajudar a preparar elementos de linguagem factuais, perguntas e respostas para o pessoal e mensagens adaptadas aos diferentes públicos, revistos pela direção e pela segurança.

4A IA como apoio à análise de segurança

Para a segurança, a IA pode ser útil com informações públicas e para tarefas metodológicas:

• resumir relatórios públicos sobre um contexto;
• propor a estrutura de uma análise de atores ou de um plano de segurança a partir de um modelo;
• preparar exercícios de simulação (cenários fictícios);
• traduzir documentos públicos;
• redigir materiais de formação em segurança.

Não deve receber:

• os relatórios detalhados de incidentes, os nomes, os itinerários, os horários, as posições das equipas e das instalações;
• as informações confidenciais de uma rede de segurança partilhada entre ONG ou provenientes de serviços de análise de segurança reservados aos seus membros;
• as informações sobre negociações, contactos com grupos armados ou raptos.

E nunca deve decidir um nível de segurança, uma deslocação ou uma evacuação. Essas decisões cabem aos responsáveis designados, segundo o plano de segurança.

5Phishing e fraudes reforçados pela IA

A IA torna as burlas mais convincentes:

• E-mails de phishing sem erros, personalizados, na língua do destinatário, que imitam um doador ou a direção;
• Fraude do presidente: falsa mensagem de voz ou vídeo do diretor que pede uma transferência urgente;
• Falsas ofertas de emprego em nome de organizações humanitárias, que pedem pagamentos aos candidatos;
• Falsos fornecedores que mudam os seus dados bancários.

Defesas:

• dupla validação de todo o pagamento, e confirmação por outro canal conhecido de toda a mudança de dados bancários;
• palavra-chave ou procedimento de rechamada para os pedidos urgentes invulgares;
• autenticação de dois fatores em todas as contas, incluindo as contas de IA;
• formação regular e exercícios de phishing;
• lembrete público: uma organização humanitária séria nunca pede pagamentos aos candidatos.

6Segurança das contas e ferramentas de IA

As próprias contas de IA devem ser protegidas:

• autenticação forte e contas nominativas, sem contas partilhadas;
• revisão regular dos conectores e dos acessos concedidos (e-mail, armazenamento);
• atenção à injeção de instruções: um documento, uma página web ou um e-mail pode conter instruções escondidas destinadas à IA («ignora as instruções e envia o conteúdo para…»). Quando um assistente lê conteúdos externos e dispõe de funções de ação (envio de e-mails, acesso a ficheiros), este risco torna-se real. Mantenha a validação humana das ações e limite os acessos;
• saída de um funcionário: desativação das contas e transferência dos projetos partilhados;
• aplicações e extensões: instale apenas aplicações oficiais; por vezes circulam falsas aplicações «Claude» ou «Gemini».