Ética da IA e princípios humanitários: não causar dano, enviesamentos, transparência

1Os princípios humanitários perante a IA

Os quatro princípios humanitários aplicam-se também às ferramentas digitais:

• Humanidade: a ferramenta deve servir as pessoas afetadas, não apenas a eficiência interna. Poupar tempo num relatório é útil se esse tempo voltar aos programas.
• Imparcialidade: uma IA não deve introduzir discriminação no acesso à ajuda (por exemplo classificando agregados familiares segundo critérios enviesados).
• Neutralidade: um texto gerado pode retomar, sem que se note, o vocabulário de uma parte em conflito. Reveja os nomes de lugares, grupos e acontecimentos.
• Independência: depender inteiramente de um fornecedor para uma função crítica é um risco; mantenha a capacidade de trabalhar sem a ferramenta.

O princípio de não causar dano (do no harm) obriga a perguntar antes de cada nova utilização: quem poderia ser prejudicado se a ferramenta se enganar, se os dados fugirem ou se o resultado for mal interpretado?

2Os enviesamentos: de onde vêm e como detetá-los

Os modelos aprendem com textos produzidos maioritariamente em poucas línguas e em poucas regiões do mundo. Daí resultam enviesamentos:

• Enviesamento linguístico: menor qualidade em línguas com pouca presença na Internet (numerosas línguas africanas, asiáticas ou indígenas), e por vezes em certas variantes do árabe ou do francês.
• Enviesamento de perspetiva: leitura das crises «a partir do Norte», soluções padronizadas, desconhecimento dos atores locais e das ONG nacionais.
• Estereótipos: representações de género ou culturais (o «médico» é um homem, a «beneficiária» é passiva) nos textos e sobretudo nas imagens geradas.
• Enviesamento de complacência: tendência para dar razão a quem pergunta. Se pedir «confirma que o nosso projeto é um sucesso», o assistente provavelmente confirmará.

Para os detetar: peça a posição contrária («que argumentos há contra esta conclusão?»), faça rever os textos destinados às comunidades por pessoas dessas comunidades e compare com fontes locais.

3Decisões sobre as pessoas: o limite a não ultrapassar

As decisões que afetam diretamente os direitos ou o acesso à ajuda de uma pessoa não devem ser confiadas a um assistente de IA generativa:

• seleção ou exclusão de beneficiários;
• avaliação da credibilidade de um relato (pedido de asilo, denúncia, caso de proteção);
• pré-seleção ou rejeição de candidatos a um emprego;
• decisão disciplinar ou de investigação.

Estas ferramentas podem ajudar a preparar (redigir um guião de entrevista, estruturar critérios publicados, resumir uma política), mas a decisão cabe a pessoas habilitadas, segundo um procedimento documentado, com possibilidade de recurso. Na União Europeia, o Regulamento da Inteligência Artificial (AI Act, adotado em 2024 e aplicado progressivamente) classifica além disso como de «risco elevado» certas utilizações como o recrutamento ou o acesso a serviços essenciais, com obrigações reforçadas.

Teste: se a pessoa afetada soubesse que a decisão foi tomada por uma IA, seria aceitável e poderia contestá-la? Se a resposta for não, não utilize a IA para decidir.

4Transparência e responsabilidade

A confiança é o capital de uma organização humanitária. Algumas regras simples protegem-na:

• Responsabilidade humana: cada documento tem um autor humano responsável pelo seu conteúdo, tenha ou não sido ajudado pela IA.
• Transparência proporcionada: indique a utilização da IA quando for significativa ou quando o destinatário possa razoavelmente esperá-lo (avaliação, investigação, conteúdo publicado, trocas com as comunidades). Para uma correção ortográfica, não é necessário.
• Respeito pelas regras dos doadores e parceiros: alguns doadores e convites à apresentação de propostas enquadram ou pedem que se declare a utilização da IA nas candidaturas; leia as condições (semana 6).
• Sem usurpação: nunca gere uma imagem, uma voz ou uma citação falsamente atribuída a uma pessoa real, e nunca apresente uma imagem gerada como uma fotografia de terreno.

As diretrizes éticas de comunicação do setor (dignidade, consentimento informado, sem miserabilismo) aplicam-se plenamente aos conteúdos produzidos com a IA.

5Direitos de autor, plágio e integridade

Três pontos de atenção:

• Conteúdos alheios: pedir à IA que «reescreva» o relatório de outra organização para o apresentar como seu continua a ser plágio. Cite as suas fontes.
• Conteúdos gerados: o estatuto jurídico dos textos e imagens gerados varia consoante os países e evolui. As condições de utilização do Claude e do Gemini precisam os direitos do utilizador sobre os resultados; para uma utilização comercial ou uma publicação importante, consulte-as.
• Integridade académica e profissional: nos exames deste Mini MBA, como numa prova de recrutamento, utilizar a IA para responder no seu lugar é uma fraude. O objetivo é que domine as competências, não apenas a ferramenta.

Para as fotografias, a regra da organização mantém-se: nenhuma fotografia alheia sem direitos, nenhuma fotografia de uma criança identificável sem consentimento, e uma imagem gerada é claramente assinalada como tal.

6Custo ambiental e equidade de acesso

A IA consome eletricidade e água nos centros de dados. As estimativas por pedido variam muito consoante os estudos e os modelos; o impacto global do setor cresce fortemente. Para uma organização empenhada no clima, reflexos razoáveis:

• utilizar a IA quando traz um valor real, não por reflexo para tarefas triviais;
• preferir um documento bem preparado a dezenas de tentativas sucessivas;
• integrar a utilização do digital na política ambiental.

Equidade de acesso: as equipas de terreno têm muitas vezes uma ligação fraca, equipamentos antigos e menos acesso a subscrições pagas. Uma organização que reserva a IA à sede e ao pessoal internacional aumenta as desigualdades. Uma política justa prevê o acesso, a formação e as línguas para o pessoal nacional e os parceiros locais.