Éthique de l'IA et principes humanitaires : ne pas nuire, biais, transparence

1Les principes humanitaires face à l'IA

Les quatre principes humanitaires s'appliquent aussi aux outils numériques :

• Humanité : l'outil doit servir les personnes affectées, pas seulement l'efficacité interne. Gagner du temps sur un rapport est utile si ce temps revient aux programmes.
• Impartialité : une IA ne doit pas introduire de discrimination dans l'accès à l'aide (par exemple en classant des ménages selon des critères biaisés).
• Neutralité : un texte généré peut reprendre, sans qu'on le voie, le vocabulaire d'une partie au conflit. Relisez les noms de lieux, de groupes et d'événements.
• Indépendance : dépendre entièrement d'un fournisseur pour une fonction critique est un risque ; gardez la capacité de travailler sans l'outil.

Le principe de ne pas nuire (do no harm) impose de se demander avant chaque nouvel usage : qui pourrait être lésé si l'outil se trompe, si les données fuient, ou si le résultat est mal compris ?

2Les biais : d'où ils viennent, comment les repérer

Les modèles apprennent sur des textes majoritairement produits dans quelques langues et quelques régions du monde. Il en résulte des biais :

• Biais de langue : qualité moindre en langues peu présentes sur Internet (de nombreuses langues africaines, asiatiques ou autochtones), et parfois dans certaines variantes de l'arabe ou du français.
• Biais de perspective : lecture « vue du Nord » des crises, solutions standardisées, méconnaissance des acteurs locaux et des ONG nationales.
• Stéréotypes : représentations genrées ou culturelles (le « médecin » est un homme, la « bénéficiaire » est passive) dans les textes et surtout dans les images générées.
• Biais de complaisance : tendance à aller dans le sens de la personne qui pose la question. Si vous demandez « confirme que notre projet est un succès », l'assistant risque de confirmer.

Pour les repérer : demandez la position inverse (« quels arguments contre cette conclusion ? »), faites relire les textes destinés aux communautés par des personnes de ces communautés, et comparez avec des sources locales.

3Décisions sur les personnes : la limite à ne pas franchir

Les décisions qui touchent directement les droits ou l'accès à l'aide d'une personne ne doivent pas être confiées à un assistant d'IA générative :

• sélection ou exclusion de bénéficiaires ;
• évaluation de la crédibilité d'un récit (demande d'asile, plainte, cas de protection) ;
• présélection ou rejet de candidats à un emploi ;
• décision disciplinaire ou d'enquête.

Ces outils peuvent aider à préparer (rédiger une grille d'entretien, structurer des critères publiés, résumer une politique), mais la décision revient à des personnes habilitées, selon une procédure documentée, avec possibilité de recours. Dans l'Union européenne, le règlement sur l'intelligence artificielle (AI Act, adopté en 2024 et appliqué progressivement) classe d'ailleurs comme « à haut risque » certains usages comme le recrutement ou l'accès à des services essentiels, avec des obligations renforcées.

Test : si la personne concernée apprenait que la décision a été prise par une IA, serait-ce acceptable et pourrait-elle la contester ? Si la réponse est non, n'utilisez pas l'IA pour décider.

4Transparence et responsabilité

La confiance est le capital d'une organisation humanitaire. Quelques règles simples la protègent :

• Responsabilité humaine : chaque document a un auteur humain responsable de son contenu, qu'il ait été aidé ou non par l'IA.
• Transparence proportionnée : indiquez l'usage de l'IA quand il est significatif ou quand le destinataire peut raisonnablement s'y attendre (évaluation, recherche, contenu publié, échanges avec les communautés). Pour une correction orthographique, ce n'est pas nécessaire.
• Respect des règles des bailleurs et des partenaires : certains bailleurs et appels à propositions encadrent ou demandent de déclarer l'usage de l'IA dans les candidatures ; lisez les conditions (semaine 6).
• Pas d'usurpation : ne générez jamais une image, une voix ou une citation faussement attribuée à une personne réelle, et ne présentez jamais une image générée comme une photo de terrain.

Les lignes directrices éthiques de communication du secteur (dignité, consentement éclairé, pas de misérabilisme) s'appliquent pleinement aux contenus produits avec l'IA.

5Droit d'auteur, plagiat et intégrité

Trois points d'attention :

• Contenus d'autrui : demander à l'IA de « réécrire » le rapport d'une autre organisation pour le présenter comme le vôtre reste du plagiat. Citez vos sources.
• Contenus générés : le statut juridique des textes et images générés varie selon les pays et évolue. Les conditions d'utilisation de Claude et de Gemini précisent les droits de l'utilisateur sur les résultats ; pour un usage commercial ou une publication importante, consultez-les.
• Intégrité académique et professionnelle : pour les examens de ce Mini MBA, comme pour une évaluation de recrutement, utiliser l'IA pour répondre à votre place est une fraude. L'objectif est que vous maîtrisiez les compétences, pas l'outil seul.

Pour les photos, la règle de l'organisation reste : pas de photo d'autrui sans droits, pas de photo d'enfant identifiable sans consentement, et une image générée est clairement signalée comme telle.

6Coût environnemental et équité d'accès

L'IA consomme de l'électricité et de l'eau dans les centres de données. Les estimations par requête varient beaucoup selon les études et les modèles ; l'impact global du secteur est en forte croissance. Pour une organisation engagée sur le climat, des réflexes raisonnables :

• utiliser l'IA quand elle apporte une vraie valeur, pas par réflexe pour des tâches triviales ;
• préférer un document bien préparé à des dizaines d'essais successifs ;
• intégrer l'usage du numérique dans la politique environnementale.

Équité d'accès : les équipes de terrain ont souvent une connexion faible, des appareils anciens et moins d'accès aux abonnements payants. Une organisation qui réserve l'IA au siège et aux personnels internationaux creuse les inégalités. Une politique juste prévoit l'accès, la formation et les langues pour le personnel national et les partenaires locaux.