Les systèmes d'IA traitent des données — et ces données incluent souvent des renseignements personnels. Utiliser l'IA de manière responsable exige de comprendre les risques pour la vie privée, de reconnaître les biais et d'appliquer des principes de responsabilité et de transparence.
Renseignements personnels et IA
Lorsque vous utilisez un outil d'IA, réfléchissez aux informations que vous partagez. N'incluez pas de noms ou coordonnées de personnes, de renseignements personnels sensibles, de données organisationnelles confidentielles, ni d'informations sur des tiers qui n'ont pas consenti à leur utilisation. Apprentissage connexe : Confidentialité 101 et Minimisation des données.
Biais et résultats inéquitables
Le biais de l'IA se produit lorsqu'un système produit des résultats qui désavantagent systématiquement certains groupes. Le biais peut entrer dans les systèmes d'IA par des données d'entraînement qui sous-représentent certains groupes, des choix de conception qui reflètent les hypothèses des concepteurs, ou des boucles de rétroaction qui renforcent les modèles existants.
Transparence et explicabilité
La transparence signifie être ouvert sur le moment et la manière dont l'IA est utilisée. L'explicabilité désigne la capacité d'expliquer comment un système a atteint un résultat particulier. Les deux sont importantes pour la responsabilité.
Supervision humaine et responsabilité
La supervision humaine signifie que les personnes — et non les systèmes d'IA — restent responsables des décisions. L'IA peut éclairer les décisions, mais la responsabilité incombe aux personnes et aux organisations qui les prennent.
Politiques organisationnelles et évaluation des risques
Les organisations utilisant l'IA devraient documenter l'utilisation des systèmes d'IA, évaluer les risques avant le déploiement, établir des politiques d'utilisation acceptable, maintenir des pistes d'audit et réviser régulièrement l'utilisation de l'IA. Apprentissage connexe : Gouvernance des données 101.
Préoccupations liées aux données d'entraînement
Les modèles d'IA sont entraînés sur de grandes quantités de données. La provenance de ces données soulève des questions importantes :
- Renseignements personnels. Les données d'entraînement peuvent contenir des renseignements personnels collectés sans que les individus sachent qu'ils seraient utilisés à cette fin.
- Consentement. Les personnes dont les données ont été utilisées pour entraîner un modèle n'ont pas nécessairement consenti à cet usage spécifique.
- Droit d'auteur. Les modèles entraînés sur du contenu protégé soulèvent des questions non résolues sur la propriété intellectuelle et l'utilisation équitable.
- Provenance des données. Il est souvent difficile de savoir exactement quelles données ont été utilisées pour entraîner un modèle donné, ce qui complique l'évaluation des risques.
Les lois sur la vie privée, les réglementations sur l'IA et les exigences sectorielles diffèrent selon les juridictions. Cette leçon fournit des principes généraux. Consultez des professionnels juridiques qualifiés pour des conseils spécifiques à votre situation. Ceci n'est pas un avis juridique.
- Ne partagez pas de renseignements personnels ou confidentiels avec des services d'IA externes
- Le biais de l'IA peut produire des résultats inéquitables — il nécessite une surveillance délibérée
- La supervision humaine signifie que les personnes restent responsables des décisions
- Documentez l'utilisation de l'IA et évaluez les risques avant le déploiement