Alors que les obligations en matière de respect des droits de la personne – notamment en vertu du cadre international – incombent en priorité aux États, la montée en puissance du secteur privé nécessite d’imposer aussi des obligations aux entreprises.

C’est d’ailleurs l’objectif des Principes directeurs relatifs aux entreprises et aux droits de l’homme, émis par l’ONU. Or, ces principes n’ont pas de portée contraignante.

À ce sujet, des débats ont lieu en ce moment au Conseil de l’Europe qui travaille avec une cinquantaine de pays, dont le Canada, à l’élaboration d’une convention internationale en matière d’IA et de droits de la personne. Il existe des divisions quant à la pertinence d’inclure le secteur privé, au moment où les États perdent en puissance dans leur capacité à gouverner seuls l’IA.

Si le Québec a l’avantage d’avoir une Charte des droits et libertés de la personne qui s’applique tant au secteur public que privé, c’est loin d’être le cas dans tous les États. Ce n’est d’ailleurs pas le cas de la Charte canadienne des droits et libertés. Il est donc nécessaire que toute nouvelle avenue d’encadrement ou de mise en œuvre des droits de la personne en IA envisage de manière complémentaire, voire intégrée, les secteurs privé et public pour atteindre ses objectifs.

Des outils pour les organisations qui développent l’IA

De plus, il est urgent de créer des outils concrets qui favorisent la prise en compte des droits de la personne dans le développement et le déploiement des systèmes d’IA, et ce, tant au sein des gouvernements que des entreprises et des milieux de recherche. Si les juristes ont une aisance avec la gymnastique des droits de la personne, ce n’est pas toujours le cas des développeurs et acquéreurs d’IA.

Ces derniers doivent donc disposer d’outils adéquats pour s’assurer que les systèmes qu’ils développent et déploient respectent ces droits qui demeurent souvent abstraits et complexes. Un des outils prometteurs à cet égard est celui des « évaluations d’impacts sur les droits humains », qui sont déjà en cours d’élaboration, sous différentes formes, dans des organisations comme le Conseil de l’Europe, l’Union européenne et l’UNESCO. Ces outils définissent des paramètres et stratégies pour anticiper les impacts des projets d’IA sur les droits selon leurs caractéristiques propres (type d’IA, données utilisées, degré d’explicabilité, etc.) et secteurs d’application (santé, éducation, immigration, etc.).

Une fois ces impacts identifiés, les outils proposent la mise en œuvre de stratégies pour mitiger les risques et les amener à un degré jugé acceptable, et ce, avant que le système d’IA ne soit déployé. Le Québec et le Canada doivent se doter de tels outils, fiables et adaptés à la réalité de l’IA, pour guider la communauté de l’IA et mieux protéger les droits des personnes.

Des outils pour les organisations qui développent l’IA

De plus, il est urgent de créer des outils concrets qui favorisent la prise en compte des droits de la personne dans le développement et le déploiement des systèmes d’IA, et ce, tant au sein des gouvernements que des entreprises et des milieux de recherche. Si les juristes ont une aisance avec la gymnastique des droits de la personne, ce n’est pas toujours le cas des développeurs et acquéreurs d’IA.

Ces derniers doivent donc disposer d’outils adéquats pour s’assurer que les systèmes qu’ils développent et déploient respectent ces droits qui demeurent souvent abstraits et complexes. Un des outils prometteurs à cet égard est celui des « évaluations d’impacts sur les droits humains », qui sont déjà en cours d’élaboration, sous différentes formes, dans des organisations comme le Conseil de l’Europe, l’Union européenne et l’UNESCO. Ces outils définissent des paramètres et stratégies pour anticiper les impacts des projets d’IA sur les droits selon leurs caractéristiques propres (type d’IA, données utilisées, degré d’explicabilité, etc.) et secteurs d’application (santé, éducation, immigration, etc.).

Une fois ces impacts identifiés, les outils proposent la mise en œuvre de stratégies pour mitiger les risques et les amener à un degré jugé acceptable, et ce, avant que le système d’IA ne soit déployé. Le Québec et le Canada doivent se doter de tels outils, fiables et adaptés à la réalité de l’IA, pour guider la communauté de l’IA et mieux protéger les droits des personnes.

Les détracteurs d’un encadrement juridique resserré dans le domaine de l’IA font valoir, entre autres, qu’un tel cadre limite l’innovation bénéfique pour la société. Il faut rejeter cette prétention.

Tout d’abord, une IA bénéfique à l’humain (ce qui doit être l’objectif des percées prometteuses en IA) ne peut aller à l’encontre des droits fondamentaux comme le droit à la vie, à l’égalité ou à la liberté. Ces droits font partie de la colonne vertébrale de l’IA responsable.

Pour les juristes, il est bien connu qu’aucun droit n’est absolu et que des arbitrages doivent parfois être faits entre différents droits au sein de la société, ainsi qu’entre les intérêts individuels et collectifs. Apprendre à gérer les tensions qui existent entre le respect de ces droits – comme celles entre le respect du droit à la vie privée et celui du droit à la vie, notamment dans le secteur de la santé – fait partie du défi que nous devons relever.

Les droits de la personne n’ont peut-être pas un effet aussi séduisant que l’innovation technologique, mais ils constituent l’une de nos boussoles les plus chèrement acquises et qui reste malheureusement menacée dans nos sociétés.

https://www.lapresse.ca/dialogue/opinions/2024-03-07/intelligence-artificielle/des-droits-a-proteger-de-toute-urgence.php