L’IA, risque ou opportunité pour les droits des personnes handicapées ?

Publié le 28 mars 2024 sur le site de l’European Network on Independent Living^[1]European Network on Independent Living : Réseau Européen sur la Vie Indépendante (ENIL). Un article de Shah Maitreya. Texte original en anglais.

Traduit au féminin générique par Clémentine Choubrac pour les Dévalideuses.

L’avènement de l’intelligence artificielle et des technologies algorithmiques a eu un impact considérable sur la vie des personnes handicapées. Globalement, l’IA correspond aux technologies utilisant l’informatique de pointe pour réaliser des tâches qui étaient traditionnellement effectuées par des humains. De plus en plus de personnes handicapées adoptent l’IA dans différents domaines de leur vie, notamment l’éducation, l’emploi, les communications et la vie sociale.

Parmi les nombreux outils couramment utilisés, on compte les applications de reconnaissance d’images par les personnes aveugles, les logiciels de dictée par les personnes atteintes d’un trouble de la dextérité, les programmes de communication par les personnes atteintes d’un trouble du langage, ainsi que d’autres technologies automatisées. Souvent, les personnes handicapées ont également recours à ces technologies pour réaliser des tâches pour lesquelles elles avaient auparavant besoin de l’aide d’amies, de membres de leur famille ou d’aidantes.

Cette gamme d’outils comprend à la fois des technologies d’assistance (spécifiquement conçues pour les personnes handicapées) et des technologies traditionnelles (développées pour les personnes valides comme handicapées). Parmi ces dernières, on peut entre autres citer les dispositifs de domotique, tels que l’assistance vocale, les aspirateurs et les véhicules automatisés, mais aussi ChatGPT.

Le développement rapide de l’IA a également engendré de nombreux risques et défis, notamment la discrimination, des abus, la violence et la surveillance. Les personnes handicapées sont l’un des groupes les plus marginalisés par l’utilisation de la technologie. Il a été prouvé que de nombreux outils d’IA discriminent les personnes handicapées dans différents contextes. À titre d’illustration, citons les algorithmes d’emploi qui écartent les candidatures de personnes handicapées ; un logiciel de surveillance d’examens en ligne qui a qualifié les personnes handicapées de tricheuses ; le gouvernement des États-Unis qui a utilisé des algorithmes afin de retirer aux personnes handicapées des prestations de sécurité sociale essentielles ; ou les véhicules automatisés qui ne reconnaissent pas les mouvements des personnes en fauteuil roulant et décident de leur rouler dessus.

Les technologies d’IA sont conçues à l’aide de larges quantités de données souvent empruntes de biais sociétaux négatifs envers le handicap. La plupart des technologies traditionnelles ne prennent pas en compte les différences des personnes handicapées, ce qui résulte en discriminations à leur encontre. Les personnes en situation de handicap ne disposent pas de protection adéquate pour leurs données et n’ont souvent pas accès aux procédures de réparation en cas de violation de leur vie privée. Par ailleurs, il existe un manque généralisé de représentations adéquates des personnes handicapées au sein du développement des technologies.