L'impact de l'IA sur l'accessibilité numérique

Lien original : https://onsman.com/the-impact-of-ai-on-digital-accessibility-part-ii/

Si l’accessibilité dépend d’outils “boîte noire” ou de comportements automatiques mal cadrés, de nouveaux obstacles apparaissent. Voilà ce que nous explique Ricky Onsman.

Et oui, si on espère que l’IA améliore la prise en compte des navigations “classiques”, il ne faut pas oublier que l’IA peut apporter de nouveaux composants d’intefaces qui bliquent les utilisateurs.

Chatbot, recherche, recommandations selon profils, interfaces vocales,…

Liste des nouvelles barrières que peuvent apporter les IA

• Chatbots difficiles à utiliser
  Certains chatbots sont mal conçus pour être pilotés au clavier (alors que beaucoup de personnes ne peuvent pas utiliser la souris). Résultat : la personne n’arrive pas à naviguer correctement ou à demander de l’aide.

• Compréhension difficile pour les troubles cognitifs
  Si la conversation change de façon imprévisible ou si l’échange n’est pas structuré clairement, certaines personnes (difficultés de compréhension, de mémoire, d’attention) peuvent avoir du mal à comprendre quoi faire et comment continuer.

• Recherche “IA” qui ne marche pas bien avec les technologies d’assistance
  Même si la recherche utilise une logique “avancée”, elle peut avoir de mauvais labels (titres/indications) ou un fonctionnement peu compatible clavier/lecteur d’écran. Résultat : la personne ne trouve pas l’information, ou n’arrive pas à lancer correctement la recherche.

• Recommandations qui ignorent les besoins d’accessibilité
  Les systèmes recommandent surtout selon l’historique et les préférences “classiques”. Or ils peuvent ne pas proposer les contenus accessibles (ex : vidéos avec sous-titres, audio description). Résultat : la personne se voit proposer du contenu qu’elle ne peut pas utiliser.

• Systèmes “voix-only” qui excluent certaines personnes
  Si l’interface n’accepte que la voix (commande vocale uniquement), cela peut exclure les personnes qui ne peuvent pas parler, ont des troubles de la parole, ou qui ne peuvent pas utiliser la voix dans leur contexte.

• Langage trop complexe
  L’IA peut simplifier certains contenus, mais aussi produire un texte “complexe” ou trop technique. Pour les personnes ayant un niveau de lecture limité ou des difficultés cognitives, cela devient un obstacle.

• Comportements imprévisibles des contenus générés dynamiquement
  Quand l’IA modifie le contenu pendant l’usage (ou change le contexte) sans que l’utilisateur ait de repères stables, certaines personnes ont du mal à s’orienter et à comprendre ce qui se passe.

• Automatisation qui retire le contrôle
  Si l’IA “décide à la place de l’utilisateur” (par exemple en forçant certains choix ou en limitant des réglages), certaines personnes perdent la possibilité d’adapter l’expérience à leurs besoins (lisibilité, vitesse, navigation, etc.).

• Hypothèse d’une “personne moyenne”
  Beaucoup de systèmes IA sont entraînés sur des données qui reflètent un usage “standard”. Or il n’existe pas d’utilisateur moyen : l’IA peut mal gérer les besoins particuliers (types de handicap, préférences, manières différentes d’interagir).

• Dépendance à des outils tiers “boîte noire”
  Quand l’accessibilité dépend d’un widget ou d’un outil externe, le site peut ne pas pouvoir corriger facilement les problèmes. Résultat : l’accessibilité devient fragile et les équipes locales ont moins de marge pour améliorer l’expérience.

Les IA amène une augmentation de la complexité

Imaginez-vous chef cuisinier renommé. Vous visitez l’arrière-cuisine d’un restaurant en tant qu’observateur extérieur : vous y voyez une brigade brillante, qui produit des plats toujours plus impressionnants. Mais vous remarquez aussi que, pendant que l’équipe gagne en vitesse et en “sophistication”, l’espace de travail perd progressivement ses règles.

Les plans de travail s’encombrent d’appareils ultra sophistiqués qui ne sont pas conçus pour être nettoyés comme les anciens. Les procédures ne sont plus adaptées : des commis exécutent des ordres générés sur un écran, sans vraiment comprendre la logique derrière, sans mode d’emploi clair ni garde-fous. Les ingrédients changent de nature : pour gagner du temps, on uniformise les pratiques, on “optimise” la chaîne du froid, et l’on introduit des raccourcis qui peuvent compromettre la qualité—voire la sécurité—au moment où l’on sert le plat.

En salle, le constat est encore plus brutal : certains convives reçoivent un plat qui ne correspond plus à leurs besoins, ils mangent froids froid car ils ont été servi pendant qu’ils étaient coincées aux toilettes,…

On peut imaginer pas mal de situations dans lesquelles à la fois les serveurs ou les convives verraient leur parcours semés de dysfonctionnement pour seulement avoir une assiette devant eux au bon moment.

C’est exactement le parallèle que l’on peut faire avec le numérique et l’introduction de l’IA.

Aujourd’hui, beaucoup d’organismes n’ont pas réellement engagé de stratégie d’amélioration de l’accessibilité. On pourrait même dire qu’ils n’ont pas mis en place de stratégie pour contenir le périmètre des malfaçons, ni pour comprendre ce que ces malfaçons “coûtent” réellement aux utilisateurs.

Et si on voulait cartographier ces anomalies comme on le ferait pour une dette technique, on se rendrait vite compte d’un manque crucial : non seulement les organismes n’ont pas de mesures pour encadrer le périmètre “sans IA”, mais ils n’ont également aucune visibilité claire sur le périmètre “avec IA”.

Pour imager l’idée, c’est comme si, dans un bâtiment, les rampes, la signalisation, les aménagements… n’étaient pas conformes. Et en plus de ça, pendant que l’on continue à accepter des passages difficilement utilisables, de nouveaux aménagements apparaissaient soudainement en fonction des personnes—en fonction de “ce que l’IA décide”.

Pendant que les organismes peinent à établir un inventaire des parcours réellement compréhensibles et utilisables de manière raisonnable, ils sont déjà aveugles face à de nouveaux changements qui occupent l’espace : le sol, les murs, les bureaux et surtout le parcours de l’utilisateur.

Résultat : l’innovation arrive, parfois sans maîtrise du terrain. On gagne des capacités, on ajoute des automatisations, on promet une meilleure expérience… mais on perd la cohérence. Et quand l’accessibilité n’est pas traitée comme un objectif qualité “du même niveau” que la performance ou la modernisation, on observe une dégradation de service plutôt qu’une amélioration.