Technologie - eolas | Le savoir pour tous

Nous sommes plus connectés que jamais, et pourtant, au fond de moi, j'ai l'impression que la distance entre les gens s'est accrue. Nous privilégions la rapidité à la qualité, le contexte culturel a moins d'importance dans nos échanges, et nous parlons plus que nous n'écoutons, mais à quel prix ? À travers une courte série d'articles, nous explorerons comment la connexion, l'empathie et la confiance sont façonnées, ou mises à rude épreuve, par les systèmes que nous construisons, les choix que nous faisons et les conversations que nous négligeons. Par Hans Sandkuhl, eolas - 11 minutes de lecture Je me demande parfois : où s'arrête un algorithme et où commence le jugement humain ? Cette question semble à la fois urgente et ambiguë. Les algorithmes sont omniprésents : dans le recrutement, l’éducation et les systèmes juridiques, et nous supposons que le jugement humain a toute sa place. Le problème, c'est que les deux ne cessent de se confondre. Un filtre de CV évalue un candidat avant même qu'un recruteur ne le rencontre, un outil prédictif influence la durée d'une peine prononcée par un juge, un système de notation façonne la manière dont les enseignants perçoivent les élèves. Comprendre que les limites sont importantes, c'est comprendre que la façon dont nous les traçons façonne ce que nous devenons, individuellement et collectivement. Les algorithmes de puissance et de modélisation impressionnent souvent par leur promesse de cohérence, d'évolutivité et d'absence de fatigue. Les recherches indiquent que, dans de nombreuses tâches décisionnelles, les systèmes algorithmiques surpassent le jugement humain grâce à une réduction des erreurs, une moindre variabilité des erreurs et une meilleure précision prédictive. Les individus ont tendance à privilégier les conseils algorithmiques lorsque la précision est primordiale, et l'appréciation des algorithmes est devenue un phénomène. Dans certains domaines, comme les prévisions météorologiques, les outils de diagnostic ou l'estimation des risques financiers, les résultats d'un algorithme sont pris en compte car ils sont perçus comme moins biaisés et plus fiables. Or, le jugement humain perçoit des éléments que les algorithmes peinent souvent à reproduire : le contexte, les nuances, la dimension morale et la signification culturelle. Lorsque les décisions ont un impact sur l'identité, la dignité, la confiance ou les valeurs individuelles, les gens se posent des questions : Ai-je été vu ? Quelqu'un a-t-il compris le contexte ? Quelqu'un a-t-il seulement envisagé l'invisible ? Là où le jugement humain compte : La supervision humaine reconnaît la complexité relationnelle, en plus de corriger les erreurs algorithmiques. Prenons ces exemples concrets : les services publics et la justice. Lorsque des outils algorithmiques contribuent à l’attribution des prestations sociales ou à l’évaluation des risques dans le système de justice pénale, les conséquences sont profondément personnelles. Des études indiquent que les individus perçoivent les décisions algorithmiques comme une réduction à un simple numéro, une perte de dignité et un sentiment d'invisibilité. Biais et équité : les algorithmes apprennent à partir des données, et si ces données sont biaisées (de manière raciale, socio-économique ou sexiste), comme expliqué dans notre analyse « La révolution de l'IA qui transforme déjà le monde des affaires », les algorithmes reproduisent et amplifient ces biais. Le jugement humain, aussi imparfait soit-il, peut parfois identifier ces biais, remettre en question les hypothèses et s'adapter aux normes locales qui ne figuraient pas dans l'ensemble d'entraînement. Confiance, perception, légitimité. Les recherches (par exemple, les évaluations de transparence et de responsabilité) suggèrent que l'acceptation des systèmes algorithmiques par le public dépend fortement de sa perception de la compréhensibilité du système, de la possibilité de corriger les erreurs et de l'explicabilité des décisions. La frontière entre algorithme et jugement humain s'estompe. Elle ne se contente plus de « bouger », elle se déforme sous la pression. Les systèmes hybrides impliquent que les décisions ne sont plus entièrement humaines ni entièrement automatisées, et que ce juste milieu modifie les rapports de force. Les outils conçus comme supports deviennent souvent des autorités silencieuses. Un recruteur peut privilégier un filtre de CV car il lui paraît plus objectif, un juge peut s'appuyer sur une évaluation des risques en raison de sa valeur statistique. Le contrôle peut devenir un rituel : les humains approuvent techniquement les décisions, mais l'algorithme a déjà défini le cadre. Les chercheurs décrivent cela comme un continuum, mais en pratique, il semble pencher plus souvent dans un sens : vers la machine. Lorsque les individus savent que leurs performances sont jugées par une IA et non par une personne, ils s'adaptent. Ils se comportent avec plus de prudence, parfois avec plus de rigidité, s'alignant sur ce qu'ils pensent être les attentes du système. Le jugement humain est alors façonné par une négociation invisible avec l'algorithme, le contexte, la définition prédite du « bon » comportement, et n'est plus indépendant. En ce sens, le risque plus profond est que le jugement humain se remodèle insidieusement jusqu'à oublier sa propre autorité. Et si nous repensions notre approche ? Je crois qu'il y a un potentiel à redéfinir intentionnellement ces limites. Garantir l'explicabilité n'est pas une simple case à cocher, mais fait partie intégrante de la conception relationnelle. Il ne s’agit pas seulement de se demander « pourquoi l’algorithme a pris cette décision ? » mais aussi « qu’a ressenti la personne concernée face à cette décision ? ». Intégrer la réflexivité culturelle et contextuelle dans les systèmes algorithmiques : normes locales, valeurs morales, récits. Lorsque les systèmes ignorent les différences culturelles, ils peuvent imposer ce que la culture dominante considère comme « normal ». Maintenir une autorité partagée dans les décisions qui affectent la vie des gens, où humains et machines coproduisent les résultats. Il faudrait que les humains aient un véritable pouvoir pour outrepasser ou remettre en question l'algorithme, et non pas simplement pour entériner les résultats. Créer des espaces d'écoute et de réflexion au sein des organisations et de la gouvernance : des boucles de rétroaction provenant des personnes concernées, et pas seulement des données. Tirez profit des histoires et des « petits échecs » plutôt que de vous concentrer uniquement sur l'optimisation des indicateurs. De la même manière, les cadres environnementaux, sociaux et de gouvernance (ESG) incitent les organisations à rendre compte de leur impact social, non seulement par le biais d'indicateurs quantitatifs, mais aussi par le biais d'analyses qualitatives. Ces boucles de rétroaction garantissent que la dignité, l'expérience vécue et le contexte culturel sont reconnus comme des éléments essentiels de la création de valeur et de la responsabilité. Quelqu'un a dit Blockchain ? Les algorithmes ne sont pas les seuls systèmes à remodeler le jugement. La blockchain pose un défi différent : le passage d'une confiance centralisée à une confiance distribuée. Sur le papier, ça a l'air émancipateur. Les décisions sont enregistrées de manière transparente, les transactions vérifiées collectivement et l'autorité répartie entre les « nœuds » ou instances plutôt que concentrée dans une seule institution. En Amérique latine, des gouvernements et des banques de développement ont mis en place des systèmes pilotes d'enregistrement foncier basés sur la blockchain afin d'accroître la transparence et de réduire les risques de falsification, notamment les projets pilotes de la Banque interaméricaine de développement (BID) au Pérou, au Paraguay et en Bolivie, l'initiative de titres fonciers du Honduras avec Factom, les projets pilotes municipaux du Brésil à Pelotas et Morro Redondo, et le projet de l'Agence nationale foncière de Colombie (ANT) délivrant des certificats fonciers vérifiables par QR code. Mais les choix de conception ont aussi leur importance ici. Qu’est-ce qui constitue une preuve valable ? Qui a accès au réseau et peut y participer ? Si les règles de gouvernance sont écrites dans le code, quelles sont les présupposés culturels qui seront intégrés ? Plusieurs enquêtes et analyses systématiques du vote électronique basé sur la blockchain soulèvent des inquiétudes quant à l'accessibilité, à la littératie numérique et à la fracture numérique, autant de défis à relever pour sa mise en œuvre. Le système favorise-t-il l'inclusion ou exclut-il discrètement ceux qui n'ont pas accès au numérique ? Alors que l'IA tend à façonner notre manière de prédire et de classifier, la blockchain façonne notre manière d'enregistrer et de légitimer. Les deux soulèvent la même question des limites : quand le système guide-t-il la confiance, et quand le jugement humain reprend-il l’autorité pour dire « cette décision est valable » ou « cette décision doit être contestée » ? Quelques tensions et questions en suspens. Un ancrage humain plus fort semble nécessaire, même si chaque tentative soulève de nouveaux dilemmes. Les algorithmes promettent l'échelle, ils peuvent appliquer les règles de manière cohérente et parfois réduire le poids des biais individuels. Cette même échelle risque cependant d'aplanir la particularité, les cas atypiques, les exceptions qui revêtent une signification profonde. Le jugement humain fait intervenir l'émotion, l'intuition et la capacité d'empathie. Ces qualités ouvrent la voie à la nuance, mais elles créent aussi des failles qui laissent place à la fatigue, aux préjugés et à l'incohérence. Vous voyez comment les deux parties détiennent de la valeur, tout en supportant un risque ? Cela me laisse avec des questions difficiles à résoudre. Quand un algorithme est-il suffisamment fiable pour guider les décisions ? Quel niveau de formation ou d'audit permet une véritable supervision, et qui définit ce que signifie « suffisant » ? Au-delà des débats techniques, la question du pouvoir est primordiale : qui conçoit ces systèmes, qui en comprend les limites et qui a la possibilité de les contester ? C'est cette question, je crois, qui touche le plus profondément. Où cela finit et où cela commence : je ne crois pas qu’il existe un moment universel où un algorithme s’arrête et où commence le jugement humain. La délimitation dépendrait plutôt du domaine, des enjeux, des valeurs culturelles et des relations en jeu. Le jugement humain commence-t-il peut-être lorsqu'une personne est lésée ou se sent invisible ? Même si c'est peut-être déjà trop tard, il faudrait commencer à ce moment crucial où quelqu'un risque d'être touché. Lorsque les données, les indicateurs et les optimisations ne permettent pas de saisir ce qui compte vraiment. Lorsque l'empathie, la confiance et la dignité font partie intégrante du résultat de la décision, et non plus un simple effet secondaire. Et peut-être que l'algorithme prend fin lorsque les gens se sentent libres de demander « pourquoi ? » et d'attendre une réponse ; lorsqu'ils se sentent écoutés et tenus responsables. Invitation à la réflexion La prochaine fois que vous utiliserez un outil alimenté par un algorithme ou une IA au travail ou dans le cadre de vos études, prenez un instant pour vous demander : qui a fait les choix de conception ? Quelles valeurs sont intégrées à ce système ? Quelles voix ne sont pas représentées ou sont absentes ? Que ressentirions-nous si le jugement était davantage ancré dans l'humain ? Et c'est peut-être ainsi que nous pourrions définir de meilleures limites, en insistant sur le regard humain, sur le contexte et la présence, plutôt qu'en résistant à la technologie. Machine de lecture supplémentaire vs. L'humain, qui est le mieux placé pour prendre des décisions ? - Cambridge Judge Business School, 2025 « Transparence et responsabilité dans les systèmes d'IA : préserver le bien-être à l'ère de la prise de décision algorithmique » - B. Chester Cheong et al., 2024 La BID met en œuvre un projet pilote de registre foncier basé sur la blockchain avec ChromaWay. Une revue systématique des défis et des opportunités de la blockchain pour le vote électronique.

Tag: sans souci

Quand la technologie et l'humanité se rencontrent au-delà des algorithmes

La révolution de l'IA qui transforme déjà le monde des affaires

La technologie au service des cultures mondiales

APPRENTISSAGE

Éolas

RESSOURCES

APPRENTISSAGE

Éolas

RESSOURCES

Restez au top

Des formations ciblées, des perspectives inédites et de nouvelles opportunités, directement pour vous.