Efficacité vs. jugement
Automatiser les workflows. Optimiser le code. Réduire les délais de livraison. Nous entendons cela constamment ; les logiciels modernes accomplissent des choses remarquables lorsqu’il s’agit de supprimer les obstacles. Les tâches complexes et monotones qui nécessitaient autrefois du temps, des efforts et une expertise humaine peuvent aujourd’hui être réalisées en quelques secondes. Les systèmes peuvent facilement filtrer des candidatures, promouvoir des produits, détecter des bugs, répondre aux e-mails et appeler d’autres systèmes afin d’exécuter des tâches à une vitesse considérable.
Même s’il s’agit d’un progrès précieux, car l’automatisation permet certainement de réduire les erreurs et les coûts dans de nombreux domaines, elle comporte également certains risques. Un système bien conçu permet certes aux professionnels de se concentrer sur un travail à plus forte valeur ajoutée, mais beaucoup sont tentés de considérer les résultats comme absolus et définitifs. Un système robuste peut fournir à l’utilisateur de meilleures informations et des options plus claires, mais certains supposent à tort que celles-ci sont objectives et infaillibles.
Cela conduit progressivement les êtres humains à devenir plus passifs ; nous n’utilisons plus notre propre jugement et adoptons à la place l’attitude suivante : « Si le système le dit, c’est forcément vrai. » Le changement est considérable ; un ordinateur peut être extrêmement puissant et disposer d’un très grand nombre de cœurs CPU, mais il ne comprend pas le contexte de la même manière qu’un être humain. Une machine ne peut pas évaluer les conséquences morales d’une décision, pas plus qu’elle ne peut ressentir la pression écrasante provoquée par les conséquences d’un mauvais choix.
Prenons l’exemple du secteur du recrutement. Un système peut considérer une interruption dans un CV comme un signe d’instabilité ou de manque d’engagement, alors qu’un recruteur humain pourrait interpréter exactement la même situation comme une preuve d’adaptabilité et de résilience. Si nous examinons maintenant le secteur du service client, les systèmes automatisés peuvent fournir à l’utilisateur une réponse générique et routinière, tandis qu’un collaborateur humain peut reconnaître une véritable détresse et le besoin d’aide. Ces exemples ne visent pas à montrer que la technologie est mauvaise ; bien au contraire. Ils montrent que l’efficacité doit être équilibrée par la supervision, la transparence et la responsabilité. La question ne devrait jamais être de savoir si une machine peut accomplir une tâche ; elle devrait être de savoir si elle peut l’accomplir de manière pertinente et de façon autonome. Il existe sans aucun doute des processus qui bénéficient de l’automatisation, mais il en existe d’autres pour lesquels l’empathie humaine et le jugement professionnel sont mieux adaptés.
Chez CSPC, nous considérons cela comme faisant partie de l’ingénierie moderne et nous voulons l’intégrer à chaque système que nous concevons. Chaque système devrait non seulement être efficace, mais également être vérifiable et conçu de manière à ce que les humains conservent le contrôle lorsque cela est réellement important. Les systèmes doivent être conçus avec des limites claires ; cela signifie, par exemple, qu’un système automatisé devrait enregistrer ses recommandations et expliquer les facteurs qui les sous-tendent, tout en permettant une vérification humaine. La traçabilité est tout aussi importante que la rapidité ; un système qui ne peut pas être remis en question ne devrait pas recevoir la responsabilité de données personnelles et de décisions qui concernent des personnes.
Selon vous, où l’automatisation devrait-elle s’arrêter et où la responsabilité humaine devrait-elle commencer ? L’efficacité peut-elle réellement exister sans responsabilité ? À partir de quel moment la commodité devient-elle une dépendance ?
Nous nous réjouissons de connaître votre avis ! Partagez votre opinion avec nous dans les commentaires !
