Comment peut on évaluer l’impact que pourrait avoir l’I.A. sur certaines pratiques professionnelles sans commencer par se questionner sur ce qu’est vraiment l’IA et ce qu’elle est en capacité de faire ?

On pourrait avoir l’impression pourtant, en lisant certains articles ou écoutant certains webinaires d’être face à un certain niveau de méconnaissance.
Il est étonnant par exemple étonnée d’entendre évoquées des questions comme :
– « une IA pourrait elle être tenue pour responsable légalement » ?
– « Peut on parler de conscience pour une IA » ?
– « Une IA pourrait elle rencontrer des problèmes éthiques » ? …

Il y beaucoup d’auteurs et d’informations qui permettent d’alimenter une réflexion et des réponses à apporter à ce type de questions ; partageons ici quelques unes.

L’Intelligence pourrait être représentée comme un arbre ?
– Intelligence Humaine représentée par l’ Arbre de vie (la Genèse de Moïse) : ancien symbole évoquant vie/fertilité/sagesse/éternité, intelligence vivante, intelligence du vivant …
– Intelligence Artificielle représentée par l’Arbre de la Connaissance (la pomme dans le jardin d’ Éden) : intelligence dénuée de conscience vivante, permettant de séparer/désigner le bien et le mal… mais intelligence “morte” ?

– I.H. incarnée par l’Homme, imparfait, fragile, limité, avec ses biais cognitifs…
– I.A. incarnée par le Robot, la machine froide, corps mort, mais avec des capacités augmentées et fiable … ?

Au delà de la représentation, qu’est ce que l’Intelligence ?
Qui peut répondre ? Les scientifiques ? Les philosophes ? Cette « chose » que chacun de nous comprend intuitivement et qu’elle/il utilise tout au long de son existence (à peu près .)…
Une définition ? L’intelligence est un principe contenant plusieurs mécanismes et outils qui permettent le développement de solutions à des problèmes.
…ce serait si simple…

Pour aller un peu plus loin, on peut essayer de comprendre les structures construites par l’intelligence, ou le «mécanisme » qui permet à l’ intelligence de construire les structures qui vont lui permettre de fonctionner….et d’apprendre.
…comprendre cela pour l’ IH me permettra peut être de mieux comprendre l’ IA.

 

Pour développer une intelligence, il y a besoin de certains éléments indispensables.

Postulat 1 : une intelligence est capable d’apprendre.
Donc il y a besoin de quelques outils qui assurent les fonctions élémentaires de l’apprentissage.
Postulat 2 : La qualité de ces outils définit la qualité de l’intelligence, et des solutions qu’elle propose.

Comment l’intelligence est « structurée » ? Comment elle « fonctionne ? Mise en parallèle IH et IA .

  • Outils d’interaction (les sens)
    Pour qu’une intelligence puisse être développée, elle a besoin de capter et d’accumuler de l’information.

Pour l’Humain, cela est possible via les 5 sens qui sont de véritables “sondes” branchées sur la réalité, qui permettent à l’intelligence de se nourrir d’informations. Plus la qualité des sondes est bonne, plus la qualité de l’information qu’elles absorbent est meilleure, plus l’intelligence finale sera efficace.

Pour le Robot, les sens seront des « capteurs » de sons, d’images, d’informations écrites et non écrites, capteurs de température, de micro- expressions faciales, …

Problèmes qui se posent dans le « transfert » IH à IA : consentement du « sujet » observé, légalité, respect de l’intégrité physique, …

  • Le Processeur (analyse et écriture)
    Indispensable pour que l’information captée soit transcrite en vue de son stockage puis son analyse. Sans processeur, il semble impossible de garder l’information captée/recueillie.

Pour l’Humain, , l’information transmise par les 5 sens (sondes) est traitée, triée, et enregistrée a priori par le cerveau.
Il s’agit de l’aspect “organisation de l’information” qui devient centrale pour l’efficacité des processus qui interviennent à la suite.

A cette étape, se pose la question de l’apprentissage. On parle de une « tête bien faîte » pour une personne qui a appris à analyser, trier, ranger (et « écrire ») l’information à laquelle elle a accès, grâce à son éducation, sa formation, …puis qui va être capable de mettre en place des boucles d’apprentissage de plus en plus complexe (raisonnement) pour augmenter son efficacité.

Pour le Robot, on peut ici évoquer les programmes de type Systèmes Experts, avec leur aspect en « arborescence » (avec un choix binaire “oui” ou “non”) ; ce sont eux qui permettent d’augmenter considérablement cet effet « boucle d’apprentissage » en terme de vitesse, de quantité d’informations traitées, …

Problèmes qui se posent dans le « transfert » IH à IA : quand il n’y a pas de tri, le traitement se fait uniquement sur le quantitatif, comment se fait le tri par qualification & priorisation de l’information, voire élimination (qui décide?),(dimension éthique voire morale), manipulation pour pousser certaines « branches » de l’arborescence…

  • La Mémoire
    …parce que les informations traitées doivent être organisées sur un support.
    Pour l’Humain : l’information est stockée dans le cerveau, comme dans des “tiroirs”, de façon plus ou moins organisée selon les personnes et leurs capacités/spécificités cognitives.

Pour le Robot : « emplacements » physiques dont la technologie a évoluée très rapidement en terme d’encombrement et de capacité. Il est certain que la machine possède des capacités considérables possibles.

Problèmes qui se posent dans le « transfert » IH à IA : confidentialité, traçabilité, conservation et protection des données,…

 

  • Le processus d’apprentissage
    Le processus d’apprentissage dépend de l’analyse des données puis de leur stockage qui vont permettre de trouver la réponse optimale à une question précise.
    Pour le Robot : la machine « apprend » en évaluant une série de résultats et la « distance » qui les séparent du résultat optimal (marge d’erreur, les lignes rouges sur le dessin).
    Pour l’Humain : Le processus est parfaitement identique, mais les résultats seront plus ressentis/vécus que lus sur un tableau.
    Le résultat le moins bon (éloigné de la situation idéale, ligne rouge la plus longue) se manifestera par ce que le cerveau identifie comme une “souffrance”, sous toutes ses formes (douleur physique ou psychologique, dépression, pessimisme…) . La souffrance est donc l’indicateur pour l’IH, qui dit que « quelque chose ne va pas, et qu’il y a besoin d’une (autre) solution. Du coup, la personne va réévaluer les informations et les solutions proposées par son «intelligence », afin de trouver de meilleures réponses, qui vont générer moins de souffrance (stress, inconfort, problèmes physiques, …).
    Problèmes qui se posent dans le « transfert » IH à IA : tout ce qui se retrouve à l’intérieur de la machine, y ayant été introduit par un être humain, on voit le risque de : contamination des données, manipulation pour pousser certains résultats, introduction des biais cognitifs, ….

Conclusion 1

La QUALITÉ DE L’ INFORMATION DONNÉE ET TRAITÉE est PREMIÈRE.

La question a se poser, en l’état actuel du développement des machines de types IA et de la connaissance qu’on en a n’est pas au sujet de :
auront elles une conscience ?
auront elles à traiter des dilemmes éthiques ?
pourront elles être tenues pour responsables ( légalement, commercialement, moralement, …) ?
Cela semble absurde ou pour le moins prématuré.

Par contre, la qualité de l’information est LE facteur le plus important, car il détermine la qualité du résultat final. Les zones de vigilance seraient :
les sources de information mise à disposition (capteurs ou directement à partir de bases de données),
les processus de tri et de stockage de l’information,
identification ( et régulation) des décideurs de quelle information est utilisée et utilisable.

Imaginez si un Chap GPT est « nourri » avec des fausses informations, ou des informations éthiquement pas ok ( propos racistes, homophobes, pronant la violence, …)

La « machine » ne pourra traiter qu’en fonction de cette information et arrivera à des conclusions erronées ou manipulées.
La qualité de l’information définit également la capacité de la machine à améliorer son processus d’apprentissage.

Si le résultat final proposé n’est pas adapté, les capteurs/sondes vont quand même envoyer ce résultat au processeur d’analyse/écriture…
…Ce dernier va ajouter l’information que ce qui a été proposé n’était pas efficace, normalement va enclencher le processus pour trouver nouvelle solution, plus efficace, toujours basée sur l’information qui est dans la mémoire.
Mais que se passe-t-il si la « mauvaise » solution bien que détectée est gardée comme la solution la plus efficace et enregistrée comme telle dans la mémoire ? Alors la mauvaise information va venir « contaminer » la mémoire, dégradant cette dernière, et posant les bases de futures erreurs…

 

Conclusion 2

AVEC L’IA IL DEVIENT PLUS FACILE DE PIRATER L’ IH.

Pour corrompre une intelligence, il faut donc corrompre l’information; pour l’humain cela correspond au mensonge, ou déformer le processus d’apprentissage (manipulation), proposer des « mauvais » résultats qui amènent à des réponses aux problèmes posés de plus en plus chaotiques, jusqu’à l’implosion totale de l’intelligence…

Mais pour l’ IA, c’est la même chose ! Donc avant d’utiliser une IA dans sa pratique professionnelle, QUELQUES QUESTIONS CLÉS MÉRITENT ATTENTION :
– Est-ce que “mon” intelligence est corrompue ?
– Comment connaître la qualité de l’information que l’IA ingère ?
– Qui décide et qui maîtrise la programmation, la maintenance de l’ IA ?
– Qui gère/utilise les données manipulées par l’ IA ?

Lexique : Source Lives de Y Files – Léo
IH : Intelligence Humaine
IA : Intelligence Artificielle Janvier 2024 / Eva MULLOR – Indaleo Conseil