Quand l’IA conseille, la responsabilité reste humaine

Une IA peut fournir une réponse claire, structurée et convaincante sans avoir compris votre situation ni vérifié chaque information. Le risque ne tient donc pas uniquement à l’erreur technique. Il vient aussi de la confiance accordée à une réponse qui ressemble à un avis professionnel.

Le risque apparaît dès qu’une conversation avec un chatbot touche à l’argent, à la santé, au droit, au travail ou à la sécurité. L’outil peut aider à formuler une question, comparer des options ou préparer un rendez-vous. Il ne devrait pas devenir l’unique arbitre lorsque les conséquences dépassent la simple recherche d’information.

Le ton assuré masque la qualité réelle de la réponse

Le terme IA recouvre des systèmes différents. Une IA générative produit du texte ou des images. Une IA prédictive analyse des données existantes pour établir des prévisions. Une IA agentique peut aller plus loin et réaliser certaines tâches, comme traiter des messages ou prendre un rendez-vous. Ces systèmes n’ont ni les mêmes données, ni les mêmes réglages, ni les mêmes autorisations.

Un assistant conversationnel peut répondre même lorsque les informations disponibles sont incomplètes. Il peut alors produire une affirmation erronée, dépassée ou entièrement inventée, avec une formulation qui ne signale pas toujours le doute. Pour un sujet à enjeu, vérifiez les éléments importants et confrontez-les à une source de référence.

Le risque augmente quand le conseil devient une action

Un assistant qui explique le fonctionnement d’un placement, d’un médicament ou d’une démarche administrative reste dans un rôle d’information. Un système qui recommande une décision adaptée à une personne précise, envoie un document ou effectue une transaction intervient à un autre niveau. Le passage de la suggestion à l’exécution réduit la possibilité de reprendre la main au dernier moment.

Dans le domaine financier, demander la définition d’un fonds indiciel ne revient pas à déterminer quelle part de son épargne lui consacrer. Cette seconde question dépend notamment de la situation personnelle, de l’horizon de placement, des revenus, des dettes et de la capacité à supporter une perte. Une réponse générale peut préparer un échange avec un professionnel, mais elle ne transfère pas la responsabilité de la décision au chatbot.

La même limite existe en santé. Un article publié dans L’Information psychiatrique sur l’usage de l’IA en addictologie décrit un potentiel pour le repérage, l’évaluation et l’accompagnement, tout en signalant les hallucinations, les informations obsolètes, les biais et les problèmes de confidentialité. L’article présente l’IA comme un outil complémentaire à l’expertise clinique, avec anonymisation et consentement lorsque des données personnelles sont utilisées.

Cette distinction vaut aussi pour les outils capables d’agir dans une messagerie, un agenda ou un service d’achat. Avant de leur donner une autorisation, vérifiez où commence réellement leur autonomie et quelle confirmation humaine reste prévue avant une action irréversible.

Le déficit commence souvent avec une question trop vague

Une demande comme « Que dois-je faire? » laisse de côté les contraintes qui déterminent pourtant la bonne réponse. Le chatbot peut combler ces vides avec des hypothèses implicites. L’utilisateur reçoit alors une recommandation qui paraît personnalisée sans avoir fourni les éléments nécessaires pour qu’elle le soit réellement.

Une demande mieux cadrée ne rend pas l’IA fiable par elle-même. Elle permet cependant de repérer les inconnues et de comparer les options. Pour une décision qui compte, suivez cette procédure :

1. Décrire l’objectif et le contexte utile. Indiquez ce que vous cherchez à obtenir, vos contraintes de délai ou de budget et le niveau de risque acceptable, sans transmettre de données sensibles.
2. Demander les hypothèses. Faites préciser les informations que l’IA suppose et celles qui lui manquent pour répondre correctement.
3. Faire apparaître plusieurs options. Demandez les avantages, les inconvénients, les coûts possibles et les cas dans lesquels chaque option devient inadaptée.
4. Interroger les limites. Demandez quels éléments peuvent être obsolètes, incertains ou difficiles à vérifier.
5. Contrôler ailleurs. Comparez les points importants avec une source officielle, un document contractuel, un professionnel qualifié ou la personne responsable du dossier.

Cette méthode évite surtout une illusion de personnalisation. Une réponse qui reprend vos mots n’a pas nécessairement pris en compte vos intérêts, vos obligations ou les conséquences d’une erreur.

La sécurité passe aussi par les données confiées à l’outil

Le texte saisi et les documents importés entrent dans le traitement réalisé par l’outil. Selon le service, une extension ou un agent relié à une application peut aussi accéder à une messagerie, à un agenda ou à d’autres fichiers. Évitez donc de transmettre des informations personnelles sensibles et vérifiez les autorisations accordées à chaque intégration.

Protégez également le compte qui donne accès à l’outil et contrôlez régulièrement les connexions et les permissions actives. Une IA capable de lire une messagerie, d’accéder à des fichiers ou d’effectuer une action automatique mérite un périmètre d’accès limité à ce qui est réellement nécessaire.

En entreprise, cette vigilance doit s’ajouter à des règles internes claires. Avant de déployer un assistant, définissez les données qu’il peut recevoir, les actions qu’il peut effectuer et la personne qui valide les résultats. Une PME gagnera souvent à commencer par choisir un premier projet utileavec un périmètre mesurable, plutôt qu’à ouvrir simultanément plusieurs accès difficiles à contrôler.

Trois niveaux pour décider de la place de l’IA

Information générale

L’IA peut résumer un texte, expliquer un terme, proposer des questions à poser ou organiser des pistes de recherche. Le niveau de risque peut rester modéré si l’utilisateur vérifie les faits et ne transmet pas de données confidentielles.

Décision personnelle

Lorsque la réponse concerne la santé, l’argent, le droit ou la réputation, l’IA peut préparer la décision mais ne doit pas être la seule source. Les hypothèses doivent être visibles et les éléments décisifs confirmés auprès d’une source compétente.

Action automatique

Quand l’outil peut envoyer, acheter, supprimer, modifier ou publier, la priorité devient le contrôle. Une confirmation explicite, un historique des actions et une possibilité d’annulation réduisent le risque, sans le supprimer. L’approche par les risques défendue par l’ANSSI et ses partenaires consiste à examiner le système, ses usages et les menaces qui peuvent compromettre son fonctionnement.

La bonne question n’est donc pas seulement de savoir si l’IA donne souvent une réponse utile. Il faut aussi savoir ce qu’elle ignore, quelles données elle utilise, qui vérifie son résultat et ce qu’elle est autorisée à faire ensuite. Si une réponse engage de l’argent, la santé, un droit ou l’accès à un compte, l’IA peut préparer la décision, mais la responsabilité doit rester clairement humaine.