Quand votre produit commence à apprendre, à agir et à décider, qui conçoit son comportement ?

Quand votre produit commence à apprendre, à agir et à décider, qui conçoit son comportement ?

“Que se passe-t-il quand l’interrupteur commence à apprendre ?” Yamen, interrupteur à Machine Learning intégré, design by Aktan

Pendant un moment, l'arrivée de l'IA générative a créé un doute. Si des machines peuvent produire des images, des interfaces, des objets… alors à quoi sert encore le design ?

En réalité, cette lecture passe à côté de l'essentiel. Les IA produisent des formes, des contenus, des variations à grande vitesse. Mais elles ne conçoivent pas encore les relations qui donnent du sens à ces formes : les usages, les contextes, la confiance, les compromis entre acteurs.

C'est précisément là où le rôle du design redevient plus pertinent, exigeant… et plus stratégique.

1. Nous ne concevons plus des objets, mais des comportements

Le design s'est d'abord concentré sur la forme et la fonction, puis sur l'usage et le sens. Avec les systèmes IA, il doit maintenant intégrer une quatrième dimension : le comportement dans le temps.

Aujourd'hui, les produits deviennent des systèmes qui apprennent. Ils observent. Ils s'ajustent. Ils anticipent. Cela rejoint l'idée de Simon selon laquelle les systèmes artificiels ne sont pas seulement des objets à fabriquer, mais des artefacts à concevoir dans un cadre de complexité et de décision.

L'objet intelligent peut prendre plusieurs formes, et toutes ne relèvent pas du même niveau de sophistication. Il est utile de distinguer une typologie simple :

  • Objet connecté (IoT) : il est relié à un réseau, remonte des données, reçoit des commandes à distance. Mais son comportement reste essentiellement fixe. On a surtout déplacé l'interface, depuis un bouton physique vers une app.

  • Objet smart : il réagit à des conditions avec des scénarios préprogrammés. Par exemple : « si présence + nuit → allumer », « si température < 19 °C → chauffer ». Il semble plus intelligent, mais il applique des règles définies à l'avance par des humains.

  • Objet apprenant : il n'applique plus seulement des règles génériques. Il apprend de vos usages réels, détecte des patterns, ajuste ses paramètres, propose des automatisations adaptées à votre contexte particulier. On ne programme plus chaque comportement, on conçoit le cadre dans lequel il peut évoluer.

  • Objet intelligent : il ne se contente plus d'optimiser un signal et une action. Il tient compte de plusieurs dimensions simultanées, il est capable d'expliquer ses choix, d'intégrer vos retours, et de cohabiter avec d'autres systèmes intelligents sans générer de chaos.

C'est à partir du troisième niveau que le design change de nature. On ne se contente plus de concevoir une forme, de définir une fonction ou de configurer quelques règles. On conçoit le cadre d'un comportement évolutif, dans le temps, et dans un environnement social et technique plus large. Cela rejoint aussi les critiques de Suchman sur le modèle du plan : l'action réelle dépend toujours du contexte, des ajustements en situation, et non d'une exécution purement linéaire.

Le design consiste alors à :

  • définir ce que l'objet a le droit d'apprendre ;

  • décider jusqu'où il peut anticiper et décider ;

  • concevoir comment il demande confirmation ;

  • concevoir comment il explique ses décisions et accepte d'être corrigé.

Autrement dit, nous ne designons plus seulement des objets, nous designons des comportements dans le temps et, de plus en plus, des relations entre ces comportements et les humains qui vivent avec eux.

2. Le design devient le design des relations

Un objet qui apprend n'est plus un produit figé. C'est un système en évolution, pris dans un réseau de signes, d'usages et de pouvoirs.

Baudrillard montrait déjà que les objets ne sont jamais isolés. Ils existent dans un système d'objets qui structure nos modes de vie, nos statuts, nos imaginaires. Aujourd'hui, avec l'IA, ce système ne se contente plus de nous signifier quelque chose : il réagit, il négocie, il optimise, il propose, et parfois insiste.

La valeur ne réside plus uniquement dans ce qu'un objet fait, mais dans la manière dont il le fait, comprend, s'ajuste et cohabite avec nous. C'est là qu'une lecture par les relations devient centrale. Latour insiste d'ailleurs sur le fait que le social n'est pas un bloc, mais un assemblage d'associations, de médiations et de traductions entre entités hétérogènes.

Le human layer

Entre l'infrastructure technique, les modèles, les données et les protocoles, et les interfaces visibles, il y a une couche où se décide la qualité de la relation. C'est là que se joue la manière dont le système intègre réellement le jugement humain, la supervision, la possibilité de dire non.

Dans cette perspective, l'interface n'est plus seulement un écran ou un bouton. Elle devient un lieu de gouvernance de l'autonomie. Shneiderman défend précisément une IA centrée humain, où l'objectif n'est pas de remplacer les personnes, mais de leur donner davantage de contrôle, de clarté et de responsabilité.

Dans ce human layer, le design doit :

  • rendre négociables les décisions de l'IA ;

  • orchestrer les boucles de feedback humain ;

  • clarifier qui porte quoi : quelles décisions pour la machine, quelles décisions pour l'humain, quelles décisions partagées.

Nous ne sommes plus seulement dans l'UX d'un écran, mais dans le design d'une architecture de relations. Il faut définir qui parle à qui, quand, comment, par quel canal, sur quels sujets, avec quel niveau de confiance et de réversibilité.

3. De l'interface à l'alliance

Dans un monde où l'on doit faire confiance aux objets qui nous entourent, l'être humain a tout intérêt à créer des alliances avec eux.

Le design devient alors :

  • un design de la compréhension mutuelle ;

  • un design des modèles mentaux ;

  • un design de la confiance.

Le premier niveau consiste à faire en sorte que le système comprenne mieux l'humain, et que l'humain comprenne mieux ce que le système fait réellement. Le deuxième consiste à sortir du fantasme de la boîte magique pour donner une image juste de ce que l'IA sait, peut, et de ses angles morts. Le troisième consiste à faire tenir la relation dans le temps, avec des erreurs, des mises à jour et des changements de contexte.

Dans cette logique, l'IA centrée humain n'est pas seulement un principe moral, c'est une exigence de conception. Shneiderman insiste sur la nécessité de systèmes fiables, sûrs et dignes de confiance, qui augmentent les capacités humaines sans retirer la maîtrise.

Là où Baudrillard décrivait un système d'objets qui nous façonne silencieusement, nous entrons maintenant dans un système d'intelligences où se joue quelque chose de plus délicat : la possibilité de rester sujet au milieu de dispositifs capables d'agir, de calculer et d'apprendre sans nous.

Le design n'est plus seulement la mise en forme de ce système. Il en devient la mise en relation, et la ligne de défense pour garder l'humain au centre.

Dit autrement, nous passons aujourd'hui du design des interfaces au design des alliances.

4. Un exemple simple : un interrupteur qui apprend

Prenons comme base de réflexion un objet d'une banalité absolue, un interrupteur, et demandons-nous ce qu'il devient lorsqu'il est intelligent.

Aujourd'hui, il exécute une commande. Demain, il peut apprendre vos usages :

  • à quels moments vous allumez ;

  • dans quelles conditions ;

  • pour quels usages.

Il peut alors, sur un premier niveau basique :

  • proposer des scénarios lumineux adaptés à vos routines ;

  • anticiper certains besoins ;

  • se coordonner avec d'autres systèmes.

Mais il peut aussi, en allant plus loin :

  • vous inciter à faire des économies d'énergie ;

  • modifier vos comportements pour le meilleur, mais le meilleur selon qui ;

  • vous faire comprendre qu'une meilleure option s'offre à vous, et vous acculturer progressivement à une autre manière d'habiter la lumière.

Ce n'est plus seulement à vous de comprendre la machine. C'est à la machine de comprendre votre manière de vous éclairer.

Souvenez-vous du temps où vous appuyiez frénétiquement sur votre télécommande de télévision. Vous pensiez qu'elle obéirait mieux si vous insistiez. En réalité, elle manquait juste de batterie. Appuyer plus fort ne servait à rien.

Demain, ce sera différent. L'interrupteur vous comprendra. Il pourra éteindre alors que vous vouliez que cela reste allumé. En rappuyant plus vite, plus fort, plusieurs fois, vous lui donnerez un signal d'intention et d'attention. Il pourra le reconnaître. Mais il pourra aussi décider d'éteindre pour votre bien.

Le design ne consiste plus à placer des boutons ou des fonctions pour faire vivre une expérience, mais à concevoir une relation d'apprentissage, une expérience relationnelle (et ça c'est du design de service) :

  • jusqu'où l'interrupteur anticipe ;

  • qui décide du bien ;

  • quand doit-il demander confirmation ;

  • comment il explique ses choix ;

  • comment vous pouvez le corriger et reprendre le contrôle ;

  • à quel point il est autonome, et dans quel périmètre d'action.

Ce petit exemple contient déjà tout : comportements, transparence, apprentissage, confiance.

Vous ne commandez plus, vous entretenez une relation. Une relation qui implique de la réciprocité, de la mémoire, de la confiance et du désaccord.

Avec ces objets intelligents, vous entretenez donc une relation qui peut s'étaler dans le temps. Quand vous achèterez une maison en 2058, ses objets contiendront l'histoire des gens qui vous ont précédés, leurs habitudes et leurs biais, leur manière d'habiter la lumière.

De nouvelles typologies de frictions apparaissent, entre habitudes des anciens et nouveaux habitants, et nous permettent de remettre une notion au goût du jour : l'héritage émotionnel des objets de Baudrillard.

5. Typologie des usages

L'intérêt de cette réflexion est aussi de faire apparaître plusieurs familles de produits, selon le degré d'autonomie et de négociation qu'ils impliquent.

  • Objet connecté : relie, mesure, commande à distance. Concevoir l'accès, la lisibilité, la continuité entre objet et application.

  • Objet piloté par règles : réagit à des scénarios définis à l'avance. Définir les règles, leurs limites et les cas de bascule.

  • Objet apprenant : ajuste ses comportements à partir des usages. Encadrer l'apprentissage, prévoir la réversibilité, rendre visibles les changements.

  • Objet intelligent : arbitre entre plusieurs objectifs et peut expliquer ses choix. Concevoir la négociation, la confiance, le droit à la contestation et la cohabitation avec d'autres systèmes.

Cette typologie évite de mettre tout le monde dans le même panier. Un produit qui « fait de l'IA » peut en réalité n'être qu'un système de règles un peu plus souple, ou au contraire un système réellement adaptatif. Le design n'a pas le même rôle selon le niveau d'autonomie.

6. Des use cases plus ambitieux : de l'objet à l'écosystème

L'interrupteur n'est qu'un point d'entrée. Dès que l'on change d'échelle, la même logique se rejoue, en plus dense.

Prenez une usine ou un bâtiment intelligent : les robots, le chauffage, la ventilation, les stores, l'éclairage et les accès ne fonctionnent plus chacun dans leur coin. Sans être connectés par un réseau, ils apprennent ensemble des rythmes d'occupation, des habitudes de confort et des contraintes de coût.

Le travail de design ne consiste alors plus à dessiner l'interface d'un thermostat, mais à orchestrer une négociation permanente entre des intérêts qui ne s'accordent pas : l'économie d'énergie contre le confort thermique, l'équipe du matin contre celle du soir, les ateliers contre les bureaux.

Le même glissement s'observe dans le logiciel. Dans un outil SaaS, une IA peut repérer les fonctions les plus utilisées, simplifier les parcours selon les profils, proposer des automatisations à force d'observer les séquences qui se répètent.

Le risque est connu : un système qui se reconfigure sans prévenir déstabilise ses utilisateurs, brouille leurs repères et finit par éroder leur confiance.

La réponse n'est pas seulement technique. Elle est relationnelle. Elle tient à quelques décisions de fond :

  • distinguer ce qui peut s'adapter tout seul de ce qui doit rester explicite ;

  • faire en sorte que le système explique ce qu'il change ;

  • garantir qu'on puisse toujours revenir en arrière.

Dans les deux cas, l'objet a disparu derrière l'écosystème mais la question n'a pas bougé : la qualité de la relation dans le temps.

7. Ce que cela change pour les organisations

Ce basculement n'est pas qu'une affaire de design, il déforme concrètement les modèles économiques et les façons de s'organiser.

D'abord parce que le produit devient un service continu. Un système qui apprend ne s'arrête pas à la livraison. Il se met à jour, il évolue, il se reconfigure au gré des données, des usages et des régulations. On quitte la logique du projet qu'on lance et qu'on referme pour entrer dans celle d'une conversation qui dure.

La différenciation, elle aussi, se déplace car elle devient comportementale. Ce n'est plus la liste des fonctionnalités qui distingue deux produits, mais la qualité de leur interaction dans le temps.

La valeur devient systémique. Produit, données, design et technique ne peuvent plus être pensés séparément. Un bon modèle sans bon design produit de la confusion ; un beau design sans données pertinentes produit une expérience vide ; une architecture de données sans vision d'usage produit un système parfaitement optimisé pour rien.

Le design doit donc travailler à l'échelle du système entier (flux de données, boucles de feedback, gouvernance des comportements, effets sur l'organisation).

Ce qui revient à dire que le rôle du design change. Le designer ne dessine plus seulement des écrans, il fixe les conditions de cohabitation entre intelligences. Il explicite les règles de comportement, formalise les modèles mentaux côté humain comme côté machine, et orchestre les points de contact entre tous les agents en présence.

8. Le vrai enjeu : la qualité de la relation

Le risque n'est pas que les machines deviennent intelligentes. Il est de laisser cette intelligence se structurer sans intention de design.

Une IA mal conçue produit toujours les mêmes effets. Elle sème la confusion par ses décisions opaques, introduit ou amplifie des biais, et dégrade la confiance jusqu'au point où l'on ne sait plus quand croire le système ni comment le corriger.

À l'inverse, un système bien conçu rend ses intentions lisibles, ce qu'il cherche à optimiser, et ce qu'il s'interdit de faire. Il s'adapte sans manipuler, en laissant du contrôle, en expliquant, en demandant confirmation au bon moment. Et il améliore réellement notre manière d'habiter le monde, de travailler, de nous coordonner.

On ne parle plus seulement de bonne UX. On parle de la qualité d'une relation entre intelligences, humaines et artificielles.

Conclusion

Le design n'est pas en train de disparaître. Il est en train de se déplacer du design d'objets au design de systèmes, puis au design de relations entre intelligences.

Dans ce contexte, le designer devient peut-être le dernier garant de la qualité de ces relations. Celui qui pose la question que les modèles d'IA ne se posent pas spontanément : que se passe-t-il dans la relation, quand ce système apprend, se trompe, se corrige, et doit continuer à vivre avec nous ?

La question n'est plus : comment concevoir un bon produit ? Mais plutôt : comment concevoir des systèmes capables d'apprendre sans dégrader le sens, la confiance et l'équilibre des relations ? Et c'est une très belle opportunité sociale et économique.

Références

  • Jean Baudrillard, Le système des objets

  • Bruno Latour, Reassembling the Social

  • Lucy Suchman, Plans and Situated Actions

  • Herbert A. Simon, The Sciences of the Artificial

  • Ben Shneiderman, Human-Centered AI

Portrait of Keyne Dupont

Keyne

Dupont

Directeur Innovation, Design & IA

Nos offres associées