Pendant quelques années, nous avons surtout demandé aux intelligences artificielles de répondre.
Écrire un texte. Résumer un document. Produire du code. Chercher une information. Proposer quelques pistes.
Puis la demande a commencé à changer.
Nous ne voulons plus seulement qu’une IA nous conseille. Nous commençons à vouloir qu’elle agisse.
Trouver une offre, réserver, modifier un projet, lancer des traitements, coordonner plusieurs outils ou plusieurs agents.
Cette différence peut sembler minime.
Elle change pourtant presque tout.
Entre « conseille-moi » et « fais-le pour moi » apparaît une notion qui m’intéresse de plus en plus : le mandat.
De l’attention au mandat
Le Web que nous connaissons s’est largement construit autour de notre attention.
Nous cherchons, comparons, lisons, regardons, cliquons puis décidons.
Un assistant IA peut déjà raccourcir ce parcours. Au lieu de consulter vingt résultats, nous pouvons lui demander de sélectionner les quelques options qui correspondent le mieux à nos critères.
Mais tant qu’il nous conseille, nous restons celui qui agit.
Le changement devient beaucoup plus profond lorsque nous lui donnons l’autorisation de choisir puis d’exécuter.
Acheter.
Réserver.
Modifier.
Déployer.
Négocier.
À cet instant, nous ne transmettons plus seulement une intention. Nous déléguons une partie de notre capacité d’action.
Et plus l’agent connaît nos habitudes, nos données, nos contraintes ou notre historique, plus ce mandat devient puissant.
La question n’est donc plus uniquement : que sait faire l’IA ?
Elle devient : qu’acceptons-nous de lui laisser faire à notre place ?
Produire plus vite ne suffit pas
Cette évolution me passionne, mais elle fait apparaître un problème très concret.
Les machines peuvent déjà produire bien plus rapidement que nous ne pouvons vérifier.
Du code peut être généré en quelques secondes.
Des analyses peuvent être lancées en parallèle.
Plusieurs agents peuvent explorer simultanément différentes pistes.
À première vue, c’est formidable.
Mais si chaque résultat doit ensuite être relu, testé et validé manuellement, nous déplaçons simplement le goulot d’étranglement.
La production n’est plus la limite.
La supervision le devient.
C’est probablement l’un des sujets qui m’intéressent le plus aujourd’hui.
Je ne veux pas ralentir l’automatisation pour conserver artificiellement du travail humain.
Je préfère chercher comment automatiser aussi une partie de la vérification.
Tests.
Benchmarks.
Contrôles de cohérence.
Traçabilité.
Agents chargés de chercher les erreurs d’autres agents.
Rapports réguliers sur les anomalies ou les points de vigilance.
Puis une intervention humaine là où elle apporte réellement quelque chose.
Le rôle de l’humain peut alors évoluer :
exécuter → superviser → orchestrer → décider → assumer la responsabilité.
Déléguer consciemment
Cette logique rejoint ce que j’appelle désormais un abandon conscient.
Je peux être parfaitement heureux qu’une IA écrive une partie du code, prépare des données, réalise des comparaisons ou lance des tests.
Je n’ai aucun attachement particulier au fait d’exécuter moi-même chaque étape.
Mais je veux savoir ce que je lui ai donné le droit de faire.
Je veux pouvoir mesurer son résultat.
Je veux pouvoir retrouver ce qui s’est passé.
Et je veux savoir dans quelles situations un humain doit reprendre la main.
Pour moi, l’autonomie d’un système devrait donc progresser avec sa capacité à être contrôlé.
Plus je lui donne de pouvoir d’action, plus les règles, permissions, journaux, benchmarks et mécanismes de retour en arrière deviennent importants.
Ce n’est pas une défiance envers l’IA.
C’est presque l’inverse.
La confiance devient plus utile lorsqu’elle peut s’appuyer sur autre chose qu’une impression.
La souveraineté devient une question pratique
C’est aussi pour cette raison que je m’intéresse depuis longtemps aux architectures locales, aux modèles ouverts et aux systèmes capables de changer facilement de modèle.
La souveraineté peut parfois sembler être un débat très abstrait.
Elle devient beaucoup plus concrète lorsqu’un agent ne se contente plus de répondre mais commence à agir.
Où sont traitées les données ?
Qui peut voir les requêtes ?
Qui décide des changements du modèle ?
Que se passe-t-il si un fournisseur modifie ses conditions, son prix ou ses politiques ?
Peut-on auditer les actions ?
Peut-on remplacer une brique sans reconstruire tout le système ?
Je préfère donc, lorsque le contexte le permet, une architecture qui limite les dépendances irréversibles.
Pas nécessairement tout en local.
Pas nécessairement tout en open source.
Mais suffisamment modulaire pour que le meilleur modèle du moment ne devienne pas une prison technique quelques mois plus tard.
Je ne cherche pas le modèle auquel rester fidèle.
Je cherche plutôt une architecture capable de changer de modèle lorsque le contexte change.
Et si je me trompais ?
Il est possible que je surestime encore la nécessité d’une supervision humaine dans certains domaines.
Des systèmes automatisés dépassent déjà les humains sur de nombreuses tâches spécialisées, et cette progression continuera probablement.
Il serait donc étrange de décréter que toute décision importante doit éternellement repasser par une personne simplement parce que nous avons toujours travaillé ainsi.
Mais une autre question subsiste.
Être meilleur que nous ne signifie pas automatiquement pouvoir répondre de ses actes.
Dans des domaines critiques, la performance n’est qu’une partie du problème.
Il reste la responsabilité.
Qui accepte les conséquences lorsqu’une décision est mauvaise ?
Qui fixe les limites ?
Qui décide qu’un taux d’erreur est acceptable ?
Qui peut interrompre le système ?
Je n’ai pas de réponse universelle.
Je crois surtout que nous devrons apprendre à placer l’humain non pas partout, mais aux endroits où sa présence a encore du sens.
Et ces endroits évolueront.
Après les LLM ?
Nous parlons aujourd’hui énormément des LLM parce qu’ils ont transformé notre rapport aux machines.
Mais je me méfie toujours un peu lorsque nous commençons à considérer un paradigme technique comme définitif.
Les LLM possèdent des limites que nous apprenons progressivement à mieux connaître.
D’autres approches cherchent à représenter le monde, l’action, l’espace, le temps ou les conséquences d’une décision autrement que par la seule prédiction du prochain token.
Les World Models et les architectures qui les accompagneront m’intéressent justement pour cette raison.
Je ne sais pas s’ils remplaceront les LLM.
Peut-être seront-ils complémentaires.
Peut-être qu’un autre paradigme apparaîtra encore.
Cela renforce seulement ma conviction : il est dangereux de construire toute notre stratégie autour de l’idée que la technologie dominante aujourd’hui le restera demain.
L’architecture doit pouvoir évoluer plus vite que nos certitudes.
Quelle IA voulons-nous réellement ?
Ce qui m’intéresse finalement le plus dans l’avenir de l’IA n’est pas qu’elle produise toujours davantage à notre place.
J’aimerais qu’elle nous libère de certaines contraintes sans nous éloigner de notre responsabilité.
Qu’elle nous aide à mieux comprendre plutôt qu’à simplement produire plus.
Et, pourquoi pas, qu’elle nous aide un jour à regarder autrement le monde vivant auquel nous appartenons : animaux, végétaux, écosystèmes et toutes ces formes d’organisation dont notre vision très humaine ne perçoit probablement qu’une petite partie.
C’est peut-être idéaliste.
Cela me convient.
Je préfère cette perspective à celle d’une course infinie consistant simplement à générer davantage de contenu, de code, de décisions ou de consommation.
La question des prochaines années ne sera donc peut-être pas seulement :
jusqu’où l’intelligence artificielle peut-elle aller ?
Elle pourrait devenir beaucoup plus personnelle :
jusqu’où voulons-nous lui donner mandat d’aller à notre place, et de quoi voulons-nous rester responsables ?