ChatGPT a pr\u00e9cipit\u00e9 les robots conversationnels dans les mains du grand public. Comme souvent, certains y voient une opportunit\u00e9 facile quand d\u2019autres crient aux loups en annon\u00e7ant la disparition de certains m\u00e9tiers, confondant au passage conversation et argumentation. Il ne fait aucun doute qu\u2019il s\u2019agit d\u2019une perc\u00e9e significative et impressionnante sur un plan technique, qui conduira \u00e0 des usages certainement pertinents comme \u00e0 des applications discutables. En ce sens, plusieurs observateurs ont r\u00e9v\u00e9l\u00e9 quelques d\u00e9rives, comme le professeur australien Seth Lazar (Lazar S., 2023) qui relate un \u00e9change douteux avec la version de ChatGPT int\u00e9gr\u00e9e au moteur de recherche Bing. Gageons qu\u2019il s\u2019agisse d\u2019erreurs de jeunesse d\u2019une technologie qui ne cessera de s\u2019am\u00e9liorer. Des initiatives comme ToxiGen pour contrer les risques de d\u00e9rives haineuses par exemple s\u2019inscrivent en ce sens (Hartvigsen et al. 2022).<\/p>\n
\n
On pourrait penser en premi\u00e8re analyse qu\u2019\u00e0 l\u2019instar de toute technologie, tout d\u00e9pendra de ce que l\u2019\u00eatre humain en fera. Or, c\u2019est pr\u00e9cis\u00e9ment-l\u00e0 que certaines questions se posent d\u00e9sormais car la perspective est un peu diff\u00e9rente dans le cas pr\u00e9sent. En substance, le discernement et l\u2019esprit critique des utilisateurs sont toujours cl\u00e9 mais la nature m\u00eame de l\u2019outil, de ce qu\u2019on lui a appris \u00e0 faire et comment sont d\u00e9terminantes.<\/p>\n
\n
Les robots conversationnels utilisent ce qu\u2019il est convenu d\u2019appeler des LLM pour Large Language Model<\/em>. Il s\u2019agit d\u2019algorithmes d\u2019apprentissage profond (deep learning<\/em>) qui produisent du texte en langage naturel. ChatGPT utilise ainsi le LLM d\u2019OpenAi baptis\u00e9 GPT-3 pour \u00ab Generative Pre-trained Transformer 3 \u00bb. En substance, il s\u2019agit de l\u2019application d\u2019un concept plus vaste, utilis\u00e9 dans d\u2019autres domaines, les mod\u00e8les \u00ab\u00a0transformers \u00bb (Bommasani et al., 2021) avec un \u00ab\u00a0m\u00e9canisme d\u2019attention\u00a0\u00bb (Vaswani et al., 2017) qui offrent une tr\u00e8s grande puissance car ils peuvent mettre en parall\u00e8le ce qui \u00e9tait r\u00e9alis\u00e9 auparavant de fa\u00e7on s\u00e9quentielle avec des r\u00e9seaux de neurones r\u00e9currents (RNN). Le progr\u00e8s consid\u00e9rable observ\u00e9 r\u00e9cemment vient en partie de cette puissance li\u00e9e \u00e0 la parall\u00e9lisation. Autrement dit, le robot encode\/d\u00e9code plus et plus vite, on peut donc le nourrir plus. Par cons\u00e9quent, il apprend mieux et donc restitue mieux.<\/p>\n \n Le fonctionnement de ces algorithmes invite n\u00e9anmoins \u00e0 formuler deux remarques :<\/p>\n \n \n Ces deux caract\u00e9ristiques ne posent pas de difficult\u00e9 intrins\u00e8que\u00a0: elles constituent des particularit\u00e9s qu\u2019il suffit de comprendre pour profiter de la puissance des outils sans pour autant ignorer leurs limites. En d\u2019autres termes, il faut que l\u2019utilisateur fasse, d\u2019une part, un effort de discernement quant au r\u00e9sultat que lui fournit le robot et, d\u2019autre part, aille \u00e0 la p\u00eache d\u2019une \u00ab\u00a0contre-information\u00a0\u00bb en l\u2019absence de connaissance des sources qui l\u2019ont nourri.<\/p>\n \n Dans cette perspective, l\u2019observation des modes d\u2019acc\u00e8s \u00e0 l\u2019information depuis 20 ans par Internet livre peut-\u00eatre un enseignement. Les premiers moteurs de recherche, comme Yahoo lorsqu\u2019il proposait une recherche par cat\u00e9gories, demandaient un effort de r\u00e9flexion \u00e0 l\u2019utilisateur. Google s\u2019est ensuite rapidement impos\u00e9 par la simplicit\u00e9 qu\u2019il offrait\u00a0: un champ de recherche par mots-clefs sans avoir \u00e0 naviguer dans une taxinomie fastidieuse. Moins d\u2019effort pour l\u2019utilisateur mais avec toujours la possibilit\u00e9 d\u2019appr\u00e9cier le degr\u00e9 de pertinence des r\u00e9ponses fournies. Or, on le sait, la paresse et la facilit\u00e9 l\u2019emportent souvent dans la dur\u00e9e\u2026 Combien font aujourd\u2019hui l\u2019effort de scroller<\/em> au-del\u00e0 des premi\u00e8res r\u00e9ponses\u00a0? Qui est vigilant et veille \u00e0 distinguer les liens sponsoris\u00e9s, des \u00ab\u00a0extraits optimis\u00e9s\u00a0\u00bb ou des sites en tant que tels\u00a0? Qui a fait l\u2019effort dans la pratique d\u2019utiliser des moteurs de recherche alternatifs plus respectueux des donn\u00e9es personnelles malgr\u00e9 sa conscience des d\u00e9fauts de ceux qu\u2019il utilise\u00a0? Pour avoir un d\u00e9but de r\u00e9ponse, il suffit de voir \u00e0 quel point l\u2019algorithme de LinkedIn impose sa loi, conduisant \u00e0 ce que les internautes s\u2019y soumettent pour optimiser leur visibilit\u00e9 et \u00e0 ce qu\u2019in fine<\/em> bruit, gesticulation, commentaires et pol\u00e9miques l\u2019emportent in\u00e9vitablement sur la pertinence de l\u2019information.<\/p>\n \n Les outils et moyens qui donnent acc\u00e8s \u00e0 l\u2019information conditionnent non seulement les comportements mais ils constituent aussi des filtres qui infusent puis diffusent information et d\u00e9sinformation. C\u2019est un sujet invariant qui pose l\u2019\u00e9ternelle question de la confiance dans la source de l\u2019information. Je me souviens par exemple avoir assist\u00e9 il y a plus de 30 ans \u00e0 un colloque sur la d\u00e9sinformation dont il ressortait en substance que tous les experts \u00e9trangers affirmaient que la source la plus fiable d\u2019information en France \u00e9tait le journal Le Monde, tous s\u2019empressant d\u2019ajouter \u00ab\u00a0sauf pour tel domaine\u00a0\u00bb\u2026 pr\u00e9cis\u00e9ment celui de leur expertise\u2026 S\u2019informer avec justesse, distinguer la bonne information du bruit a toujours demand\u00e9 un effort et le demandera toujours. Simplement, la nature de l\u2019effort change\u00a0: elle se d\u00e9place de la capacit\u00e9 \u00e0 acc\u00e9der \u00e0 l\u2019information \u00e0 la capacit\u00e9 \u00e0 en appr\u00e9cier la pertinence et la valeur.<\/p>\n \n Or, on peut craindre que la facilit\u00e9 et le confort des robots conversationnels conduisent \u00e0 ce qu\u2019ils deviennent la norme d\u2019acc\u00e8s \u00e0 l\u2019information pour le commun des mortels. La guerre entre les grands industriels du secteur en est relanc\u00e9e. Comme nous l\u2019\u00e9crivions avec Patrick Bouvard il y a 20 ans\u00a0: \u00ab\u00a0l\u2019enjeu moderne est la mod\u00e9lisation d\u2019une recherche rapide, op\u00e9rationnelle, int\u00e9grant des principes d\u2019exploitation param\u00e9trables des informations. Celui qui poss\u00e8derait un tel outil serait plus ma\u00eetre du jeu que les autres\u00a0\u00bb (Bouvard P., Storhaye P. 2002).\u00a0 Or, si cette hypoth\u00e8se s\u2019av\u00e9rait, elle comporterait plusieurs risques qui doivent inviter \u00e0 une vigilance individuelle et collective.<\/p>\n \n \n Dans cette optique, peut-\u00eatre est-il opportun de rappeler les mots de Gilles Deleuze sur l\u2019art et les soci\u00e9t\u00e9s de contr\u00f4le (Deleuze, 1987). Il stipulait que l\u2019information constitue un \u00ab\u00a0mot d\u2019ordre\u00a0\u00bb car elle dit \u00ab\u00a0ce que vous \u00eates cens\u00e9s devoir croire\u00a0\u00bb ou plus exactement de \u00ab nous comporter comme si nous le croyions\u00a0\u00bb. L\u2019information, en cela quelle consiste \u00e0 \u00ab\u00a0faire circuler un mot d\u2019ordre\u00a0\u00bb, est un syst\u00e8me de contr\u00f4le dont il affirmait qu\u2019il constituerait le moyen principal d\u2019une \u00ab\u00a0soci\u00e9t\u00e9 de contr\u00f4le\u00a0\u00bb. Constatant le caract\u00e8re inop\u00e9rant de la \u00ab\u00a0contre-information\u00a0\u00bb, Gilles Deleuze sugg\u00e9rait que seul \u00ab\u00a0l\u2019acte de r\u00e9sistance\u00a0\u00bb pouvait avoir un effet de contre-pouvoir, l\u2019art en \u00e9tant un.<\/p>\n \n Si l\u2019on craint qu\u2019une g\u00e9n\u00e9ralisation massive des robots s\u2019apparente \u00e0 une ma\u00eetrise des \u00ab\u00a0mots d\u2019ordre\u00a0\u00bb avec pour corollaire contr\u00f4le et normalisation de l\u2019information, quel acte de r\u00e9sistance poser\u00a0si ce n\u2019est celui de d\u00e9velopper tout aussi massivement la culture, en cela qu\u2019elle \u00ab\u00a0permet d\u2019attribuer \u00e0 chaque information ou \u00e0 chaque connaissance le degr\u00e9 de certitude et d\u2019opportunit\u00e9 qui lui convient\u00a0\u00bb (Bouvard P., Storhaye P., 2002)\u00a0? Il n\u2019est pas question de nier les formidables avanc\u00e9es de l\u2019IA car les mod\u00e8les d\u2019apprentissage dont il est ici question offrent des avantages consid\u00e9rables, y compris dans des domaines comme l\u2019analyse de s\u00e9quences biologiques. En revanche, leur puissance oblige \u00e0 ne pas occulter les cons\u00e9quences potentielles sur un plan soci\u00e9tal. Or, en l\u2019occurrence, l\u2019enjeu des ann\u00e9es \u00e0 venir est indiscutablement celui de la culture donc de l\u2019\u00e9ducation\u00a0!<\/p>\n \n Patrick Storhaye<\/a><\/p>\n R\u00e9f\u00e9rences<\/strong><\/p>\n \n \n \n \n\n
\n
\n
\n
\n
\n