ChatGPT est-il un moteur de recherche ?

Par nature ChatGPT nous livre une réponse mainstream : la pensée du plus grand nombre, puisque cette IA donne une réponse statistique basée sur un grand ensemble de données disponibles sur internet.

C’est pourquoi on lit parfois que ChatGPT serait comme un humain d’intelligence moyenne avec un accès à toutes les connaissances disponibles

Par nature, elle n’est donc pas une façon de traiter et trier une grande masse d’informations pour en sortir une donnée en dehors de la norme. Au contraire, elle nous livre une réponse « normale » au sens social et au sens statistique…

C’est un peu comme si nous nous trouvions dans une foule à qui on demandait une réponse à haute voix. Nous entendrions une voix informe nous donner à entendre la pensée la plus commune portée par le plus de larynx… mais il nous serait impossible de nous concentrer ou de distinguer les voix solitaires.

La foule n’a pas toujours raison. Les voix solitaires non plus.

Il est vrai que ces voix solitaires peuvent nous conduire à la désinformation, au complotisme ou à la simple bêtise.

Mais les voix solitaires sont aussi celles des « signaux faibles » qui sont riches de sens, de réflexions, qui parfois nous bousculent et nous poussent à penser contre nous même, contre notre pensée « mainstream », notre pensée collective… et en cela elle peuvent être très riches, voire nécessaires. Car dans les voix solitaires il n’y a pas que la désinformation et l’outrage, il y a aussi parfois des lanceurs d’alertes, des pensées singulières.

Il est important d’entendre la voix de la majorité, et cette voix est cruciale en démocratie. Mais elle ne doit pas être la seule que nous écoutons.

En intégrant ChatGPT dans un moteur de recherche comme vient de le faire Microsoft en fusionnant BING et ChatGPT dans sa dernière mise à jour du mois de février 2023, ne risquons nous pas de systématiser l’obtention de réponses « moyennes » ? C’est un risque auquel nous devons être attentifs, mais il semblerait que les grands acteurs du web prennent le soin de distinguer les réponses variées auxquelles nous sommes habitués, à la réponse unique et moyenne que renvoie l’IA. Pour le moment, nous trouverons ces réponses particulières dans l’ongle « conversation ». Tant mieux.

Il est vrai que déjà aujourd’hui, un moteur de recherche traditionnel produit des réponses « mainstream » car ce sont celles qui vont arriver dans les premières pages de résultats. Mais avec ces moteurs traditionnels les données que nous obtenons sont sourcées, c’est à dire que la nous avons très explicitement non seulement le début de réponse mais aussi le site web d’où elle provient. En toute clairvoyance, nous choisissons celles qui nous semblent pertinentes ou légitimes. Ce n’est pas le cas de la réponse unique que fournit une IA comme ChatGPT. Avec elle non seulement nous obtenons une réponse unique, mais en plus sans savoir quelles sont les sources qu’elle a compilées pour nous synthétiser sa réponse.

Cela pose question.

J’espère que nous aurons dans les prochaines évolutions des IA conversationnelles une possibilité de « visualiser » une cartographie simplifiée, ou une idée du « chemin » statistique qu’a suivi l’IA pour répondre.

Revenons aux moteurs de recherche traditionnels. Nous pouvons faire défiler la liste des réponses pour finalement voir des résultats en dehors de la « norme », moins mainstream et plus singulières. C’est particulièrement là que nous devrons juger les données en les triant avec notre propre savoir, notre propre réflexion, notre propre intuition, notre propre morale et prendre notre décision, rendre notre jugement. Au final, nous sommes un peu plus libres de choisir la réponse qui nous convient ou que nous « estimons » être la bonne que lorsque nous nous limitons à une réponse unique par IA.

Aujourd’hui ChatGPT ne nous donne pas son savoir faire et se contente de nous livrer son résultat prêt à l’emploi.

ChatGPT et consort, dans leurs versions à venir, nous permettront elles de supprimer ses réponses principales et de fouiller plus exhaustivement les données qu’elles utilisent. Sortir des réponses « moyennes » reposera-t-il uniquement sur notre capacité à formuler nos requêtes convenablement ? (ce qu’on appelle les prompts). Devons nous être un peu plus rigoureux que nous ne le sommes aujourd’hui avec les moteurs de recherche traditionnels ? Le plus grand risque ne vient-il pas du fait que nous nous sentons des experts de la recherche internet parce que nous la pratiquons depuis 10 ou 20 ans avec des outils passifs ?

Je pense que cette révolution nous pousse à essayer de comprendre quels sont les biais de nos outils et nos propres biais cognitifs…

Nous connaissons certains des biais de nos outils : nous savons que le succès initial de Google a été son fameux algorithme utilisant le PageRank, aujourd’hui disparu des résultats des réponses. Nous savons que ces résultats sont aussi reclassés en fonction d’un second biais, commercial celui-là, qui est celui de la publicité. Le service « AdWords » modifie les résultats de nos requêtes en fonction d’un « savant » mélange entre les entreprises qui paient pour apparaître dans les résultats et la représentation que google a de nous, de nos goûts, de nos besoins et de nos comportements grâce à toutes les données que nous lui offrons quotidiennement.

Les robots physiques ou algorithmiques ne doivent pas être laissés seuls. Ils ne doivent pas être comme des enfants laissés sans surveillance sur un terrain de jeu construit au milieu d’une autoroute, celle de l’information.

Encore et toujours, la conscience humaine fera ce qu’il faut. Nous devons simplement comprendre comment ces outils fonctionnent pour qu’ils ne soient ni des armes, ni des démons mais de simples et bêtes outils permettant d’étendre notre potentiel, assouvir notre curiosité, et nous faire gagner du temps pour notre vie dans le vrai monde… celui des arbres et des humains.