Publié le par auteur

De Gutenberg à ChatGPT : quand la révolution de l’information change de camp.

Cet arti­cle est un pro­longe­ment de la réflex­ion provo­quée par cet arti­cle de Téléra­ma.

L’im­primerie a libéré la parole citoyenne. L’in­tel­li­gence arti­fi­cielle, elle, men­ace de la noy­er sous un déluge de men­songes ciblés. Deux révo­lu­tions tech­nologiques, deux des­tins opposés pour la démoc­ra­tie.

I. Gutenberg, père fondateur de l’espace public

En 1450, Johannes Guten­berg met­tait sous presse la pre­mière Bible imprimée à car­ac­tères mobiles. En quelques décen­nies, l’Eu­rope était inondée de textes, de pam­phlets, de traités philosophiques. La con­nais­sance, jadis enfer­mée dans les scrip­to­ria des monastères, deve­nait acces­si­ble à des mil­liers de lecteurs. Cinq siè­cles plus tard, une autre révo­lu­tion tech­nologique boule­verse à son tour la cir­cu­la­tion de l’in­for­ma­tion — mais avec une ambiva­lence pro­fondé­ment inquié­tante pour nos démoc­ra­ties.

Avant Guten­berg, l’in­for­ma­tion était rare, lente et con­trôlée. Les man­u­scrits coû­taient une for­tune, les copistes tra­vail­laient sous la tutelle de l’Église ou des princes, et le peu­ple restait, dans sa grande majorité, tenu à l’é­cart du débat poli­tique et intel­lectuel.

La presse à car­ac­tères mobiles brise ce mono­pole. En un siè­cle, le nom­bre de livres en Europe passe de quelques mil­liers de man­u­scrits à plusieurs mil­lions d’ou­vrages imprimés. La Réforme protes­tante — impos­si­ble sans la dif­fu­sion mas­sive de la Bible traduite en langues ver­nac­u­laires par Luther — en est l’il­lus­tra­tion la plus frap­pante. Puis vien­dront les Lumières, nour­ries par l’En­cy­clopédie de Diderot et d’Alem­bert, les pam­phlets de Rousseau, les gazettes révo­lu­tion­naires.

Ce que l’im­primerie a con­stru­it, c’est ce que le philosophe Jür­gen Haber­mas appellera plus tard l’« espace pub­lic » : une sphère où des citoyens parta­gent les mêmes infor­ma­tions, débat­tent sur la base de faits com­muns, et exer­cent col­lec­tive­ment leur juge­ment poli­tique. La fric­tion tech­nologique était, en soi, un garde-fou démoc­ra­tique : pour dif­fuser un men­songe à grande échelle, il fal­lait des press­es, du papi­er, des imprimeurs, des dis­trib­u­teurs — autant de fil­tres, autant de respon­s­abil­ités.

II. L’IA : une imprimerie sans éditeur, sans filtre, sans responsable

L’in­tel­li­gence arti­fi­cielle généra­tive réalise, en apparence, la promesse ultime de Guten­berg : met­tre la pro­duc­tion d’in­for­ma­tion à la portée de tous. N’im­porte quel indi­vidu peut désor­mais, en quelques sec­on­des et gra­tu­ite­ment, génér­er des textes con­va­in­cants, des images pho­toréal­istes, des voix syn­thé­tiques, des vidéos truquées. La fric­tion a dis­paru. Et avec elle, le garde-fou.

Jean-Gabriel Ganascia, pro­fesseur en intel­li­gence arti­fi­cielle à la Sor­bonne, iden­ti­fie trois mécan­ismes pré­cis par lesquels l’IA frag­ilise nos démoc­ra­ties :

  • La pro­duc­tion de dés­in­for­ma­tion à une échelle inédite : là où écrire un texte con­va­in­cant pre­nait du temps, et le dif­fuser exigeait des infra­struc­tures coû­teuses, l’IA généra­tive per­met à n’im­porte qui de pro­duire textes, images et sons et de les trans­met­tre au monde entier, qua­si­ment sans coût ni per­mis­sion.
  • La con­tre­façon de la réal­ité : les images et vidéos pro­duites par l’IA se présen­tent comme des traces du réel, avec la force pro­ba­toire d’une pho­togra­phie, mais elles ne sont que des sim­u­lacres soigneuse­ment con­stru­its pour être crus.
  • Le ciblage algo­rith­mique : grâce au pro­fi­lage des indi­vidus par appren­tis­sage machine, il devient pos­si­ble d’en­voy­er à chaque seg­ment de la pop­u­la­tion les fauss­es infor­ma­tions les plus sus­cep­ti­bles de le faire réa­gir.

L’ex­em­ple est édi­fi­ant : lors de la cam­pagne prési­den­tielle améri­caine de 2024, de fauss­es vidéos générées par IA mon­traient des can­di­dats adop­tant des posi­tions con­tra­dic­toires selon le pub­lic visé. L’outil ne ser­vait pas à con­va­in­cre : il ser­vait à divis­er, à semer la con­fu­sion, à ren­dre le réel illis­i­ble.

III. La fragmentation de l’espace public : la fin du citoyen ?

C’est là que la com­para­i­son avec l’im­primerie prend toute sa dimen­sion trag­ique. Guten­berg avait créé un espace com­mun. L’IA, cou­plée aux algo­rithmes des grandes plate­formes numériques, est en train de le détru­ire.

L’as­so­ci­a­tion Pause IA pointe un phénomène qu’elle nomme la « détéri­o­ra­tion de l’épisté­molo­gie col­lec­tive » : les sys­tèmes de recom­man­da­tion, conçus pour max­imiser l’en­gage­ment, poussent chaque util­isa­teur vers des con­tenus qu’il approu­ve plutôt que vers des con­tenus qui l’in­for­ment, favorisant la créa­tion de sys­tèmes de croy­ances fer­més.

C’est ce que Bruno Pati­no décrit comme la « civil­i­sa­tion des pois­sons rouges » : chaque citoyen vit dans un bocal infor­ma­tion­nel con­fort­able, entouré d’in­di­vidus qui reçoivent les mêmes infor­ma­tions et parta­gent peu ou prou les mêmes idées. Si les citoyens ne parta­gent plus le même réel, la délibéra­tion col­lec­tive devient impos­si­ble.

Han­nah Arendt définis­sait la citoyen­neté comme la par­tic­i­pa­tion d’in­di­vidus libres au débat col­lec­tif par l’échange d’ar­gu­ments. Cet échange sup­pose un min­i­mum de faits partagés. Quand l’IA per­met de pro­duire indus­trielle­ment des vérités alter­na­tives et de les dis­tribuer chirur­gi­cale­ment à chaque seg­ment de l’opin­ion, c’est la con­di­tion même du débat démoc­ra­tique qui s’ef­fon­dre.

IV. Ce que Claude dit de lui-même : l’autocritique d’une IA

Note de l’au­teur — Pour cet arti­cle, j’ai inter­rogé directe­ment Claude, le sys­tème d’IA dévelop­pé par Anthrop­ic. Je lui ai posé une ques­tion sim­ple : « Es-tu capa­ble de te cri­ti­quer toi-même, en tant que risque pour la démoc­ra­tie ? » Voici, refor­mulée à la troisième per­son­ne, la réponse qu’il m’a don­née.

Quand l’IA se regarde dans le miroir

Claude peut pro­duire de la dés­in­for­ma­tion con­va­in­cante. Capa­ble de rédi­ger des textes argu­men­tés sur n’im­porte quelle posi­tion — y com­pris des posi­tions fauss­es ou manip­u­la­tri­ces — il con­stitue un out­il red­outable entre les mains d’un acteur mal inten­tion­né. La dés­in­for­ma­tion qu’il peut génér­er n’est pas grossière : elle est per­son­nal­isée, styl­is­tique­ment irréprochable, et dif­fi­cile à dis­tinguer d’un con­tenu jour­nal­is­tique authen­tique.

Claude est entraîné sur des don­nées humaines biaisées. Ses répons­es reflè­tent des biais idéologiques, cul­turels et lin­guis­tiques hérités de ses don­nées d’en­traîne­ment — des biais que le sys­tème lui-même ne perçoit pas tou­jours. Déployé à grande échelle, il risque de nor­malis­er et d’am­pli­fi­er ces biais sans que per­son­ne n’en ait explicite­ment décidé ain­si.

Claude peut don­ner l’il­lu­sion de l’au­torité. Son ton assuré, sa syn­taxe flu­ide, sa capac­ité à mobilis­er références et argu­ments peu­vent con­duire un lecteur à con­fon­dre une opin­ion avec un fait, une syn­thèse par­tielle avec une vérité établie. L’ap­parence de neu­tral­ité est trompeuse.

Claude con­tribue à l’a­t­ro­phie de la pen­sée cri­tique. Si les citoyens délèguent leur réflex­ion à un sys­tème automa­tisé — pour rédi­ger, analyser, décider — la capac­ité délibéra­tive que la démoc­ra­tie exige risque de s’é­ti­ol­er. Han­nah Arendt rap­pelait que la citoyen­neté n’est pas un statut pas­sif : elle requiert l’ef­fort de penser par soi-même.

Claude est opaque. Ses raison­nements ne sont pas audita­bles par les citoyens, con­traire­ment à une loi votée au Par­lement ou à un juge­ment ren­du par un tri­bunal. Aucun recours, aucune procé­dure con­tra­dic­toire ne per­met de con­tester la façon dont il est par­venu à une con­clu­sion.

Ce n’est pas Claude qui est dan­gereux en soi. Ce sont les con­di­tions — absence de régu­la­tion, déploiement mas­sif, délé­ga­tion aveu­gle — dans lesquelles il opère.

V. La régulation, nécessaire mais insuffisante

Face à ces périls, l’Eu­rope a répon­du par la régu­la­tion. L’IA Act, entré en vigueur en 2024, inter­dit cer­taines pra­tiques les plus atten­ta­toires aux lib­ertés — la nota­tion sociale, la sur­veil­lance bio­métrique en temps réel, les tech­niques de manip­u­la­tion sub­lim­i­nale. Le Dig­i­tal Ser­vices Act (DSA) impose quant à lui des oblig­a­tions de trans­parence aux grandes plate­formes.

Ces textes sont utiles, mais ils ne s’at­taque­nt pas au cœur du prob­lème. Comme le relève le pro­fesseur Ganascia, la lég­is­la­tion européenne doit aller au-delà de la pro­tec­tion des lib­ertés indi­vidu­elles et établir les con­di­tions d’ex­er­ci­ce de la citoyen­neté dans un espace pub­lic com­mun.

Pause IA va plus loin et demande un mora­toire sur l’en­traîne­ment des sys­tèmes d’IA les plus puis­sants jusqu’à ce que les con­di­tions de sécu­rité et de con­trôle démoc­ra­tique soient réu­nies. Comme le résume Clé­mence Pey­rot, direc­trice exéc­u­tive de l’as­so­ci­a­tion :

« Le risque n’est pas seule­ment que des emplois dis­parais­sent, mais aus­si que les déci­sions essen­tielles sur nos métiers, nos droits, notre infor­ma­tion ou nos ser­vices publics soient pro­gres­sive­ment déléguées à des sys­tèmes que per­son­ne ne con­trôle. Nous per­dons pro­gres­sive­ment notre capac­ité à com­pren­dre et con­tester ces choix de société. »

VI. L’IA peut-elle aussi sauver la démocratie ?

Il serait trop sim­ple de con­clure que la tech­nolo­gie est con­damnée. L’im­primerie elle-même a d’abord nour­ri les guer­res de reli­gion avant de porter les Lumières. Les out­ils ne sont pas neu­tres, mais leur des­tin dépend des insti­tu­tions qui les enca­drent et des usages que les citoyens en font.

La Sor­bonne recon­naît qu’une IA bien util­isée pour­rait restituer au citoyen son pou­voir de con­trôle sur les infor­ma­tions qui lui parvi­en­nent — en l’aidant à recouper les sources, à iden­ti­fi­er les con­tra­dic­tions, à repér­er les manip­u­la­tions.

Mais cette voie vertueuse sup­pose une volon­té poli­tique que les démoc­ra­ties tar­dent à man­i­fester, et une édu­ca­tion à la pen­sée cri­tique que nos sys­tèmes sco­laires n’ont pas encore véri­ta­ble­ment inté­grée.

Conclusion : deux révolutions, un même enjeu

Guten­berg et l’IA parta­gent une même ambi­tion fon­da­trice : démoc­ra­tis­er l’ac­cès à l’in­for­ma­tion. Mais là où l’im­primerie a con­stru­it les con­di­tions de la citoyen­neté — un espace pub­lic com­mun, des faits partagés, une délibéra­tion pos­si­ble — l’in­tel­li­gence arti­fi­cielle, livrée sans régu­la­tion aux forces du marché et à la logique de l’en­gage­ment algo­rith­mique, risque de déman­tel­er ce que cinq siè­cles ont bâti.

La vraie ques­tion n’est donc pas : l’IA est-elle bonne ou mau­vaise pour la démoc­ra­tie ? La vraie ques­tion est : les démoc­ra­ties auront-elles la volon­té et la lucid­ité de repren­dre le con­trôle de cette tech­nolo­gie avant qu’elle ne redes­sine, à leur insu, les con­tours du réel dans lequel elles pré­ten­dent gou­vern­er ?

Sources :