La culture cumulative.

Si on s’élève au-dessus des débats actuels sur l’intelligence artificielle, on entrevoit un danger supérieur qui, peut-être, supplante tous les autres.

Les plus prudents ou les plus pessimistes imaginent les perversions de son usage provoquées soit par la médiocrité des informations dont elle fait usage, soit dans la manipulation que l’homme peut imposer. Mais la particularité de cette approche tient dans le fait que l’homme détient le pouvoir d’en limiter les méfaits. En sélectionnant une information de bonne qualité ou en opérant une régulation de l’algorithme, le concepteur peut canaliser ces inconvénients.
Par contre, le principe même de l’usage de l’ I.A. induit une particularité incontournable sur laquelle nous n’avons aucun moyen d’agir : il s’agit de la perte de la « culture technologique cumulative ».

Sans transmission du savoir, l’humanité serait condamnée à tout réinventer. Il y a des centaines de milliers d’années, nos ancêtres auraient alors développé la « culture technologique cumulative ».

L’humanité a un superpouvoir : celui de ne pas avoir à tout réinventer à chaque génération. Sans cette capacité, nous serions encore à frotter deux silex en espérant faire jaillir une étincelle, coincés dans une boucle infernale où chaque humain devrait redécouvrir seul le feu, la roue et l’électricité. Heureusement, nos ancêtres ont eu une idée lumineuse : transmettre leurs découvertes plutôt que de les laisser se perdre dans l’oubli. Résultat, Gutenberg n’a pas inventé l’imprimerie, il l’a perfectionnée, Newton n’a pas découvert la gravité, il a juste ajouté une pomme à l’équation.

« Lorsqu’un enfant hérite génétiquement de la culture de la génération de ses parents, il hérite du résultat de milliers d’années d’erreurs chanceuses et d’expériences. » Toute la force de l’humanité repose donc sur un principe simple mais diablement efficace : la « culture technologique cumulative ».

La culture cumulative existait avant l’Homo sapiens.

Comme toujours, il suffit d’observer nos cousins les primates pour calmer notre arrogance humaine. Car nous ne sommes peut-être pas les seuls à perfectionner des savoir-faire au fil des générations. Les chimpanzés possèdent un « petit degré de culture cumulative », une capacité que l’on croyait jusqu’alors exclusivement humaine.

Dans les forêts tropicales du Congo, ces grands singes ont développé une technique de récolte des termites des plus astucieuse. Ils commencent par percer un trou dans le sol à l’aide d’un bâton robuste, puis ils sélectionnent une longue tige qu’ils effilent avec leurs dents pour en faire une sorte de pinceau naturel. Une fois l’outil prêt, ils l’insèrent délicatement dans le trou, attirant à eux un festin de termites. Difficile d’imaginer que chaque chimpanzé ait redécouvert cette technique par hasard. Les primatologues estiment qu’elle a été transmise de génération en génération et perfectionnée avec le temps, preuve d’une culture cumulative à petite échelle.

Chez nous, cette dynamique existe depuis bien longtemps et à un degré bien plus avancé. La transmission culturelle cumulative aurait émergé il y a environ 600 000 ans, bien avant l’apparition d’Homo sapiens. Mais comment prouver que nos ancêtres échangeaient déjà des savoir-faire complexes ? Impossible d’interviewer un Homo heidelbergensis pour lui demander où il a appris à tailler son biface. Les chercheurs se sont donc tournés vers les outils lithiques laissés par ces hominidés.

Jusqu’à 600 000 ans avant notre ère, les outils restaient relativement simples, nécessitant seulement deux à quatre étapes pour être façonnés. « Il y a entre 3,3 millions et 1,8 million d’années, la production d’outils était restreinte à quelques gestes rudimentaires. » Cependant, à partir de cette période charnière, une augmentation spectaculaire de la complexité est observée. « Nous constatons que les artefacts fabriqués après 600 000 ans nécessitent plus de dix étapes distinctes pour être achevés, ce qui est un signe fort d’une transmission culturelle cumulative. »

Une analyse comparative entre humains et primates

Pour vérifier si cette augmentation de complexité était bien le résultat d’une transmission cumulative, les chercheurs ont comparé ces outils anciens aux technologies utilisées par les primates modernes et par des « humains naïfs » tentant de tailler des pierres sans apprentissage préalable.

Ils ont inclus dans leur analyse des outils produits par des chimpanzés et d’autres primates, ainsi que des expériences où des humains, sans formation, tentaient de créer des outils en pierre. « Nous avons utilisé une base de référence issue des outils fabriqués par des primates non humains et par des humains sans formation pour établir un seuil de complexité atteignable sans culture cumulative », expliquent-ils. Ce seuil était d’environ six unités procédurales.

Les résultats montrent que les outils produits par les hominidés avant 600 000 ans restent dans cette limite, tandis que ceux réalisés après cette période dépassent largement ce seuil, suggérant un apprentissage intergénérationnel et une amélioration continue des techniques.
Cette soudaine montée en sophistication suggère que nos ancêtres ne se contentaient plus d’imiter, mais qu’ils perfectionnaient les savoir-faire en y ajoutant leurs propres innovations. « Lorsque les techniques nécessitent plus de dix unités procédurales, il devient presque impossible pour un individu isolé d’inventer ces séquences de manière indépendante », expliquent les chercheurs. Ce tournant marque probablement l’apparition de l’enseignement structuré et de la communication complexe, voire des prémices du langage.

L’enjeu est de percer le mystère des transformations cérébrales qui ont permis à l’humanité de développer une transmission culturelle unique. L’explication la plus largement admise repose sur une idée simple mais fondamentale : les humains sont des imitateurs d’exception. Contrairement aux autres espèces, ils ne se contentent pas de reproduire approximativement un geste, ils le copient avec une précision remarquable.

« La dépendance humaine à l’égard d’une culture cumulative a façonné l’évolution des traits biologiques et comportementaux de la lignée des hominidés, y compris la taille du cerveau, la taille du corps, l’histoire de la vie, la socialité, la subsistance. » Cette culture cumulative a permis à l’humanité d’étendre son habitat du désert brûlant aux glaces arctiques, d’inventer l’agriculture, la roue et, finalement, l’ordinateur sur lequel vous lisez cet article.

 Le risque majeur

Pour entretenir cette particularité qui ne consiste ni plus ni moins qu’en la capacité de l’homme à profiter des innombrables acquis de connaissance du passé, il convient d’enrichir en permanence sa « banque de données cérébrales », ce qui nécessite de conserver la qualité des neurones qui la stockent et de ceux qui l’utilisent.
Cet entretien passe obligatoirement par l’utilisation du raisonnement, car cet entrainement maintient en bon état opérationnel les parties de notre cerveau consacrées à cette fonction. Sans cette pratique, les neurones de la pensée sont remplacés, faute d’utilité, par d’autres catégories qui servent d’autres desseins.

Et c’est bien dans cet abandon que réside le problème actuel.
Au même titre que le sportif perd, dans le temps, sa masse musculaire s’il ne l’utilise pas pour laisser place aux tissus graisseux, notre cerveau perd sa capacité de raisonnement s’il n’en fait pas un usage intensif. Il n’y a alors plus aucune information de la connaissance, car elle disparaît lentement de notre mémoire génétique.
La neuroscience a mis en évidence que les chauffeurs VTC, suivant toute la journée les indications d’une appli de navigation, présentaient une atrophie de la zone du cerveau destinée à la prise de décisions.  Par ailleurs, ils reconnaissent eux-mêmes avoir perdu une partie des connaissances de la géographie de leur ville, depuis que Waze les guide au quotidien.

C’est cela que j’ai dénommé par ailleurs la « déliquescence cérébrale ».
L’abandon de l’usage de notre faculté de penser se traduit par la déperdition de l’usage du savoir et du « stockage d’informations » qui lui servait de base opérationnelle. Il n’y a alors plus grand-chose à transmettre.

C’est bien le chemin douteux que nous empruntons avec une vélocité inquiétante provoquée par l’usage intensif et généralisé des nouveaux moyens technologiques d’informations.
Les réseaux sociaux aujourd’hui et l’intelligence artificielle demain prennent le pas pour documenter notre cerveau d’informations superficielles qui n’intègrent pas la base de nos connaissances.  Docilement, nous les adoptons par facilité et cela nous conduit à la perte inconsciente de notre faculté de penser puisqu’ils pensent pour nous.
Comme au fil du temps la nature biologique a adapté notre capacité physiologique en augmentant la taille de notre boite crânienne, elle peut faire marche arrière pour répondre à l’usage que nous en faisons maintenant.

Des prémices de ce changement majeur apparaissent déjà quand on constate que des valeurs néfastes au bien commun humain, telles que l’usage de la force ou le développement de la brutalité ou de la violence, s’immiscent de plus en plus dans nos rapports sociaux nous rapprochant ainsi de l’attitude animale.

L’homme y perd en humanité et la compétition entre les races rééquilibre les forces, en nous tirant vers le bas. Dans ce cas, rien ne prouve que nous serions capables de conserver la suprématie qui a fait ce que nous sommes, et la « planète des singes » pourrait passer de science-fiction en prémonition.  
Mais voilà, ce texte n’est pas écrit par un Chat auquel vous auriez posé la question :
« Dis-moi, en quoi l’intelligence artificielle peut être dangereuse pour l’humanité ? »
Votre assistant préféré vous aurait construit une réponse certainement aussi bien, sinon mieux écrite, mais n’aurait pas pu imaginer de vous alerter sur cette face cachée, car ses sources d’informations n’en parlent que très peu. Il aurait argumenté talentueusement en évoquant les dangers exprimés sur la toile, comme ceux générés par l’existence des fakes. Il vous aurait aussi rassuré en vous précisant que la bonne régulation particulière dont il bénéficie limite cette perversité.  
Cette « bonne réponse » vous aurait fourni le plaisir de constater sa qualité d’écoute et de réponse et elle n’aurait engagé aucune souffrance d’une réflexion plus approfondie. Ainsi, il aurait réduit votre pensée à la moyenne statistique commode par le jeu de la corrélation algorithmique. Vous auriez adopté comme « vôtre de l’instant » cette réponse en profitant du plaisir de constater que vous êtes en conformité avec tous ceux qui ont reçu la même. Sa pérennité n’est assurée que dans le court intervalle de la prochaine information qui la contredira. C’est pour cela que je dois conclure en précisant qu’un inconvénient, même significatif, dans l’usage de cette incroyable innovation révolutionnaire, ne décide pas d’un rejet des bénéfices qu’elle peut apporter, mais que ces défaillances doivent être comprises et modulées par l’intelligence humaine.

C’est dans cet esprit de critique positive que je vous quitte pour solliciter votre libre arbitre.