Menacée par la ‘’consanguinité virtuelle’’, l’IA serait un danger pour elle-même

Publié le 26/07/2024 - 05:37

3 min

Alors que les modèles d’IA se multiplient avec des domaines d’application divers, leur efficacité pourrait diminuer avec le temps. C’est ce qui est prédit dans une récente théorie évoquant la possibilité d’une ‘’consanguinité virtuelle’’ qui ferait régresser l’IA.

Le problème vient du web

L’IA nous éblouit aujourd’hui avec sa capacité à proposer des solutions diverses, mais ses capacités pourraient s’amenuiser à l’avenir. La cause serait le partage du contenu généré par IA sur le web et cela pourrait conduire à une consanguinité virtuelle.

Le terme a été employé par des chercheurs qui trouvent que la multiplication des chatbots conversationnels n’est pas forcément une bonne chose pour l’intelligence artificielle elle-même. En effet, la majorité des modèles de langages actuels sont entrainés avec des données provenant du web et certains peuvent même y piocher en temps réel.

Un cycle de consanguinité virtuelle

Le cycle de consanguinité virtuelle démarre quand une première IA se base sur des données naturelles pour générer une image et que le fichier est publié sur internet. Ensuite, il est possible que l’image ainsi générée serve à son tour de référence pour une autre IA génératrice d’images et ainsi de suite.

Puis au fur et à mesure que le cycle se poursuivra, les IA n’auront peut-être plus de données naturelles à traiter. Pire encore, les erreurs qui se glissent dans les productions IA vont se multiplier au point où les chatbots perdront en efficacité.

Mais le cas des générateurs d’images n’est qu’un exemple parmi tant d’autres, car la consanguinité virtuelle peut toucher tous les outils IA qui produisent du contenu destiné au web.

Cette théorie est le résultat d’une étude publiée par des chercheurs dans la revue scientifique Nature et cela emmène à prendre l’hypothétique phénomène de la consanguinité virtuelle au sérieux. Elle sert en même temps d’alerte aux entreprises engagées dans le domaine, afin que celles-ci trouvent des paramètres adéquats pour empêcher ce qui signerait l’effondrement de l’intelligence artificielle.