IA : va-t-on droit vers un model collapse ?

Le phénomène de model collapse (ou effondrement de modèle) dans le domaine de l’IA désigne un mécanisme par lequel les modèles d’apprentissage de l’IA perdent en efficacité car se basent sur des données elles-mêmes générées par l’IA (données synthétiques) et entachées d’erreurs. Le risque est que les modèles tournent en rond sur ces données synthétiques et fausses, produisant ensuite des résultats faux eux aussi, mais qui alimentent les données accessibles sur internet et sur lesquelles les modèles vont continuer ultérieurement à apprendre. Différents mécanismes peuvent être en jeu dans ce cycle vicieux, mais quoi qu’il en soit en l’absence de détection humaine, rien ne permet de rompre l’enchainement catastrophique, conduisant à ce model collapse.

Les spécialistes de l’intelligence artificielle sont divisés quant aux risques de survenue de ces modèles. Une chose est certaine : la quantité de données et d’information produites par l’IA en circulation sur internet ne cesse de croitre avec l’adoption des technologies d’IA générative, et donc accroit la proportion de ces données susceptibles de servir à l’entrainement des modèles. Comment ce risque est-il pris en charge par les entreprises d’IA ? Comment s’en prémunir ?