Les problèmes de l'IA générative

Disclaimer : Je ne suis pas un chercheur en intelligence artificielle. Je suis un simple ingénieur informatique ayant entrainé un ou deux réseaux de neurones pendant ses études, qui partage son opinion sur internet. Si vous avez un doute sur ce qu'est une IA, vous pouvez lire mon autre article à ce sujet.

Cet article n'a pas pour but d'être exhaustif. Il traite juste de quelques problèmes en particulier sur lesquels je voulais écrire.

Pas toutes les IAs

Cet article n'est pas à propos de toutes les IAs génératives, et encore moins à propos du reste des réseaux de neurones artificiels.

Une grande partie des réseaux de neurones artificiels ont des applications fantastiques, comme trouver de nouveaux médicaments, éviter des fautes de frappe sur téléphone, better detect cancer, et même améliorer les bulletins météo.

Les problèmes que je vais décrire ici s'appliquent surtout aux IA génératives qui essayent de copier ce que font les humains, et en particulier de copier l'art. Ici, je parlerai donc des IA conversationnelles, des IA de génération d'images et de musique, etc.

Blanchissement de propriété intellectuelle

L'IA générative est souvent décrite comme un moyen de "peindre sans peintre", ou d'"écrire un livre sans écrivain". Mais même si ces images et ces pages n'ont pas été peintes ou écrites par un humain, elles ont quand même été créées à partir de réelles œuvres, faites par de vrais humains. Et ces artistes ne sont jamais crédités ou rémunérés pour leur travail (exemple 1, exemple 2).

Mais l'argent n'est pas la seule chose qui motive les entreprises d'IA à écarter les artistes.

Contrôle de la pensée

Le contenu généré par IA est moyen. Pas nécessairement d'un point de vue technique, mais du point de vue des idées. Du fait de leur fonctionnement, les IA génèrent du contenu proche de la moyenne de leurs données d'entrainement, pour qu'elles puissent généraliser. Et même si certaines IA ont une valeur de température que les ingénieurs peuvent utiliser pour s'écarter de cette moyenne, les entreprises d'IA sont fortement encouragées à garder leurs IA aussi consensuelles et vagues que possible.

Les entreprises d'IA ont besoin de cette consensualité pour atteindre un large public. Le seul moyen de plaire à tout le monde, c'est de ne rien dire. Mais en plus de ça, ces entreprises remplacent les artistes dans le débat public. Et dans un monde où Gemini répond aux questions ; et où les images et les vidéos sont générées par ChatGPT et Grok, ces entreprises ont un contrôle inédit sur ce que les gens pensent. Et c'est là l'essence même du fascisme.

On prend souvent 1984 de George Orwell comme exemple des dérives liées à la sécurité et la surveillance de masse. Mais l'objectif premier de la police de la pensée, au travers cette surveillance, c'est la censure. Et contrôler ce que le peuple pense n'est rien qu'un autre moyen d'arriver à la même fin. Pire, contrairement au "Parti" de George Orwell, cette censure est passive. Elle émerge naturellement de la façon même dont ces IA fonctionnent et sont utilisées.

Et les milliardaires qui possèdent ces entreprises ont tout intérêt à ce que ces IAs empêchent le peuple de remettre en cause le système, puisque ce sont ceux qui profitent le plus du statu quo.

Alors que faire ?

Nous pouvons combattre ces problèmes de deux façons : condamner ce qui est condamnable, notamment dans le cas des atteintes à la propriété intellectuelle, et pousser à une prise de conscience globale de ces enjeux. Ces deux actions sont complémentaires.

D'un point de vue personnel, le plus simple reste de s'écarter le plus possible de ces machines. Ce qui n'est pas facile dans un monde où tous les logiciels se parent d'un assistant IA.

Il est aussi possible d'encourager les artistes, les premières victimes des IAs génératives, en commissionnant des œuvres, ou de manière générale en soutenant leur travail.

Une note sur l'écologie

Non, l'écologie ne devrait pas être une note de bas de page. À l'origine, cet article devait avoir une section entière consacrée à la pollution issue de l'entraînement et de l'exploitation de l'IA. Mais après avoir regardé la vidéo de Simon Clark sur le sujet (YouTube, Nebula, en anglais), je partage son point de vue : Réduire son utilisation de l'IA n'est pas la manière la plus efficace de réduire son impact environnemental. Ce qui rend l'argument écologique contre l'IA bien moins convaincant que ceux présentés ci-dessus.

À lire ensuite

• "Poisson artificiel" du Gorafi, un article étonnamment sérieux du journal satirique sur l'intelligence artificielle sorti le 1er avril.

* On ne sait pas à quantifier exactement à quel point l'IA pollue. Mais les meilleures estimations que l'IA pollue bien moins que d'autres catégories de pollution beaucoup plus importantes comme le transport ou l'agroalimentaire.