Précédemment nous avons vu comment optimiser l’usage des IA et comment celle-ci pouvait être utile pour le processus d’écriture. Cette fois-ci nous allons nous concentrer sur les limites que nous imposent les intelligences artificielles.
En quoi les IA sont limitées ? Quels sont les points de vigilance à avoir quand on s’en sert pour l’écriture ?
Une intelligence sans conscience
Tout d’abord, notons un paradoxe assez drôle : les IA sont extrêmement rapides et efficaces pour effectuer certaines tâches intellectuelles complexes. Pourtant, elles sont incapables de retenir des dialogues trop longs, la taille de la mémoire dépendant du modèle utilisé. Elles seraient aussi démunies pour comprendre le fonctionnement d’une poignée de porte par exemple.
En fait, l’intelligence des IA dépend de ce que nous définissons comme « intelligent ». Les IA peuvent être logiques, analytiques, mais ne possèdent aucune intuition. Elles ne comprennent pas vraiment les tâches qu’elles réalisent, ni dans quel contexte elles s’inscrivent, et n’ont même pas conscience d’elles-mêmes. Ainsi, chaque fois que vous manipulez un objet, glorifiez-vous de votre intelligence face à une machine capable de résumer 500 pages de roman en deux secondes.
Un risque non négligeable d’hallucinations
Les erreurs des IA, ou « hallucinations » constituent un vrai point sur lequel porter notre attention. Elles sont le fruit de cette absence de conscience dont nous avons parlé. Répétition, oubli, incohérence… elles peuvent prendre des formes diverses, c’est la raison pour laquelle il faut vérifier systématiquement tout le contenu généré. Cet aspect est valable aussi bien pour les textes et les images. Un cheval avec trois pattes sur une illustration ou un « faux raccord » dans une scène de roman ou de théâtre est vite arrivé !
Des biais et des stéréotypes
Les IA sont dépendantes de la base de données à partir desquelles elles ont été entraînées. Ainsi, il n’est pas impossible de voir surgir des résultats douteux. On aurait alors tort de considérer que celles-ci proviennent de nulle part. Si le contenu des générations est parfois cliché ou stéréotypé, c’est parce qu’il est avant tout le reflet d’une multitude de documents créés par l’humain. Voilà tout le principe d’une intelligence artificielle : fournir la réponse la plus probable. Demandez-lui de décrire un personnage de médecin, il y a plus de chance que celui-ci soit de genre masculin par exemple.
Rappelons-nous que la base de données en elle-même peut interroger. D’un côté, si une IA produit uniquement à partir de ses données d’entraînement, elle est donc incapable d’innover et ses sources ne sont pas mentionnées. D’un autre côté, n’avons-nous pas tous des influences plus ou moins conscientes lorsque l’on écrit ? Entre influence et plagiat, la frontière est mince…
Un manque de transparence concernant la confidentialité et la censure
Pour que votre utilisation des IA ne soit pas conservée pour entraîner des modèles, il suffit d’activer le chat éphémère, ou un équivalent. Vous pouvez aussi vous pencher plus en profondeur sur les paramètres. Cependant, il convient de noter que les entreprises propriétaires demeurent relativement secrètes concernant l’entraînement de leurs machines. Il faut donc garder en mémoire, contrairement à une IA qui pourrait l’oublier, qu’il y a un risque pour que les informations promptées fuitent.
Un autre élément peut aussi vous poser problème. À cause dérives qui ont surgi lors de l’émergence des IA, une censure, plus ou moins stricte selon les modèles, a été mise en place. Avez-vous déjà cherché à écrire des scènes de guerre dans le cadre d’un roman historique ou d’imaginaire ? Un message de censure vous a-t-il été adressé ? Si depuis quelques temps la censure s’est assouplie concernant la fiction, elle peut être selon le contexte une entrave à l’écriture. D’autant plus que les choix de censure ne sont pas toujours cohérents. De ce fait il est essentiel d’avoir une démarcation claire entre réalité et fiction. Autrement l’application de la censure prend bien sûr tout son sens.
Un impact environnemental
Il s’agit peut-être de l’inconvénient le plus évident. Même s’il pourrait être tentant de le croire, les IA ne sont pas des machines magiques générant sans impacter la planète. Pour se situer, un prompt textuel correspond environ à dix recherches sur un moteur de recherche en termes d’énergie et d’émissions de dioxyde de carbone. Et la génération d’images et de musiques est encore plus polluante. Relativisons toutefois, car en passant pendant une heure l’aspirateur nous consommons des milliers de fois plus qu’avec un prompt IA. En bref, apprenons à savoir quand utiliser l’IA est réellement utile, et quand nous pourrions nous abstenir.
Conclusion
Cette énumération d’inconvénients n’est pas exhaustive, mais elle suffit à refléter les enjeux entourant les intelligences artificielles génératives. Elles sont aujourd’hui présentes, il faut donc apprendre à composer avec. Pour autant il ne s’agit pas de renier certaines valeurs éthiques ni de manquer de pragmatisme. Alors, si les IA sont pratiques et utiles, leur intelligence se perd dès lors qu’elle n’est pas combinée à l’intuition humaine. Le mieux est donc de les utiliser avec un esprit critique affûté et réaliser un travail fin et précis.