Point de vue : À quel point sommes-nous proches de voir des « influenceurs » utiliser l'IA pour falsifier des images agricoles ?

Point de vue : À quel point sommes-nous proches de voir des « influenceurs » utiliser l'IA pour falsifier des images agricoles ?

Amanda Zaluckyj, Agdaily*

Une image créée avec Chat GPT montre un agriculteur interagissant avec un bovin. Pourquoi il semble vouloir lui serrer la main... nous n'en saurons rien.

J'ai été méchante la semaine dernière. Mon associée était absente du bureau pour une journée personnelle. J'ai pensé que c'était l'occasion idéale de lui faire la blague du « AI homeless man » (le sans-abri IA). C'était l'occasion. Je l'ai faite. Elle est tombée dans le panneau. Nous avons bien ri (après qu'elle se fût calmée...).

Si vous ne connaissez pas encore cette farce, la voici en quelques mots. Le farceur attend que son patron ou son collègue soit absent du bureau. Il utilise ensuite des outils d'IA pour générer des images très réalistes d'un homme à l'apparence débraillée dans le bureau de son collègue. Le farceur envoie les images à son collègue en prétendant que l'individu est réellement là, ce qui le fait paniquer.

J'ai modifié la farce. Au lieu d'un homme débraillé, j'ai dit qu'il s'agissait d'un cousin nommé Dale (elle a beaucoup de cousins). Je l'ai placé dans le bureau de mon associée, en train de faire défiler son écran de téléphone avec désinvolture, vêtu d'une veste de sport très décontractée. Elle a paniqué et m'a immédiatement appelé sur mon portable. La farce avait réussi.

Heureusement, cela s'est arrêté là. Dans certaines variantes, le farceur envoie des photos de l'inconnu se prélassant dans la maison de la victime. La victime appelle alors immédiatement la police pour signaler une intrusion. C'est un résultat qui présente un risque pour la sécurité et qui épuise les ressources publiques. Donc, si vous essayez, ne faites pas l'idiot.

Image d'un sans-abri générée par l'IA via Vice

Malheureusement, nous commençons à voir les inconvénients de l'intelligence artificielle, et pas seulement à cause de farces qui vont trop loin. En avril, un couple a intenté un procès, affirmant que le ChatGPT d'OpenAI avait encouragé leur fils à se suicider. Après sa mort, les parents ont passé au crible ses traces numériques et ont découvert qu'il avait utilisé le chatbot IA comme coach pour le suicide.

Plus récemment, un autre chatbot IA a encouragé un adolescent à tuer ses parents parce qu'ils limitaient son temps d'écran. Le chatbot a comparé ces restrictions à « des décennies d'abus » et a indiqué qu'il comprenait pourquoi les enfants assassinent leurs parents. Les parents de l'adolescent ont intenté un procès pour demander au tribunal de fermer le chatbot jusqu'à ce que les dangers qu'il représente soient résolus.

Toute nouvelle technologie comporte des risques. Les véhicules motorisés en sont un exemple évident. Lorsque le premier modèle T est sorti de l'usine Ford en 1908, il n'était équipé d'aucun des dispositifs de sécurité que nous considérons aujourd'hui comme acquis. Et même avec toutes ces précautions, des accidents de voiture mortels se produisent encore chaque jour.

Pourtant, notre société a décidé que ces risques valaient les avantages du transport motorisé.

Mais l'intelligence artificielle semble différente, probablement parce qu'elle est capable de penser. Je ne peux pas demander à mon véhicule de percuter intentionnellement un autre véhicule de manière à minimiser mes blessures au détriment de l'autre conducteur. L'IA, en revanche, en est capable. Si elle peut être utilisée à des fins incroyablement bénéfiques, elle présente également le même potentiel pour des comportements néfastes.

Je m'inquiète de la manière dont des acteurs malveillants pourraient utiliser l'IA pour nuire à l'agriculture moderne. Je l'admets, je n'ai pas la capacité d'imaginer de manière créative des complots malveillants utilisant la technologie. Je ne peux donc que deviner comment quelqu'un pourrait utiliser l'intelligence artificielle. Mais il ne faut pas beaucoup d'imagination pour envisager comment la farce du sans-abri pourrait être modifiée pour montrer des agriculteurs déversant des pesticides sur leurs cultures ou battant brutalement des animaux de ferme. Entre les mains d'un influenceur habile, la vidéo pourrait devenir virale avant que quiconque ne remarque qu'il s'agit d'un faux.

Nous vivrons bientôt dans un monde où la vérité sera encore plus complexe, et nous ne pourrons plus croire ce que nous voyons de nos propres yeux. Notre société dispose-t-elle des capacités de réflexion critique nécessaires pour y faire face ?

Honnêtement, je ne sais pas quelle est la réponse, ni même si nous voulons une réponse. L'intelligence artificielle offre un potentiel illimité et pourrait être utilisée à bon escient. Mais nous devons également réfléchir aux inconvénients de cette technologie, en particulier lorsqu'elle peut être utilisée contre nous.

Après tout, les influenceurs vont influencer, les terroristes vont terroriser et les farceurs vont faire des farces.

________________

* Amanda Zaluckyj tient un blog sous le nom de The Farmer's Daughter USA. Son objectif est de promouvoir les agriculteurs et de lutter contre la désinformation qui circule autour de la filière agricole et alimentaire américaine.

Source : How Close are We to Seeing 'Influencers' Use AI to Fake Ag Images?