Il s'avère donc que l'erreur d'Israël a été de commencer son génocide juste après que les Palestiniens ont acquis la capacité de partager rapidement des images vidéo de ce qui se passe à Gaza, mais juste avant le moment où toute image vidéo partagée en ligne pouvait facilement être considérée comme une manipulation par l'IA.
Aujourd'hui même, j'ai vu deux tweets viraux qui avaient reçu des notifications de la communauté Twitter signalant la présence de vidéos générées par intelligence artificielle. Partagés par des comptes d'extrême droite très suivis, ils servaient tous deux à propager l'islamophobie.
La première publication a été partagée par Emily Schrader, commentatrice israélo-américaine suivie par 194 000 personnes sur Twitter. Le tweet présente une fausse vidéo de surveillance montrant un homme en tenue musulmane abordant une femme non musulmane dans la rue de manière intimidante, avant d'être attaqué par un chat. À l'heure où nous écrivons ces lignes, le tweet de Schrader a été vu plus de 612 000 fois et comporte une note de la communauté : « Généré par IA. L'heure affichée en haut est un indice révélateur. De plus, elle commence avec un sac blanc et noir, puis uniquement noir. »
Le second tweet provenait d'un compte britannique d'extrême droite nommé Basil the Great, suivi par plus de 210 000 personnes . Il présentait une fausse vidéo montrant un professeur anglophone expliquant à des enfants blancs comment réciter une prière musulmane, accompagnée de la légende : « On m'a envoyé cette vidéo deux fois aujourd'hui. Elle montre un professeur musulman enseignant les préceptes de l'islam à des enfants britanniques à l'école. J'espère que c'est un canular, mais je ne serais pas surpris que ce soit vrai. D'ailleurs, la gauche dira probablement qu'elle n'y voit aucun problème. »
Ce n'est pas authentique. Au moment de la rédaction de cet article, le tweet comporte une note de la communauté indiquant : « Cette vidéo est générée par IA. L'enseignant est assis sur une chaise invisible à la fin de la vidéo, qui n'était pas présente au début. » La vidéo a été visionnée 1,7 million de fois.
Il s'agit de Twitter, et non de Facebook, qui était déjà ravagé par de faux contenus générés par IA qui dupent les utilisateurs plus âgés depuis près de deux ans.
Les fausses vidéos d'IA sont désormais si performantes qu'elles parviennent à tromper des jeunes pourtant bien plus avertis. La chaîne australienne ABC a récemment diffusé un reportage où elle montrait différentes vidéos à des adolescents et leur demandait de distinguer les vraies des générées par l'IA ; leurs résultats étaient loin d'être meilleurs que des suppositions au hasard.
Pendant des décennies, la vidéo a constitué la preuve ultime d'un événement. Pendant quelques années fastes, tout événement important survenu en public était systématiquement filmé, car il y avait toujours quelques personnes équipées d'un smartphone dans chaque groupe. Ces vidéos pouvaient ensuite être partagées avec le monde entier comme preuves. Aujourd'hui, dès qu'une vidéo montre un crime, un acte de tyrannie gouvernementale ou même une célébrité faisant une bêtise en public, personne ne croit aux faits sans témoignage oculaire.
En ce sens, nous sommes en quelque sorte revenus à la situation d'avant l'invention de la photographie, lorsque les témoignages oculaires étaient notre seul recours. Une vidéo peut certes illustrer les propos du témoin, mais sans présence physique pour en attester la véracité, elle s'avère souvent peu utile pour prouver qu'un événement s'est réellement produit.
Ce qui, bien sûr, arrange parfaitement les puissants. Les vidéos d'atrocités génocidaires, de brutalités policières et d'abus autoritaires ont causé bien des soucis à nos dirigeants ces dernières années ; ils seront donc ravis de voir l'écosystème informationnel entrer dans une nouvelle ère où les images gênantes pourront être balayées d'un revers de main.
L'IA générative abêtit tout . Elle entrave la capacité des individus à écrire, à faire des recherches, à penser de manière critique et à créer artistiquement. Elle rend plus difficile la distinction entre le vrai et le faux. Elle les coupe de leur propre humanité de manière toujours plus étrange .
Il devient de plus en plus difficile de distinguer le vrai du faux sur Internet. Cette photo pourrait être truquée. Cette vidéo pourrait être truquée. Cette chanson pourrait avoir été créée sans aucun artiste. Cet essai pourrait avoir été écrit par un chatbot. Ce compte de réseau social avec lequel vous interagissez pourrait lui-même être un chatbot. Cela va avoir un impact extrêmement négatif sur les technologies de réseautage, dont la promesse initiale était de nous rapprocher.
Lorsque l'internet est apparu, les gens se sont réjouis de pouvoir se connecter avec d'autres personnes du monde entier partageant les mêmes intérêts et passions, en disant : « Enfin, je ne suis pas seul ! » Lorsque l'IA est apparue, les gens ont commencé à se connecter à internet en se demandant : « Euh… suis-je vraiment seul ? »
Parce qu'on ne peut pas être sûr qu'il y ait quelqu'un à l'intérieur.
Cela me rappelle un passage du livre « Everyday Zen » de Charlotte Joko Beck :
Imaginez-vous sur un lac, un peu de brouillard, pas trop épais, juste un peu, et que vous ramiez tranquillement dans votre barque. Soudain, surgissant du brouillard, une autre barque arrive droit sur nous. Et… boum ! Sur le coup, on est furieux : mais qu'est-ce qu'il fait, ce crétin ? Je viens de repeindre ma barque ! Et le voilà qui arrive, boum !… droit dedans. Et puis, on remarque que la barque est vide. Notre colère retombe ? Eh bien, elle s'estompe… Je vais devoir repeindre ma barque, c'est tout. Mais si la barque qui a percuté la nôtre avait quelqu'un à bord, comment réagirions-nous ? Vous savez ce qui se passerait !
Beck aborde ici la doctrine bouddhiste du non-soi, un sujet que nous pourrons approfondir ultérieurement. Cette parabole recèle de multiples niveaux de lecture qui en disent long sur l'humanité et les liens humains. Si nous investissons autant d'énergie mentale et d'attention dans nos interactions et relations quotidiennes, c'est uniquement parce que nous supposons être en relation avec d'autres êtres humains semblables à nous. Nous supposons qu'il y a quelqu'un dans l'autre barque.
Presque tous les sentiments d'amour, de désir, de colère, de haine, de honte, de culpabilité, de passion, d'enthousiasme, d'attirance, d'aversion, de joie et de dégoût que nous éprouvons à chaque instant de cette aventure humaine sont liés à d'autres êtres humains. Nous n'éprouvons pas ces émotions intenses envers des objets inanimés comme des barques, des voitures ou des chariots de supermarché, car nous savons qu'ils sont vides. Il n'existe aucun lien véritable avec eux. Nos émotions les plus fortes naissent de nos rencontres avec des personnes réelles : notre famille, nos amants, nos ennemis, et l'art véritable d'artistes reconnus.
L'IA est comme une barque vide, et plus elle envahit Internet, plus ce sentiment de vide s'accentuera. Les gens auront l'impression de ne plus trouver le lien social qu'ils recherchent dans les domaines dominés par l'intelligence artificielle et iront le chercher ailleurs. Peut-être se tourneront-ils vers des lieux où ils peuvent rencontrer des personnes réelles, avec lesquelles ils peuvent échanger des regards et des sentiments authentiques, des espoirs et des rêves comme les leurs.
Et ce serait peut-être une bonne chose. L'humanité est déjà bien trop déconnectée et dissociée. Nous gagnerions tous à nous ancrer un peu plus profondément dans la réalité.
Il existe certains développements technologiques qui nous obligent, individuellement, à fixer des limites. La civilisation moderne nous permet de travailler à domicile et d'ingérer dix mille calories par jour sans jamais faire d'exercice ni même sortir de chez nous, mais la plupart d'entre nous avons la sagesse de ne pas le faire, car nous savons que ce serait très mauvais pour notre santé. Nous allons devoir commencer à considérer l'IA comme nous considérons McDonald's : certes, elle est là, mais cela ne signifie pas que nous devons en consommer, car elle est vraiment néfaste pour la santé.
__________
Traduction Google
Aucun commentaire:
Enregistrer un commentaire
Les commentaires hors sujet, ou comportant des attaques personnelles ou des insultes seront supprimés. Les auteurs des écrits publiés en sont les seuls responsables. Leur contenu n'engage pas la responsabilité de ce blog ou de Hannibal Genséric. Les commentaires sont vérifiés avant publication, laquelle est différée de quelques heures.