Internet a toujours été rempli de désinformation, mais au moins il n'était pas difficile de séparer les faits de la fiction avec un peu d'effort. La montée des outils de l'intelligence artificielle sophistiquée a changé cela pour toujours, ce qui rend le scepticisme plus important que jamais.
Fous
Le mot " femelle profonde »Comprend toute une famille de technologies qui partagent toutes l'utilisation des réseaux de neurones d'apprentissage en profondeur pour atteindre leurs objectifs individuels. Deepfakes est devenu l'attention du public lors du remplacement du visage de quelqu'un dans une vidéo est devenue facile. Ainsi, quelqu'un pourrait remplacer un fait face à un acteur par celui du président américain ou remplacer la bouche du président seul et lui faire dire des choses qui ne se sont jamais produites.
Pendant un certain temps, un humain devrait imiter la voix, mais la technologie DeepFake peut également reproduire les voix. DeepFake Technology peut désormais être utilisé en temps réel, ce qui ouvre la possibilité qu'un pirate ou un autre acteur de mauvaise foi puisse se faire passer pour quelqu'un dans un appel vidéo ou une diffusion en temps réel. N'importe quel La «preuve» vidéo que vous voyez sur Internet doit être traitée comme un fake profond potentiel jusqu'à ce qu'il soit vérifié.
Génération d'images AI
Générateurs d'images IA ont provoqué un Incorporer la communauté des artistes Pour toutes les implications qu'il a pour ceux qui vivent en tant qu'artiste et si les artistes commerciaux risquent d'être remplacés. Ce qui ne provoque pas autant de débats, c'est le potentiel de désinformation grâce à cette technologie.
Les systèmes de génération d'images AI peuvent produire des images photoréalistes entières à l'aide d'invites basées sur le texte, d'exemples d'images et d'images originales à des fins de manipulation. Par exemple, vous pouvez effacer certaines parties d'une image d'origine, puis utiliser une technique connue sous le nom de «l'insuffisance» pour que l'IA remplace la partie effacée de l'image par tout ce que vous souhaitez. C'est facile de Générez des images sur votre propre PC avec des logiciels comme une diffusion stable .
Si vous vouliez donner l'impression que quelqu'un tenait un vrai pistolet au lieu d'un jouet, c'est trivial pour l'IA. Vous voulez créer une photo scandaleuse d'une célébrité? La génération d'images de l'IA (et Deepfakes d'ailleurs) peut être abusée de cette manière. Vous pouvez même générer visages photoréalistes de personnes qui n'existent pas .
Génération de vidéo AI
La génération d'images AI et Deepfakes sont juste le début. Meta (la société mère de Facebook) a déjà démontré Génération de vidéo AI , et bien que seules quelques secondes de séquences puissent être générées au fil du temps, nous nous attendons à la durée de la vidéo et la quantité de contrôle des utilisateurs auront sur ce qui se trouve dans la vidéo se développera de façon exponentielle.
Pour l'instant, il est tout à fait possible de simplement faire générer un clip granuleux de Bigfoot ou de Nessie sans que personne ne soit dans un costume ou de voler en Écosse avec une caméra et un petit modèle en bois. La vidéo a toujours été facile à manipuler avant que la génération vidéo de l'IA ne soit possible. Cependant, vous ne pouvez maintenant pas faire confiance à une vidéo que vous voyez.
Bots de chat AI
Lorsque vous discutez avec le support client, vous parlez à une machine plutôt qu'à un être humain. La technologie de l'IA (et les méthodes de programmation traditionnelles) sont assez bonnes pour que les machines aient des conversations sophistiquées avec nous, surtout si elle est dans un domaine étroit, comme obtenir un remplacement de garantie ou si vous avez une question technique sur quelque chose.
La reconnaissance vocale et la synthèse sont également à un état avancé, et si vous regardez Démos pour des systèmes tels que Google Duplex , vous avez une vraie idée de l'endroit où nous allons avec cela. Une fois que vous avez déchaîné des robots alimentés par l'IA sur les plateformes de médias sociaux, le potentiel de campagnes de désinformation concertée avec des conséquences réelles devient élevée.
Pour être juste, les plateformes de médias sociaux telles que Twitter ont toujours eu un problème de bot, mais en général, ces robots n'étaient pas sophistiqués. Il est désormais concevable que vous puissiez créer une personne inventée sur les réseaux sociaux qui trompera à peu près n'importe qui. Ils pourraient même utiliser d'autres technologies de cette liste pour créer des images, des audio et des vidéos pour «prouver» qu'ils sont réels.
Écrivains d'IA
Nous allons sur Internet pour obtenir des informations pour découvrir le monde et apprendre ce qui se passe dans le monde entier. Les écrivains humains (c'est nous!) Sont une source clé de cette information, mais les écrivains de l'IA deviennent suffisamment bons pour éteindre un travail de qualité similaire.
Tout comme avec les artistes de l'IA, il y a un débat sur la question de savoir si de tels logiciels remplaceront les personnes qui écrivent dans la vie, mais encore une fois, il y a un angle de désinformation qui est largement ignoré.
Si vous pouvez créer un visage original, créez un bot de personnage de médias sociaux, créez une vidéo et une voix mettant en vedette votre personne maquillée, il devient possible d'évoquer une publication entière du jour au lendemain. Les sites Web douteux des «nouvelles» sont déjà une source de désinformation convaincante pour de nombreux utilisateurs d'Internet, mais une technologie d'IA comme celle-ci peut suralimenter ce problème.
Le problème de la détection
Ces technologies ne sont pas seulement un problème car elles ouvrent de nouvelles avenues pour la maltraitance, elles sont également un problème car la détection du faux peut être difficile. Deepfakes atteint déjà le point où même les experts ont du mal à dire ce qui est faux et ce qui ne l'est pas. C'est pourquoi ils combattent le feu avec le feu et utilisent Technologie de l'IA pour détecter les images générées ou manipulées , en recherchant des signes révélateurs invisibles à l'œil humain.
Cela fonctionnera pendant un certain temps, mais cela peut également créer une course d'armes AI involontaire qui pourrait ironiquement pousser des technologies qui créent un faux contenu à des niveaux de fidélité plus élevés. La seule stratégie sensée pour nous en tant qu'êtres humains est de supposer que tout ce que nous voyons sur Internet, sauf s'il provient d'une source vérifiée avec des processus et des politiques transparents, devrait être traité comme faux jusqu'à ce qu'il soit prouvé le contraire. (Bien que nous doutions de votre oncle théoricien du complot croira que les vidéos d'OVNI qu'il continue de vous envoyer ne sont pas réelles.)
- › Votre prochain appareil domestique intelligent pourrait avoir 5G
- › Microsoft Edge obtient un chat IA et un nouveau look sur Windows
- › Le OnePlus 11 est là, mais avec un début difficile
- › Wyze est en panne, ce n'est pas seulement toi
- › Arrêtez d'utiliser le clavier et la souris qui sont venus avec votre PC
- › Bose QuietComfort Earbuds 2 Revue: un pas en avant pour l'annulation de son audio
