A Internet sempre foi preenchida com informações erradas, mas pelo menos não foi difícil separar fatos da ficção com um pouco de esforço. A ascensão de sofisticadas ferramentas de inteligência artificial mudou isso para sempre, tornando o ceticismo mais importante do que nunca.
DeepFakes
A palavra " Deepfake Inclui uma família inteira de tecnologias que compartilham o uso de redes neurais de aprendizado profundo para atingir seus objetivos individuais. Deepfakes tornou -se atenção do público ao substituir o rosto de alguém em um vídeo, ficou fácil. Então, alguém poderia substituir os atores enfrentando o do presidente dos EUA ou substituir a boca do presidente sozinha e fazê -los dizer coisas que nunca aconteceram.
Por um tempo, um humano teria que se passar pela voz, mas a tecnologia Deepfake também pode replicar vozes. A tecnologia Deepfake agora pode ser usada em tempo real, o que abre a possibilidade de que um hacker ou outro ator de má fé possa se passar por alguém em uma videochamada em tempo real ou transmissão. Qualquer O vídeo "evidência" que você vê na Internet deve ser tratado como um potencial deepfake até que seja verificado.
Geração de imagem AI
Ai geradores de imagens causou a Misture a comunidade do artista Apesar de todas as implicações que tem para quem ganha a vida como artista e se os artistas comerciais correm o risco de serem substituídos. O que não está causando quase tanto debate é o potencial de desinformação graças a essa tecnologia.
Os sistemas de geração de imagem da IA podem produzir imagens fotorrealistas inteiras usando instruções baseadas em texto, imagens de exemplo e imagens originais para fins de manipulação. Por exemplo, você pode apagar certas partes de uma imagem original e, em seguida, usar uma técnica conhecida como "Painting" para que a IA substitua a parte apagada da imagem por tudo o que você quiser. É fácil Gere imagens no seu próprio PC com software como difusão estável .
Se você queria fazer parecer que alguém estava segurando uma arma de verdade em vez de um brinquedo, isso é trivial para a IA. Quer criar uma foto escandalosa de uma celebridade? A geração de imagens da AI (e os deepfakes) podem ser abusados dessa maneira. Você pode até gerar rostos fotorrealistas de pessoas que não existem .
Geração de vídeo da AI
A IA Image Generation e DeepFakes são apenas o começo. Meta (empresa controladora do Facebook) já demonstrou Geração de vídeo da AI e, embora apenas alguns segundos de filmagem possam ser gerados ao longo do tempo, esperamos que a duração do vídeo e a quantidade de usuários de controle tenham sobre o que está no vídeo expandirá exponencialmente.
Por enquanto, é inteiramente possível simplesmente ter uma IA gerar um clipe granulado de Bigfoot ou Nessie sem que ninguém entrasse ou voasse para a Escócia com uma câmera e um pequeno modelo de madeira. O vídeo sempre foi fácil de manipular antes que a geração de vídeo da IA fosse possível. No entanto, agora você não pode confiar em nenhum vídeo que vê.
Ai bate -papo bots
Quando você pura um bate -papo com o suporte ao cliente, está conversando com uma máquina e não com um ser humano. A tecnologia de IA (e os métodos de programação tradicional) são bons o suficiente para que as máquinas realizem conversas sofisticadas conosco, especialmente se estiver em um domínio estreito, como obter uma substituição de garantia ou se você tiver uma pergunta técnica sobre algo.
Reconhecimento e síntese de voz também estão em um estado avançado e, se você assiste demos para sistemas como o Google Duplex , você tem uma noção real de onde estamos indo com isso. Depois de liberar os bots movidos a IA nas plataformas de mídia social, o potencial para campanhas de desinformação concertadas com consequências do mundo real se tornam altas.
Para ser justo, plataformas de mídia social como o Twitter sempre tiveram um problema de bot, mas, em geral, esses bots não eram sofisticados. Agora é concebível que você possa criar uma pessoa inventada nas mídias sociais que se enganará a qualquer pessoa. Eles poderiam até usar outras tecnologias nesta lista para criar imagens, áudio e vídeo para "provar" que são reais.
Escritores da AI
Vamos à Internet para obter informações para aprender sobre o mundo e aprender o que está acontecendo em todo o mundo. Os escritores humanos (somos nós!) Somos uma fonte essencial dessas informações, mas os escritores da IA estão se tornando bons o suficiente para divulgar um trabalho de qualidade semelhante.
Assim como nos artistas da IA, há um debate sobre se esse software substituirá as pessoas que escrevem para viver, mas novamente há um ângulo de informação errônea que é amplamente ignorada.
Se você pode criar um rosto original, criar um bot de persona de mídia social, criar vídeo e voz com sua pessoa inventada, torna-se possível evocar uma publicação inteira durante a noite. Os sites de “notícias” duvidosos já são uma fonte de desinformação convincente para muitos usuários da Internet, mas a tecnologia de IA como essa pode sobrecarregar esse problema.
O problema da detecção
Essas tecnologias não são apenas um problema porque abrem novos caminhos para abuso, também são um problema, porque a detecção da falsificação pode ser difícil. DeepFakes já está chegando ao ponto em que até os especialistas têm dificuldade em dizer o que é falso e o que não é. É por isso que eles estão lutando contra fogo com fogo e usando Tecnologia de IA para detectar imagens geradas ou manipuladas , ao procurar sinais reveladores invisíveis para o olho humano.
Isso funcionará por um tempo, mas também pode criar uma corrida armamentista não intencional, que pode ironicamente empurrar tecnologias que criem conteúdo falso para níveis mais altos de fidelidade. A única estratégia sã para nós como seres humanos é assumir que qualquer coisa que vemos na Internet, a menos que seja de uma fonte verificada com processos e políticas transparentes, deve ser tratada como falsa até que se prove o contrário. (Embora duvimos que seu teórico da conspiração acredite que os vídeos de OVNIs que ele continua enviando você não são reais.)
- › Seu próximo dispositivo doméstico inteligente pode ter 5g
- › Microsoft Edge está recebendo bate -papo de IA e uma nova aparência no Windows
- › O OnePlus 11 está aqui, mas com um começo difícil
- › Wyze está baixo, não é só você
- › Pare de usar o teclado e o mouse que vieram com seu PC
- › Bose QuietComfort Earbuds 2 Revisão: Um passo à frente para o áudio de cancelamento de ruído
