Internet siempre ha estado lleno de información errónea, pero al menos no fue difícil separar los hechos de la ficción con un poco de esfuerzo. El surgimiento de sofisticadas herramientas de inteligencia artificial ha cambiado esto para siempre, haciendo que el escepticismo sea más importante que nunca.
Fallas
La palabra " defensa profunda "Incluye toda una familia de tecnologías que comparten el uso de redes neuronales de aprendizaje profundo para lograr sus objetivos individuales. Deepfakes se volvió pública cuando reemplazar la cara de alguien en un video se volvió fácil. Entonces, alguien podría reemplazar una cara de actores con la del presidente de los Estados Unidos o reemplazar la boca del presidente sola y hacerles decir cosas que nunca sucedieron.
Durante un tiempo, un humano tendría que hacerse pasar por la voz, pero la tecnología de Deepfake también puede replicar voces. La tecnología DeepFake ahora se puede usar en tiempo real, lo que abre la posibilidad de que un hacker u otro actor de mala fe pueda hacerse pasar por alguien en una videollamada en tiempo real o transmitir. Cualquier La "evidencia" de video que ves en Internet debe tratarse como un potencial profundo hasta que se verifica.
Generación de imágenes de IA
Generadores de imágenes AI han causado un Agregue la comunidad de artistas A pesar de todas las implicaciones que tiene para aquellos que se ganan la vida como artista y si los artistas comerciales están en peligro de ser reemplazados. Lo que no está causando casi tanto debate es el potencial de desinformación gracias a esta tecnología.
Los sistemas de generación de imágenes de IA pueden producir imágenes fotorrealistas enteras utilizando indicaciones basadas en texto, imágenes de ejemplo e imágenes originales con el propósito de la manipulación. Por ejemplo, puede borrar ciertas partes de una imagen original y luego utilizar una técnica conocida como "Inpaña" para que la IA reemplace la parte borrada de la imagen con cualquier cosa que desee. Es fácil de Genere imágenes en su propia PC con software como difusión estable .
Si querías que pareciera que alguien sostenía una pistola real en lugar de una juguete, eso es trivial para la IA. ¿Quieres crear una foto escandalosa de una celebridad? La generación de imágenes de IA (y los defectos profundos) pueden ser abusados de esta manera. Incluso puedes generar caras fotorrealistas de personas que no existen .
Generación de videos de IA
La generación de imágenes de IA y los profundos son solo el comienzo. Meta (la empresa matriz de Facebook) ya ha demostrado Generación de videos de IA , y aunque solo se pueden generar solo unos segundos de metraje con el tiempo, esperamos la longitud del video y la cantidad de control que los usuarios tendrán sobre lo que hay en el video se expandirá exponencialmente.
Por ahora, es completamente posible simplemente tener una IA generar un clip granulado de Bigfoot o Nessie sin que nadie se ponga un disfraz o vuele a Escocia con una cámara y un pequeño modelo de madera. El video siempre ha sido fácil de manipular antes de que fuera posible la generación de videos de IA. Sin embargo, ahora no puedes confiar en ningún video que veas en absoluto.
Bots de chat ai
Cuando te subes a chat con la atención al cliente, estás hablando con una máquina en lugar de un ser humano. La tecnología de IA (y los métodos de programación tradicionales) son lo suficientemente buenas para que las máquinas mantengan conversaciones sofisticadas con nosotros, especialmente si se encuentra en un dominio estrecho, como obtener un reemplazo de garantía o si tiene una pregunta técnica sobre algo.
El reconocimiento y la síntesis de la voz también se encuentran en un estado avanzado, y si observa demostraciones para sistemas como Google Duplex , tienes una idea real de a dónde vamos con esto. Una vez que desencadene bots con IA en plataformas de redes sociales, el potencial de campañas concertadas de información errónea con consecuencias del mundo real se vuelve alto.
Para ser justos, las plataformas de redes sociales como Twitter siempre han tenido un problema de bot, pero en general estos bots no eran sofisticados. Ahora es concebible que puedas crear una persona inventada en las redes sociales que engañará a casi cualquier persona. Incluso podrían usar otras tecnologías en esta lista para crear imágenes, audio y video para "demostrar" que son reales.
Escritores de IA
Vamos a Internet para obtener información para aprender sobre el mundo y aprender lo que está sucediendo en todo el mundo. Los escritores humanos (¡eso somos nosotros!) Son una fuente clave de esa información, pero los escritores de IA se están volviendo lo suficientemente buenos como para publicar un trabajo de calidad similar.
Al igual que con los artistas de IA, hay un debate sobre si dicho software reemplazará a las personas que escriben para ganarse la vida, pero nuevamente hay un ángulo de información errónea que se ignora en gran medida.
Si puede crear una cara original, cree un bot de Persona de redes sociales, cree video y voz con su persona inventada, es posible evocar una publicación completa de la noche a la mañana. Los dudosos sitios web de "noticias" ya son una fuente de información errónea convincente para muchos usuarios de Internet, pero la tecnología de IA como esta puede sobrealimentar este problema.
El problema de la detección
Estas tecnologías no solo son un problema porque abren nuevas vías para el abuso, también son un problema porque la detección de la falsificación puede ser difícil. Deepfakes ya están llegando al punto en que incluso los expertos tienen dificultades para saber qué es falso y qué no. Por eso están luchando contra el fuego con fuego y usando Tecnología de IA para detectar imágenes generadas o manipuladas , buscando signos reveladores invisibles para el ojo humano.
Esto funcionará por un tiempo, pero también puede crear una carrera armamentista de IA involuntaria que irónicamente podría impulsar las tecnologías que crean contenido falso a niveles más altos de fidelidad. La única estrategia sensata para nosotros como seres humanos es asumir que cualquier cosa que veamos en Internet a menos que sea de una fuente verificada con procesos y políticas transparentes, debe tratarse como falso hasta que se demuestre lo contrario. (Aunque dudamos de que el tío teórico de su conspiración crea que los videos de ovnis que sigue enviándolo no son reales).
- › Su próximo dispositivo Smart Home podría tener 5G
- › Microsoft Edge está obteniendo chat de IA y un nuevo look en Windows
- › El OnePlus 11 está aquí, pero con un comienzo difícil
- › Wyze está abajo, no eres solo tú
- › Deja de usar el teclado y el mouse que vinieron con tu PC
- › Bose QuietComfort Earbuds 2 Revisión: Un paso adelante para el audio de cancelación de ruido
