Los deep fakes meten en problemas a las elecciones de EU
COMPARTIR
TEMAS
El avance de la tecnología ha causado que cada vez sea más difícil distinguir lo verdadero de lo falso en medios como las redes sociales. Esto plantea grandes retos para las empresas y la democracia
Una de las tendencias que expertos advierten como más peligrosas en el futuro cercano es la guerra entre inteligencia artificial (IA) contra inteligencia artificial, pues la sofistificación de la tecnología puede ayudar a moderar, pero también a generar contenido en redes sociales.
De cara a la elección presidencial en Estados Unidos, redes sociales como YouTube, Instagram, Twitter o la popular TikTok han integrado equipos de IA para moderar contenido en la red y evitar así discursos de odio o polarización de opiniones.
“Hemos sido parte de la conversación política desde hace varios años, en 2007 se transmitieron los debates en la carrera presidencial de Estados Unidos, en 2015 Obama invitó a tres de nuestros creadores a entrevistarlo, en 2018 estuvimos transmitiendo los debates presidenciales de México y en 2020 estamos buscando que el contenido que se difunda, camino a las elecciones estadounidenses, no genere noticias falsas o desinformación”, precisó Woojin Kim, vicepresidente global de manejo de producto en YouTube, en una llamada con prensa mundial hace unas semanas.
Sin embargo, el contenido de deep fakes es muy complicado de filtrar. Los llamados deep fakes son aquellos procesos de inteligencia artificial que logran sobreponer una voz a un video determinado y hacerlo parecer real. La polémica arrecia cuando este tipo de tecnología se puede usar para bien o para mal.
Ejemplo de ello fue la polémica que hubo en este año cuando en el canal de Youtube Vocal Synthesis, replicaron la voz de Jay Z leyendo a Shakespeare, posterior a esto la agencia de derechos de autor del cantante, Roc Nation, presentó una demanda al canal por la violación de derechos de autor, sin embargo a pesar de que se pidió quitar el video, éste volvió al canal.
“Hemos cambiado el algoritmo de los contenidos límite, donde hemos reducido su propagación hasta un 70% de este tipo de videos, eso nos ayuda a dar una mejor revisión a los contenidos que se suben en la plataforma”, indicó Kim. Sin embargo la proliferación de este tipo de contenidos en la red social es complicada de filtrar.
“Específicamente, la amenaza emergente de deepfakes podría tener un impacto sin precedentes en este ciclo electoral, planteando serias dudas sobre la integridad de las elecciones, la formulación de políticas y nuestra sociedad democrática en general” dijo el Foro Mundial de Economía en un texto sobre los peligros del uso de estos recursos en la elección presidencial de Estados Unidos.
De acuerdo al profesor de la Universidad de Berkeley, Hany Farid , las empresas de tecnología tienen un reto importante en el uso de este tipo de materiales, no sólo a escala política, sino como un canal de distribución que puede usar otros elementos, como la pornografía, pero donde se insertan otros mensajes.
“Este tipo de contenidos son como un arma, pero no necesariamente en [la política], sino en forma de pornografía no consensuada. Así que este es un gran problema en Internet en este momento, donde se insertan imágenes de mujeres en material sexualmente explícito y ese material se distribuye pero con mensajes difíciles de descifrar”, precisó Farid.
Sin embargo este tipo de contenidos no sólo son un problema para plataformas de video como YouTube, sino también para empresas como Facebook o Instagram.
De acuerdo con su último reporte de transparencia de Facebook, la compañía eliminó 120,000 piezas de contenido por violar sus reglas sobre la interferencia de los votantes en los Estados Unidos, entre marzo y septiembre de este año y como empresa han reforzado el trabajo que están haciendo en la plataforma para evitar desinformación.
“Son temas polémicos que han causado mucho revuelo, en definitiva las marcas se han involucrado en los temas que tienen una opinión, no se quedan silenciosas, pero el hecho de hablar implica una responsabilidad, así que destacan las fuentes de donde tienen información, pues la crisis de reputación que hay es aún más relevante”, precisó Sylvia Ortegón, digital Marketing officer de América Latina y España para Talkwalker.
Durante la última década, Facebook se ha convertido en uno de los principales canales para consumir noticias, pues a diario presenta a sus 2,700 millones de usuarios activos feeds personalizados de los medios de comunicación que han elegido, así como contenido que comparten sus amigos. Y para evitar que se propaguen notas de desinformación o contenidos que puedan inferir la votación, Facebook activó etiquetas en publicaciones políticas, con el fin de que los usuarios se anticipen y tomen previsiones ante este tipo de publicaciones.
