El problema de la veracidad de los datos en un mundo Data Driven

28 May

El problema de la veracidad de los datos en un mundo Data Driven

La capacidad para determinar la validez de los datos que una persona u organización maneja en su día a día se está volviendo cada vez más difícil. La introducción de contenido deepfake y basado en IA incrementa la probabilidad de manejar este tipo de datos. Por ello, las empresas cada vez más se encontrarán compitiendo para convertirse en una fuente de datos válidos para terceros.

En este sentido, IDC prevé que durante 2020 se crearán 41ZB de nuevos datos en todo el mundo. Pero… ¿datos reales?

Por supuesto, los datos en sí son reales. Se habrán generado, pero la pregunta que debemos hacernos es si esos datos son auténticos. Es decir, provienen de una fuente u origen válido y pueden ser confiables.

Esto último es cada vez más importante. Esos datos han cambiado desde el momento en el que fueron creados o capturados hasta el instante justo de ser consumidos.

Por ello, esto es lo que se pone en tela de juicio, especialmente con el surgimiento de deepfake e informes creados por IA.

Las tecnologías de tercera plataforma que utilizamos en la actualidad están permitiendo la introducción de economías exponenciales. Habilitan un conjunto muy elevado de posibilidades para incrementar de una forma muy positiva la productividad de las organizaciones.

Pero a la vez, casi cualquier cosa puede utilizarse tanto para lo bueno y lo malo. Lo que se denomina “espada de doble filo”.  De hecho, la palabra deepfake es una composición de los términos deep learning (aprendizaje profundo) y fake (palabra falso en inglés). Es decir, es el uso de una tecnología de IA para generar contenido falso.

Y es justo este concepto el que aparece cuando analizamos el impacto que estas tecnologías han tenido en las organizaciones. El aumento de la capacidad de almacenamiento y computación en la nube ha permitido que deepfake esté habilitado.

Ejemplo del uso de deepfake

Pensemos un momento en una aplicación que permite la fusión de imágenes humanas reales con otras imágenes reales. Creando así una sola imagen o vídeo donde el resultado sintetizado parece tan real como los originales, pero es falso. ZAO es una empresa china que tiene este tipo de aplicación. Permite intercambiar caras de los usuarios con las de personajes en películas.

Este ejemplo, con fines de entretenimiento, muestra que la tecnología podría trascender este escenario. Pudiendo utilizarse en multitud de otros casos de uso no hechos para entretener ni tan controlados.

Los políticos han sido víctimas de deepfake y aparecen en vídeos diciendo cosas que nunca han dicho. Actores que aparecen en vídeos comprometidos que jamás han grabado. Y por tanto, que tienen el potencial de causar daño y vergüenza extrema.

Su impacto empresarial y social

Sin embargo, deepfake puede ir mucho más allá y los informes creados por IA podrían tener un impacto en el lado empresarial y social.

  • Generación de informes financieros que omitan cierta información importante para una empresa
  • Generación de noticias falsas para influir en las elecciones políticas o fomentar el caos entre un determinado grupo social
  • Generar informes generados que modifican indicios o pruebas. Utilizados por los cuerpos y fuerzas de seguridad del estado para descubrir y atrapar a un delincuente en serie.

Este auge de las tecnologías de tercera plataforma ha favorecido la digitalización de las organizaciones. Ha colocado los datos en el corazón de este mundo digitalizado. Convirtiéndolo en un recurso como el agua y utilizándolos para obtener información sobre los flujos de trabajo del negocio. Con el fin de optimizar procesos, mejorar eficiencia, reducir costes, ofrecer servicio en tiempo real y aumentar ingresos y rentabilidad.

Y también en nuestra vida personal. Usamos los datos para hacer más eficientes nuestras actividades cotidianas. Para ayudarnos en la toma de decisiones y personalizar nuestras experiencias (dentro y fuera de casa).

Por eso es importante que nunca entender que la veracidad de los datos está garantizada por el proveedor de estos. Los consumidores son los que más en riesgo están. Dada su limitada capacidad para determinar la autenticidad de los datos que consumen. Ya sea que estén siendo leídos, vigilados o escuchados.

Sin duda, las empresas deben hacer más para llegar a ser conocidas como una fuente confiable de datos en un nuestro mundo cada vez más digital.