"Es necesario perseguir y castigar el mal uso de la Inteligencia Artificial"

El director del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (Vrain) de la Universitat Politècnica de Valencia (UPV), Vicent Botti, aboga por “perseguir y castigar el mal uso” de la Inteligencia Artificial (IA) generativa para evitar casos como los 'deepfake' o fotos falsas de menores desnudas denunciado en Almendralejo (Badajoz).

Los 'deepfake', las fotos o videos manipulados en los que se cambia el rostro de la imagen original por el de una persona famosa, según Botti “no son una novedad, pues ya se vienen haciendo desde hace años con programas de edición de imágenes como photoshop, lo que pasa es con la IA generativa es relativamente fácil crear fotos y vídeos sintéticos compuestas a partir de miles de imágenes”.

Imágenes falsas hiperrealistas

La IA, mediante redes neuronales generativas antagónicas (GAN, por sus siglas en inglés), desarrolla patrones a partir de imágenes similares creando fotos o secuencias de video, e incluso puede copiar la voz, dando lugar a fotos o videos en los que es imposible saber si son reales o falsos. “Ahora es factible crear con IA generativa un video en el que usted y yo podemos aparecer diciendo barbaridades”, lamenta Botti.

"Ahora es factible crear con IA generativa un video en el que usted y yo podemos aparecer diciendo barbaridades”

Vicent Botti

— Director del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial

Regular el uso malicioso de la IA

Ante este uso malicioso, Botti apuesta por “la regulación de la IA generativa”. La prohibición, a su juicio, no tendría sentido. “La IA, como todas las tecnologías es una herramienta muy útil a la hora de mejorar la vida de las personas, si alguien la utiliza mal o con fines delictivos lo que tenemos que hacer es castigar ese mal uso”, sostiene. El experto de la UPV pone como ejemplo el automóvil: “a nadie se le ocurre plantear la prohibición del coche porque alguien lo use para atropellar a gente”.

“La IA generativa es una herramienta muy potente para los creadores y creadoras a la hora de plasmar su creatividad, también puede ayudar a mejorar la calidad de vida de las personas como estamos viendo en la investigación para que personas que a causa de un ictus u otra enfermedad han perdido la capacidad de hablar puedan comunicarse a través de un avatar”, apunta el catedrático. 

Ante casos como el Almendralejo, en el que se está difundiendo pornografía con imágenes de menores de edad creadas con IA generativa con el fin de extorsionar a niñas para reclamarles fotografías reales de ellas desnudas, lo que se conoce como 'sexting', Botti defiende que es "necesario regular el uso de la IA para que cualquier persona que planee hacer un uso malicioso de esta tecnología se lo piense dos veces antes de hacerlo”.

Instituto Universitario Valenciano de Investigación en Inteligencia Artificial

En este sentido, Botti avanza que desde el Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (Vrain) de la Politècnica en colaboración con otros centros de investigación “estamos promoviendo una IA responsable, que tenga en cuenta la ética, que respete los Derechos Humanos, la privacidad de las personas y que sea segura para que así se pueda desarrollar una tecnología en la que podamos confiar”. 

Así, destaca, que ya hay avances a nivel europeo como el reglamento del uso de IA aprobado el pasado junio, “que es un primer paso para regular el mal uso de esta tecnología y que en el futuro podría dar lugar a una ley europea en Inteligencia Artificial”. 

Otro avance, añade, “es que la mayoría de empresas que han desarrollado aplicaciones para crear imágenes sintéticas con IA generativa ya han incorporado marcas de agua que permiten diferenciarlas de las imágenes reales”.  

Suscríbete para seguir leyendo