Microsoft advierte cuál es el mayor peligro de la inteligencia artificial

Martes 30 de Mayo de 2023, 16:04

Brad Smith, presidente de Microsoft, habló sobre IA desde Washington. (Foto: Microsoft)



La explosión de la Inteligencia Artificial (IA) puede conllevar riesgos como la falta de ciberseguridad, los sesgos, la falta de neutralidad o la sustitución de algunos empleos que ocupan en la actualidad seres humanos. Pero nada preocupa más a Microsoft como la generación de deepfakes, esto es, videos o imágenes que no son reales pero que lo parecen gracias a una manipulación extrema.

"Vamos a tener que abordar los problemas relacionados con las falsificaciones profundas. Vamos a tener que abordar en particular lo que nos preocupa de la mayoría de las operaciones de influencia cibernética extranjera, el tipo de actividades que ya están llevando a cabo el gobierno ruso, el chino, los iraníes", explicó el presidente de la tecnológica, Brad Smith, en un discurso en Washington.

Smith pidió que se tomen medidas para garantizar que las personas sepan cuándo una foto o video es real y cuándo está generada por aplicaciones de IA como Stable Diffusion o Midjourney: "Necesitamos tomar medidas para protegernos contra la alteración de contenido legítimo con la intención de engañar o defraudar a las personas mediante el uso de IA".

Además, el presidente de Microsoft pidió licencias para las formas más críticas de IA con "obligaciones de proteger la seguridad, la seguridad física, la ciberseguridad, la seguridad nacional".

https://www.clarin.com/img/2023/03/29/UQ4vUIw6r_720x0__1.jpg
Hace unas semanas se viralizó una falsa imagen del Papa Francisco usando un camperón blanco.

“Necesitaremos una nueva generación de controles de exportación, al menos la evolución de los controles de exportación que tenemos, para garantizar que estos modelos no sean robados o utilizados de manera que violen los requisitos de control de exportación del país”, argumentó.

Las propias tecnológicas reconocen que la IA necesita regulación. La semana pasada, Sam Altman, CEO de OpenAI, la compañía impulsora del popular ChatGPT, aseguró ante el Senado estadounidense que el uso de IA que interfiere con la integridad electoral es un "área importante de preocupación". Y esta cuestión necesita urgentemente regulación, añadió.

Qué son los deepfake

https://www.clarin.com/img/2023/03/29/YVXgks0pB_720x0__1.jpg
Las imágenes del Papa Francisco creadas artificialmente.

En los últimos meses, se han viralizado imágenes fake de Donald Trump arrestado o el Papa Francisco paseando con un moderno abrigo blanco. Todo falso, aunque muchos usuarios no fueron capaces de detectar el engaño. La polémica fue tal que Midjourney acabó con las pruebas gratuitas de su software.

Este tipo de tecnología de inteligencia artificial que permite crear videos o imágenes falsas y muy realistas, que pueden engañar a las personas haciéndolas creer que son reales, tuvo su origen en 2019.

Para crear un deepfake, se utiliza una técnica llamada "aprendizaje automático" (machine learning) que utiliza algoritmos complejos para analizar grandes cantidades de datos y aprender patrones.

En este caso, se utiliza el aprendizaje automático para analizar y aprender los patrones de una persona en particular, como su rostro o su voz, y luego se utiliza para crear una versión falsa de esa persona.

En el caso del Papa, la viralización de esta imagen falsa volvió a despertar las voces de alarma que advierten que este tipo de deepfakes pueden convertirse en armas peligrosas en el futuro, ya que generan desinformación o -lo que es peor- informaciones falsas interesadas con motivos políticos o ideológicos. /Clarín