En la era digital actual, los avances tecnológicos han ido difuminando gradualmente las líneas que separan la realidad y ficción. Este fenómeno se debe en gran parte al surgimiento de la tecnología “Deepfake”. Esta tecnología, disruptiva y controvertida, que utiliza algoritmos de Inteligencia Artificial (IA) para crear imágenes, videos y audios falsos con un realismo sorprendente, ha generado inquietud en la sociedad por su potencial para la desinformación y el fraude. Los Deepfake fueron inicialmente desarrollados para el entretenimiento y la industria cinematográfica y han encontrado aplicaciones tanto legítimas como preocupantes.
Entre los usos legítimos de esta tecnología se encuentran la mejora en el audio de videojuegos, la creación de contenido de entretenimiento, la atención automatizada al cliente y la recreación en vídeo de personas que ya han fallecido para propósitos educativos. Por otro lado, el potencial para generar entretenimiento y ganancias económicas es reconocido, como lo demuestran empresas chinas de marketing que utilizan deepfakes de influencers para generar confianza en la audiencia, promover y vender productos en las plataformas de streaming de comercio electrónico.
Sin embargo, también tienen aplicaciones negativas. Según Sensity AI, una empresa de investigación y detección de contenido falso en internet, entre el 90% y el 95% de deepfakes se utilizan para crear pornografía sin consentimiento, y nueve de cada diez se refieren a mujeres. Este problema ha llevado incluso al fiscal de la Ciudad de San Francisco a presentar recientemente una demanda, la primera de su tipo, contra los propietarios de 16 sitios web que crean y distribuyen pornografía deepfake generada por inteligencia artificial sin consentimiento.
En el uso de deepfakes, los riesgos van más allá de la privacidad y el consentimiento individual. Esta tecnología también ha demostrado ser efectiva para la difamación, desinformación y manipulación política, tanto en procesos electorales como hacia líderes políticos. Además, los ciberdelincuentes han encontrado en los deepfakes un medio para realizar estafas y fraudes.
El riesgo e impacto de utilizar deepfakes de forma incorrecta es tan importante que el Foro Económico Mundial (WEF) en su décima novena edición del reporte sobre riegos globales clasifica a la desinformación y la información errónea como el riesgo global número uno de los próximos dos años. Este informe, advierte que “El contenido sintético manipulará a las personas, dañará las economías y fracturará las sociedades de numerosas maneras durante los próximos dos años… existe el riesgo de que algunos gobiernos actúen con demasiada lentitud y se enfrenten a un dilema entre prevenir la desinformación y proteger la libertad de expresión”.
La Inteligencia artificial y las tecnologías deepfake representan desafíos éticos significativos. La velocidad con que se están desarrollando, su costo accesible y el alcance que tienen los hacen omnipresentes.
Para atenuar estos riesgos es necesario realizar diversas acciones como el establecimiento de un marco jurídico y de gobernanza que garanticen una estricta supervisión sobre el desarrollo y uso de la IA. La Unión Europea y los Estados unidos ya han comenzado a tomar medidas en esta dirección, con regulaciones específicas para la Inteligencia artificial. Europa, con el reglamento de Inteligencia Artificial acordado por el Consejo y el Parlamento europeo, y los Estados Unidos, con la Orden Ejecutiva sobre IA firmada por el presidente Biden.
Asimismo, es necesario el desarrollo de más y mejor tecnología de detección basadas en IA. El blockchain, puede ayudar a rastrear el origen y las modificaciones de un archivo, garantizando su integridad y la verificación de la autenticidad de los medios digitales.
La educación y concientización son elementos que juegan un papel fundamental en esta lucha. Impulsar campañas de alfabetización mediática y digital entre los usuarios puede impulsar el logro de competencias para identificar y cuestionar la información falsa. Asimismo, tener una visión global del problema que propicie la colaboración internacional es indispensable para generar marcos internacionales que combatan la desinformación y protejan la integridad de la información.
Finalmente es necesario reflexionar acerca de la necesidad de navegar con precaución en esta nueva era digital, particularmente frente a los desafíos que plantean tecnologías como los deepfakes. Los riesgos asociados a la falta de control sobre estas tecnologías hacen urgente su gestión antes de que sus efectos sean irreversibles. Para garantizar que los avances en Inteligencia Artificial beneficien a la sociedad sin obstaculizar su progreso ni comprometer sus valores y seguridad, es fundamental adoptar un enfoque multifacético. Este enfoque debe observar una combinación de educación, concientización, trabajo colaborativo, innovación tecnológica y marcos regulatorios adecuados. Solo mediante una combinación estratégica de estas medidas podremos garantizar que la IA sirva como herramienta de progreso y utilidad y no como medio para la manipulación y la desinformación.
Ideario en Perspectiva
La transformación de la vida pública del país es evidente, se manifiesta en la aplicación selectiva y sesgada de la ley, en los discursos prepotentes y agresivos s de los representantes populares y de los responsables de las instituciones, en el mantra del pasado para justificar los errores y omisiones, en el uso indiscriminado de otros datos sin sustento, en la trivialización de la ciencia y del conocimiento especializado, en el respaldo y apoyo a la gestión plagada de excesos de funcionarios incapaces. Destaca la frase “con todo respeto”, utilizada de manera ambigua para disfrazar agresiones verbales, emitir juicios precipitados, dictar sentencias, impartir ordenes arbitrarias y satisfacer caprichos personales, entre otras acciones. Es indiscutible, México ya experimenta cambios profundos, y de seguir está dinámica, su futuro es incierto.