Japón quiere acabar con las ‘fake news’ y pone en marcha una plataforma que identifique la desinformación

El Gobierno de Japón quiere reforzar e impulsar la seguridad económica de su país y ha puesto en marcha un programa que ponga en marcha, a través de la colaboración de instituciones investigadoras y empresas privadas, una plataforma que ataje las fake news automatizando la identificación de las fuentes informativas. El objetivo del proyecto es desarrollar la primera plataforma integral de contramedidas contra la desinformación del mundo, capaz de procesar información falsa desde la detección inicial hasta la recopilación de pruebas, el análisis y la evaluación. Esta tecnología que luche contra las actuales informaciones falsas interesadas estará en funcionamiento para finales del año fiscal 2025, hacia marzo abril de 2026.

El proyecto japonés

La iniciativa empezó en julio de 2024 a través de una convocatoria pública de la Organización para el Desarrollo de Nuevas Energías y Tecnologías Industriales de Japón (NEDO) y la convocatoria del ‘Programa de I+D en tecnologías clave y avanzadas mediante la colaboración intercomunitaria/desarrollo de tecnología de análisis de la desinformación (Programa K)‘.

Este esfuerzo por parte del gobierno japonés se incluye en el ‘Programa de I+D de Tecnología Clave y Avanzada a través de la Colaboración Intercomunitaria (Programa K)‘, realizado con la colaboración de la Oficina del Gabinete de Japón, el Ministerio japonés de Economía, Comercio e Industria (METI) y otros ministerios japoneses relacionados, para reforzar e impulsar la seguridad económica de Japón.

La multinacional japonesa Fujitsu ha sido seleccionada como operador principal para coordinar esta iniciativa. Como operador principal de este proyecto, Fujitsu dirigirá los esfuerzos de I+D, la integración tecnológica y la construcción de la plataforma global. Aprovechando las últimas tendencias en tácticas y tecnologías de desinformación, Fujitsu también creará casos de uso para organizaciones de los sectores público y privado, facilitando la aplicación práctica de los resultados de la investigación. Y acaba de anunciar cómo desarrollará la plataforma de contramedidas contra la desinformación junto con un consorcio de destacadas organizaciones académicas y empresariales del sector privado.

Tecnología para desarrollar y funciones del consorcio

El calendario de hitos cuenta con cuatro fases para desarrollar la plataforma que luche contra la desinformación:

1. Análisis de información por tipo de medio y detección de desinformación

Aprovechando su trayectoria en el campo de la detección de medios falsos, el National Institute of Informatics (NII) japonés desarrollará una tecnología para detectar deepfakes de imágenes, vídeo y audio a partir de publicaciones en redes sociales y otros contenidos. La tecnología identificará cómo se ha creado el contenido multimedia y las áreas que han sido manipuladas y asignará una puntuación de confianza que se proporcionará como prueba de apoyo.

Por su parte, la multinacional NEC desarrollará una tecnología de comprensión de los medios de comunicación que extraiga el contenido, incluyendo imágenes, vídeo y audio como texto y lo utilice para analizar las coincidencias con las publicaciones de los medios sociales y para recopilar información de apoyo.

Motoo Nishihara, vicepresidente ejecutivo corporativo y director técnico de NEC Corporation, comenta que “como la IA está vinculada a la producción de desinformación cada vez más sofisticada, las contramedidas potenciadas por la IA son primordiales. Aprovechando las tecnologías de IA de vanguardia de NEC, pretendemos contribuir al desarrollo de soluciones verdaderamente eficaces”.

2. Gestión de pruebas/apoyos

El Instituto de Investigación Keio del SFC, que cuenta con una larga trayectoria en el campo de la arquitectura de confianza en Internet, y Fujitsu desarrollarán una tecnología para integrar las pruebas recogidas en Internet, incluidos los resultados de los análisis de la tecnología 1 anterior. Estas pruebas se estructurarán y almacenarán como un gráfico de pruebas/apoyos (3) para verificar la autenticidad y evaluar el impacto.

El profesor Hiroyuki Kusumoto, de la Facultad de Medioambiente y Estudios de la Información de la Universidad de Keio, y el profesor del proyecto Shigeya Suzuki, de la Escuela de Posgrado de Medios de Comunicación y Gobernanza de la Universidad de Keio, comentan que “hoy en día, la información en Internet no solo la transmiten las personas, sino también los sistemas de información que utilizan LLM. Aprovechando la tecnología de identidad digital más avanzada, crearemos una plataforma que rastree meticulosamente la identidad del remitente y las relaciones de la información, permitiendo un análisis polifacético para una toma de decisiones más informada y precisa por parte del usuario final”.

La Universidad de Osaka aprovechará su experiencia en el análisis de datos IoT para desarrollar una tecnología que permita recopilar datos de sensores como fuente de pruebas. En los casos en los que la información de la zona objetiva sea incompleta, el sistema deducirá las pruebas basándose en los datos disponibles de las zonas vecinas.

Esta recopilación de pruebas proactiva e impulsada por IA, que imita la recopilación e inferencia de información humana, es una iniciativa muy avanzada, tal y como detalla Shin’ichi Arakawa, profesor asociado de la Universidad de Osaka: “Dentro del proyecto, nos centraremos en la investigación y el desarrollo prácticos, y en lograr un impacto en el mundo real, yendo más allá de la evaluación teórica”.

3. Determinación exhaustiva de la autenticidad

Fujitsu desarrollará una tecnología para analizar la coherencia de las pruebas vinculadas a la información que se analice utilizando los gráficos de pruebas/apoyos de la tecnología. Esta tecnología permite hacer un análisis exhaustivo de la autenticidad de la información, presentando los resultados y las pruebas de apoyo de forma sencilla para el usuario.

Además, también desarrollará un LLM japonés especializado en contramedidas contra la desinformación, utilizando su superordenador (Fugaku) y su experiencia en LLM (Takane). Este LLM especializado mejorará la comprensión de noticias y datos de redes sociales, mejorará las capacidades de razonamiento lógico y permitirá realizar inferencias de alta velocidad y precisión para verificar la autenticidad, mitigando al mismo tiempo las alucinaciones.

Fujitsu colaborará con el Instituto Tecnológico de Nagoya para desarrollar una interfaz de usuario y una tecnología de suministro de información basadas en la ciencia cognitiva, teniendo en cuenta factores relacionados con la psicología humana (por ejemplo, el efecto de influencia continua).

Esto ayudará a los usuarios a juzgar con precisión la veracidad de la información y fomentará las acciones apropiadas, incluyendo la realización de esfuerzos para evitar la difusión involuntaria de información falsa.

La profesora Yuko Tanaka, del Instituto Tecnológico de Nagoya, comenta que “este proyecto que integra tecnologías de vanguardia para hacer frente a la circulación cada vez más sofisticada y grave de la desinformación permitirá que desarrollemos un diseño de interfaz que comunique eficazmente los resultados, desde la detección de la desinformación hasta su evaluación, teniendo en cuenta las características cognitivas humanas”.

4. Evaluación del impacto de la desinformación

El Instituto de Ciencias de Tokio, la Universidad de Tokio y la Universidad de Aizu, con su experiencia en ciencias sociales computacionales relacionadas con los medios sociales, desarrollarán tecnología para evaluar el impacto de la desinformación. Mediante la ampliación de los LLM para construir un modelo de IA para la evaluación de la desinformación, las tres partes analizarán las características de la desinformación, como la similitud con desinformaciones anteriores y la velocidad de proliferación, centrándose en la fuente, el contenido y el contexto social de los mensajes a partir de los datos de las redes sociales.

Esto permitirá evaluar parámetros como la escala de proliferación y el impacto social. Este desarrollo de tecnología para visualizar y evaluar cuantitativamente el impacto social de la desinformación representa un esfuerzo muy avanzado.

El profesor Kazutoshi Sasahara, del Instituto de Ciencias de Tokio, explica que “la creciente escala y sofisticación de la desinformación suponen una grave amenaza para nuestra vida cotidiana y nuestra democracia. Dado que la IA hace que la verdad sea cada vez más indistinguible de la falsedad, el desarrollo de tecnologías para evaluar la influencia de la desinformación es una tarea crítica y urgente. Nuestro objetivo es encabezar el desarrollo de herramientas ampliamente accesibles para combatir este creciente desafío”.

Por su parte, Yasuhiro Hashimoto, catedrático asociado de la Universidad Aizu, comenta que “la generación y propagación de la desinformación suponen una grave amenaza para la estabilidad social y la seguridad nacional, y exigen un planteamiento multidisciplinar basado en la informática, la ingeniería y las ciencias sociales, entre otras. Desarrollaremos tecnologías para visualizar las estructuras a gran escala y las complejas relaciones en las que circula la desinformación, y construiremos un entorno en el que la dinámica de la desinformación pueda verse y analizarse rápidamente”.

Planes de futuro

En el año fiscal 2024, el proyecto se centrará en analizar casos de uso para empresas privadas e instituciones públicas, definir los requisitos funcionales e iniciar la I+D de tecnologías individuales, con el desarrollo del sistema final previsto para finales del año fiscal 2025.

Con el desarrollo de esta plataforma, Fujitsu y sus socios del consorcio pretenden contribuir a la estabilidad económica ante el creciente riesgo de desinformación y, con el apoyo de NEDO, ayudar a incrementar el desarrollo de nuevas industrias, la competitividad internacional y reforzar la posición global de Japón.

Noticias » Ocio - Tecnología » Internet » Japón quiere acabar con las ‘fake news’ y pone en marcha una plataforma que identifique la desinformación