SOBRE EL AUTOR
EMEEQUIS.– Un presunto audio filtrado de Martí Batres a principios de noviembre de 2023 se tambaleó entre la realidad y la ficción. El jefe de Gobierno afirmaba que se inclinaba a favor de Clara Brugada en la carrera para encabezar la CDMX, por encima del entonces contendiente Omar García Harfuch.
Mientras que algunos medios lo dieron por cierto, otros lo desmintieron tajantemente. ¿Era o no era? La moneda quedó girando en el aire.
Y es que la Inteligencia Artificial (IA) también irrumpió en los cuartos de guerra de los políticos; estas tecnologías ya han demostrado que puede provocar crisis de relaciones públicas.
Porque en el mundo de las campañas, percepción es realidad.
Para despejar un poco las dudas sobre estos acontecimientos, EMEEQUIS consulta a Angie Contreras, tecnóloga y parte del Consejo Asesor de Seguridad de TikTok, quien habla sobre las implicaciones de la IA en la política mexicana moderna.
“Me parece que justo las elecciones en este 2024 para México van a tener el auge de las noticias falsas, generadas justamente con algún sistema de inteligencia artificial generativa”, explica en entrevista.
El audio en cuestión: ¿realidad o fake?
Señala que las fake news ya existían: “La creación de noticias falsas ya existía, al menos desde las últimas dos o tres elecciones, tanto locales como federales que ha tenido México; el tema es que el uso de estas herramientas, de estos programas que tienen como base la Inteligencia Artificial, se está volviendo al alcance de las personas”.
Explica que ya que es más fácil adquirirlos, no requieren conocimientos avanzados de programación o de creación de código.
Sin embargo, detalla que “no debemos de satanizar el uso de la inteligencia artificial generativa, porque tiene sus beneficios, también sus ventajas. El problema es que así como hay algo bueno, pues también la tecnología se utiliza de forma negativa para vulnerar la seguridad, y eso es lo que justamente vamos a enfrentar, prioritariamente”.
EL DEBATE SOBRE LA VOZ DE MARTÍ BATRES
En particular sobre el caso de Batres, la experta explica por qué fue difícil identificar si el audio era falso o no: “Hubo debate entre quienes decían que el audio era justamente falso, creado con algún sistema de inteligencia artificial generativa, y hubo quienes decían que ese audio era verdadero”.
Detalla que la postura de Batres es que el material era falso, para ello se intentó identificar “algún ruido de fondo, las muletillas que suele utilizar él, el tono de voz, ¿no? Que son las primeras características que podríamos utilizar para evaluar si el audio es o no es verdadero.
“Por ejemplo, (se puede identificar si un audio es falso) si identificamos que alguna persona candidata utiliza mucho una palabra (…) sobre todo en México que tenemos zonas en las que hay tonos que voz muy característicos, eso puede utilizarse”.
Sin embargo, explica, existe un problema con el audio de Batres, porque todos los sonidos naturales de un audio real estaban ahí: “Se escuchaba todo, había las muletillas, había el tono de voz, no se escuchaba ese ruido de máquina, no se escuchaba tan robotizado”.
Batres negó rotundamente el audio y lo atribuyó a la Inteligencia Artificial.
Para ella, depende mucho de cómo se eduquen estos sistemas de aprendizaje: “Tienen que alimentarse con audios de esta persona y pues son políticos sobre todo que están en la vida pública política, ¿cuántos audios no hay de estas personas?”
Los verificadores desde los diferentes niveles de participación política “van a trabajar para identificar también estos audios”. Esto incluye al Instituto Nacional Electoral: “A nivel nacional, el tribunal (Electoral del Poder Judicial de la Federación), ¿están listos para esto que se viene?”
La tecnología, para bien o para mal, está al alcance de todos: Angie Contreras.
¿QUÉ PASARÁ EN LOS WAR ROOMS?
Contreras adelanta que los equipos de campaña de las personas candidatas “ya están generando también un área específica en el tema de seguridad digital, de respuesta, para identificar, porque va a ser necesario el tema”.
En cuanto al tema de si los war rooms generarán algún tipo de área para generar noticias falsas con IA, la experta advierte que hay que hablar de “la creencia de que una forma de hacer política es generando violencia”, en especial violencia de género.
“Si los partidos políticos no se comprometen realmente a no utilizar técnicas o tácticas de violencia y desinformación como forma de hacer política y campaña, entonces no podemos implementar la cantidad de regulaciones, de normas, de tratados de campaña, lo que tú quieras”.
Video con Inteligencia Artificial presentado por Xóchitl Gálvez.
LOS LÍMITES DE LA LEY
Contreras no está de acuerdo en “castigar con cárcel, buscar que se sancione penalmente cualquier cosa que tenga que ver con lo digital; me parece un error”, en relación a la propuesta del diputado Miguel Torruco (Morena), quien puso sobre la mesa reformar el artículo 211 del Código Penal para castigar el uso de IA en ciertos contextos.
“El sistema de justicia mexicano está rebasado, no está actualizado (…) no logra sancionar, no logra abrir una carpeta de investigación decente, y no logra llevar a una sentencia casos de contenido, por ejemplo, de abuso, contenido de abuso sexual infantil en imágenes, o contenido, por ejemplo, íntimo no autorizado”.
Los tres candidatos: las campañas arrancan el 1 de marzo, pero llevan tiempo intercambiando en redes.
Usa como ejemplo el caso del estudiante del Instituto Politécnico Nacional que guardaba una base de datos con fotos de sus compañeras, modificadas con inteligencia artificial para volverlas contenido pornográfico.
“Me parece que pensar que todo se debe reducir a sanciones penales, quita justamente la discusión sobre para qué estamos utilizando justamente la tecnología”.
Contreras promueve mejor la actualización de los códigos penales ya vigentes: “Tendríamos que revisar la redacción a nivel federal y a nivel local” para que empaten con los retos que presenta la tecnología.
De acuerdo con el calendario electoral del INE, las precampañas iniciaron el 20 de noviembre de 2023 y concluirán el 18 de enero de 2024, mientras que las campañas arrancarán el 1 de marzo y concluirán el 29 de mayo, vendrá un periodo de veda y luego la jornada electoral del 2 de junio de 2024.
Las campañas electorales están encabezadas, tanto en las encuestas como en los procesos internos, por Claudia Sheinbaum Pardo, de Morena, y Xóchitl Gálvez, del Frente Amplio por México, pero recientemente se sumó Jorge Álvarez Máynez, de Movimiento Ciudadano. Las aspirantes han utilizado ya la inteligencia artificial para crear contenido para sus redes sociales.
@Ciudadelblues
Powered by Froala Editor
