top of page

El lado oscuro de la IA: Gigantes de la teconologia se preparan para combatirla durante las elecciones


Imagen alusiva a AI
Imagen alusiva a AI


La creciente preocupación sobre el uso de la Inteligencia Artificial (IA) para influir en las elecciones ha llevado a un grupo de 20 empresas tecnológicas a unirse en un esfuerzo para prevenir el contenido engañoso generado por IA y evitar que interfiera en los procesos electorales a nivel mundial. Esta iniciativa, anunciada en la Conferencia de Seguridad de Múnich, busca garantizar la transparencia y la integridad de las elecciones, especialmente en un año en el que más de la mitad de la población mundial está programada para votar.


Un pacto para combatir el engaño electoral generado por IA

El acuerdo, firmado por compañías como OpenAI, Microsoft, Adobe, Meta Platforms y TikTok, establece compromisos de colaboración para desarrollar herramientas que detecten imágenes, videos y audio generados por IA que puedan ser engañosos. Además, incluye la creación de campañas de concientización pública para educar a los votantes sobre el contenido engañoso y la adopción de medidas para eliminar dicho contenido de sus servicios.

Las tecnologías para identificar el contenido generado por IA o certificar su origen podrían incluir marcas de agua o metadatos incrustados en los archivos. Aunque el acuerdo no especifica un cronograma para cumplir con los compromisos ni cómo cada empresa los implementará, su importancia radica en la amplia participación de las compañías involucradas.

Nick Clegg, presidente de asuntos globales de Meta Platforms, destaca la importancia de un compromiso compartido para abordar el problema del contenido engañoso generado por IA de manera interoperable: "Es bueno que las plataformas individuales desarrollen nuevas políticas de detección, procedencia, etiquetado, marcas de agua, etc., pero a menos que haya un compromiso más amplio de hacerlo de manera compartida e interoperable, nos encontraremos con una mezcolanza de diferentes compromisos".


El impacto de la IA generativa en la política

La IA generativa, que puede crear texto, imágenes y videos en cuestión de segundos, ha sido utilizada para influir en la política e incluso persuadir a las personas para que no voten. En enero, se difundió una llamada robótica en New Hampshire que utilizaba una falsa grabación de audio del presidente de Estados Unidos, Joe Biden, instando a los votantes a quedarse en casa durante las elecciones primarias del estado. Este tipo de manipulación genera preocupaciones sobre la influencia que la IA puede tener en los procesos electorales.

Sin embargo, las empresas involucradas en el pacto se centrarán en prevenir los efectos perjudiciales de las imágenes, videos y audio generados por IA, en lugar de enfocarse en herramientas de generación de texto como ChatGPT de OpenAI. Dana Rao, director de confianza de Adobe, explica que existe una conexión emocional más fuerte con el audio, el video y las imágenes, ya que el cerebro está predispuesto a creer en ese tipo de medios.


La importancia de la colaboración y la transparencia

Si bien el pacto es en gran medida simbólico, representa un primer paso hacia una respuesta conjunta de la industria tecnológica frente a los desafíos planteados por el contenido generado por IA en las elecciones. Aunque las empresas no se comprometen a prohibir o eliminar los deepfakes, el acuerdo establece métodos para detectar y etiquetar contenido engañoso generado por IA, y promueve la colaboración y el intercambio de mejores prácticas entre las compañías involucradas.

Es importante destacar que el acuerdo también hace hincapié en la transparencia hacia los usuarios, informándoles sobre las políticas de las empresas respecto al contenido engañoso en las elecciones y educándolos sobre cómo evitar caer en la manipulación generada por IA.


Perspectivas y desafíos futuros

Si bien el pacto es un paso en la dirección correcta, algunos expertos señalan que las medidas acordadas podrían no ser lo suficientemente fuertes. Rachel Orey, directora asociada del Proyecto de Elecciones del Centro Bipartidista, destaca que si bien las empresas tienen un interés en proteger la integridad de las elecciones, el acuerdo es voluntario y su aplicación real debe ser monitoreada.

El contexto político y legal también juega un papel importante en la lucha contra el engaño electoral generado por IA. En Estados Unidos, por ejemplo, aún no existen leyes que regulen específicamente el uso de IA en la política, lo que deja a las empresas tecnológicas la responsabilidad de tomar medidas por sí mismas. Sin embargo, algunos estados están considerando la implementación de regulaciones para limitar el uso de la IA en las elecciones y otras aplicaciones.

En resumen, el pacto firmado por las principales empresas tecnológicas para combatir el engaño electoral generado por IA representa un esfuerzo conjunto para garantizar la transparencia y la integridad de los procesos electorales. Si bien el acuerdo es simbólico y las medidas acordadas podrían ser aún más fuertes, marca el comienzo de una colaboración importante en la industria tecnológica y destaca la importancia de abordar el problema de manera conjunta y transparente.

bottom of page