La inteligencia artificial (IA) ha dejado de ser una mera fantasía de la ciencia ficción para convertirse en una presencia tangible en nuestra vida cotidiana. Pero su avance vertiginoso está suscitado preocupaciones sobre un posible futuro donde el control total y la vigilancia sean lo normal, evocando escenarios distópicos como los presentados en «1984» de George Orwell o la serie «Black Mirror».
Una pieza fundamental que ha contribuido a ese escenario de control total ha sido la IA generativa. Algunas consecuencias de que las IA generativas están contribuyendo a ese escenario de control total, se están viendo en las herramientas disponibles para la vigilancia, la manipulación y la censura de información, ayudándose de su capacidad para crear textos, imágenes, vídeos e incluso simulaciones realistas.
La vigilancia tecnológica
En «1984», Orwell describe en su novela una sociedad donde el «Gran Hermano» supervisa cada movimiento de los ciudadanos, eliminando cualquier atisbo de privacidad. Hoy, la realidad no parece tan lejana. La proliferación de dispositivos conectados y sistemas de reconocimiento facial ha facilitado una vigilancia sin precedentes. Por ejemplo, en algunas ciudades, las cámaras equipadas con IA pueden identificar a individuos en tiempo real, rastreando sus desplazamientos y actividades. Esta capacidad tecnológica, aunque útil para la seguridad, plantea serias dudas sobre la erosión de las libertades individuales y la privacidad.
También, la serie «Black Mirror» mostró estas preocupaciones en episodios como el de «Cuelga al DJ», donde una IA controla las relaciones personales de las personas, determinando con quién deben estar y por cuánto tiempo. Aunque este es un ejemplo ficticio, muestra el aumento de dependencia de los algoritmos para decisiones íntimas y personales, lo que podría conducir a una sociedad donde las máquinas dictan los aspectos fundamentales de nuestras vidas.
La IA sin reglas
Y los países lo saben y ya están invirtiendo colosales sumas de dinero en el desarrollo de tecnologías de IA, como Estados Unidos, China y Francia, con la intención de obtener ventajas estratégicas y económicas. Esta rivalidad está haciendo que aparezcan tensiones internacionales, donde cada nación intenta superar a la otra en innovación tecnológica, sin todavía existir una clara regulación que establezca los límites éticos o de seguridad.
Recientemente, la Unión Europea anunció una inversión de 200000 millones de euros para promover una IA regulada y más humana. No obstante, Estados Unidos y el Reino Unido se negaron a firmar una declaración conjunta que apoyaba una tecnología abierta, regulada, inclusiva, segura y democrática. Estos desacuerdos indican la complejidad de alcanzar un consenso global sobre la regulación de la IA, lo que podría desencadenar a una «Guerra Fría digital» donde las naciones compiten ferozmente por la supremacía tecnológica.
La venta de IA al mejor postor
Al mismo tiempo, las empresas tecnológicas, al percatarse de los intereses internacionales y con su afán de expandirse en otros mercados, se están aprovechando de ello vendido sistemas avanzados de vigilancia y control a regímenes autoritarios, facilitando prácticas de represión y monitoreo masivo.
Un caso reciente es la venta de drones equipados con IA para operaciones militares. Estos drones, inicialmente desarrollados para aplicaciones civiles, han sido adaptados para fines bélicos y vendidos a países en conflicto. La falta de claras regulaciones internacionales permite que estas ventas se realicen con relativa impunidad, poniendo en riesgo la estabilidad global y los derechos humanos.
Pero no todas las empresas privadas aprovechan la IA generativa de la misma manera. Por ejemplo, en la actualidad, los antivirus van más allá de la simple detección de malware. Ahora incluyen herramientas avanzadas impulsadas por IA para identificar amenazas generadas automáticamente. Algunos pueden detectar sospechosos patrones en archivos, correos electrónicos y páginas web que podrían estar utilizando deepfakes o mensajes manipulados para engañar a las personas. Por eso, un antivirus, como puede ser Panda Security, se ha vuelto imprescindible para evitar ser víctima de campañas de desinformación o ataques dirigidos con IA.
Además, muchas soluciones de ciberseguridad han integrado análisis de comportamiento y protección en tiempo real contra contenido falso o engañoso. Algunas incluso pueden alertar al usuario si una imagen ha sido modificada con IA o si un enlace lleva a un sitio diseñado para suplantación de identidad.
Necesidad de una regulación internacional
Como ya te habrás dado cuenta, sin una adecuada regulación corremos el riesgo de adentrarnos en un futuro donde la tecnología se utilice para el control total, la vigilancia masiva y la manipulación de la información.
La experta economista Mariana Mazzucato defiende un papel más activo de los Estados en la generación de riqueza y la orientación de la actividad económica, pero incluyendo la regulación de la IA. Esto conlleva incentivar y regular al sector privado para alinearlo con objetivos democráticamente establecidos y hacer que la inversión pública en tecnología beneficie al bien común. Lamentablemente, la realidad actual no es así.
Por último, es preciso que las empresas tecnológicas asuman la responsabilidad de las aplicaciones de sus innovaciones. La colaboración entre gobiernos, sector privado y sociedad civil es necesaria para crear un entorno donde la IA se desarrolle éticamente, respetando los derechos fundamentales y evitando escenarios distópicos que, aunque parezcan sacados de la ficción, podrían convertirse en nuestra realidad si no actuamos con precaución.