En agosto de 2023 se llevará a cabo la conferencia de seguridad Defcon, en donde miles de hackers llevarán adelante un ejercicio para poner a prueba la seguridad de los chatbots de IA con un ataque masivo. La Casa Blanca, anunció que va a apoyar este ejercicio en dicho evento que tendrá lugar en Las Vegas y en el que participaran empresas de renombre como Microsoft, Google y OpenAI.
La Casa Blanca emitió un comunicado en donde explican que este ejercicio será clave para brindar información a los investigadores sobre el nivel de seguridad que tienen estos modelos. Adicionalmente, también sirve para que las mismas desarrolladoras puedan mejorar el nivel de seguridad de sus herramientas para evitar situaciones complicadas en el futuro.
Este anuncio aparece poco después de que se llevará a cabo una importante reunión en la Casa Blanca, entre el presidente de EE. UU. Joe Biden con Google, Microsoft y OpenAI para hablar de esta tecnología. Participar en el evento no era una de las opciones más factibles. Sin embargo, la posibilidad se encontraba en la mesa y finalmente se sucedió.
Se trata de un evento de suma importancia, en donde miles de hackers podrán aprovechar para intentar exponer diferentes puntos débiles de esta tecnología que está revolucionando el mundo entero. Aunque ya sabemos que la inteligencia artificial de código abierto puede ganar esta carrera frenética.
Llega el momento de poner a prueba a la inteligencia artificial
Sven Cattell, una de las personas que organiza Defcon, comentó a Forbes que esta clase de ejercicios se tienen que llevar a cabo, es una obligación para la industria de la IA y deben hacerlo por el bien de todos.
Recordemos que la IA generativa se encuentra pasando por un momento que tiene cosas buenas y malas. Desde la Unión Europea bloqueando ChatGPT por no respetar la privacidad de sus usuarios, la industria de la música en contra y el enorme miedo de muchas personas de perder su empleo. También nos encontramos con diferentes historias de personas que han sabido sacarle mucho provecho.
Sin embargo, existe un miedo totalmente justificable de que esta tecnología puede servir para los actores malintencionados, se puede utilizar de maneras para la cual no fue ideada y engañar para hacer lo que deseamos, ya sea bueno o malo. Debido a estos motivos y varios más, se llegó a la decisión de llevar a cabo este ataque masivo a los chatbots de IA en un evento controlado.
Los organizadores del evento esperan exponer problemas importantes de seguridad y protección de dichas inteligencias artificiales. Pero también desean que los hackers logren ayudar a marcar el camino que estos grandes desarrollos deben seguir para mejorar la seguridad en términos generales.
Una enorme inversión por parte del gobierno de EE.UU.
Pero él anunció relacionado con la Defcon no es lo único que sorprende. Resulta que la Casa Blanca va a invertir 140 millones de dólares para crear siete Institutos Nacionales de Investigación de la IA. Enfocados en la creación de una inteligencia artificial ética y que sirva para el bien público, comentó el gobierno.
La situación con la inteligencia artificial es algo que involucra a todos. Los diferentes gobiernos alrededor del mundo están implementando medidas para controlar estos desarrollos. La Unión Europea está llevando a cabo una ley de IA. Desde China, anunciaron que se está llevando a cabo una nueva normativa sobre la inteligencia artificial y así podríamos seguir todo el día.