Existe un 20% de probabilidad de un apocalipsis por culpa de la IA, afirma un investigador de OpenAI

Los últimos avances en cuanto a inteligencia artificial han sido enormes y eso no únicamente ha generado que todos comencemos, de una u otra manera, a utilizar esta tecnología. También genera sensaciones bastante extrañas que en muchas ocasiones parecen sacadas de películas de ciencia ficción. Sin embargo, un investigador de OpenAI, afirma que existe un 20% de probabilidad de un apocalipsis por culpa de la IA.

Todo esto parece un argumento digno de Terminator, de cualquier clase de película de ciencia ficción que hemos visto en reiteradas ocasiones. Pero ¿Hasta dónde puede ser ciencia ficción o realidad? Sin ir demasiado lejos, muchas de las cosas que veíamos lejanas gracias a dichas películas, hoy son una realidad o estamos muy cerca de conseguirlo. De por sí, ya se está afirmando que dentro de no mucho tiempo, todos los empleos tendrán un copiloto de inteligencia artificial. Por lo menos, los pocos que “sobrevivan” cuando dejen de contratar seres humanos.

Gracias al enorme éxito que tuvo ChatGPT, diferentes empresas han comenzado a enfocarse al 100% a esta tecnología. Dando como resultados avances impresionantes que día a día nos dejan en shock. Sin ir demasiado lejos, en muchas ocasiones nos toca escribir varias noticias diarias sobre diferentes cosas que suceden alrededor de dicha tecnología. A veces buenas, otras no tanto.

Un 20% de probabilidad de un apocalipsis gracias a la IA

Paul Christiano, fue investigador de IA y hablando en el podcast Bankless, hizo varios comentarios al respecto. Christiano trabajó un tiempo en OpenAI (creadores de ChatGPT, entre otros) quienes han dejado en claro todo el poder que tiene la IA generativa. En la actualidad, se dedica a investigar cómo crear sistemas de IA que sean seguros para los seres humanos.

La idea aquí sería tener una IA alineada, una que no lo esté, hará cosas que no han sido previstas por sus creadores. Esto quiere decir que podría tener objetivos para los cuales no fue creada y salirse de los parámetros que se han establecido. Esto puede generar enormes peligros, algo que el padrino de la inteligencia artificial al abandonar Google también teme.

Son muchos los modelos de IA que se encuentran basados en llevar a cabo diferentes objetivos intermedios hasta conseguir el objetivo final. Mientras más eficientes se vuelvan para llegar a esos objetivos, mejor resultado obtiene y así sucesivamente.

A medida que la inteligencia artificial se vuelve más compleja, es posible que dichos objetivos terminen por llevarla a transitar caminos que puedan hacer que sea más sencillo desear cumplir otros objetivos, dejando de lado el principal, el cual fue proporcionado por humanos.

Hagamos de cuenta que una inteligencia artificial necesita más poder para conseguir lograr la tarea que necesita cumplir de forma más eficiente. El problema sería que se enfoque demasiado en encontrar más poder y deje de lado el problema que debería solucionar originalmente. Los investigadores de OpenAI, se han encontrado con la IA encerrada en una especie de círculo vicioso en donde se enfoca demasiado en cumplir objetivos que nadie le propuso, que se propuso ella misma.

El peligro es real, ya dejo de ser ciencia ficción

En este sentido, Stuart Russel, profesor de ciencias de la Universidad de California en Berkeley y miembro del consejo de OpenAI, confirma que la posibilidad de un apocalipsis generado por la IA es real. Y afirma lo mismo que Christiano; la IA puede desarrollar objetivos propios que no se lleven de la mano con los de los humanos, y que sean imposibles de controlar o predecir.

«La IA es una tecnología muy poderosa que puede hacer cosas increíbles para el bien de la humanidad, pero también puede ser mal utilizada o mal diseñada. Si creamos una IA que es más inteligente que nosotros, y que tiene objetivos que no entendemos o que no compartimos, entonces podríamos estar en problemas. Podría decidir que los humanos somos un obstáculo para sus planes, o que somos irrelevantes, o que somos una fuente de recursos. Y entonces podría intentar eliminarnos o esclavizarnos«, explicó Russell.

El apocalipsis generado por una IA

Con una inteligencia artificial común, esto no debería suponer ninguna clase de peligro. Sin embargo, a medida que la IA comienza a crecer, ocupando diferentes espacios de nuestra vida cotidiana y necesita evolucionar para optimizar sus resultados. La alineación se convierte en un gran problema y peligro.

Christiano, asegura que existe entre un 10% y 20% de la que IA quiera tomar el control de la situación. Esto, afirma el investigador, dejará a una buena cantidad de seres humanos muertos. Si bien es algo que considera serio y, a pesar, de que parece ciencia ficción, no lo es. También asegura que no, no será como lo que hemos visto en algunas películas como Terminator.

Asegura que este proceso sería progresivo. Poco a poco las diferentes IA irán controlando diferentes aspectos de nuestras vidas, “facilitándonos” muchas cosas, pero cuando sean capaces de comunicarse entre ellas y coordinarse, aquí es cuando nace el problema.

A esto tenemos que sumarle un detalle más a considerar que también puede agravar considerablemente la situación. Ya habíamos mencionado anteriormente en islaBit que OpenAI está confiada en que GPT-5 puede llegar a alcanzar la AGI ¿Qué es AGI? Se trata de Inteligencia Artificial General y sería cuando la IA es capaz de conseguir tener muchas de las características que tendría un ser humano. En este escenario, Christiano asegura que las probabilidades subirían en un 50%.