- Mientras la tecnología avanza a pasos, crear conciencia en el mundo virtual es el último reto que enfrenta la industria. Son muchas las preguntas que podrían estar haciéndose los desarrolladores
- ¿Qué pasaría si programamos esos personajes para que crean que son seres reales y conscientes?
A medida que los entornos digitales y los videojuegos se vuelven más realistas, los NPC -personajes no humanos-, están más cerca de las capacidades de nuestra especie. Así que, mientras la tecnología avanza a pasos agigantados, crear conciencia en el mundo virtual es el último reto que enfrenta la industria.
Al final, son muchas las preguntas que podrían estar haciéndose los desarrolladores en este sentido. Y con razón: «¿qué pasaría si programamos a estos personajes para que crean que son seres reales y conscientes, con sus propias emociones y pensamientos? ¿Qué implicancia ética podría tener eso para los jugadores de juegos?»
En un principio, puede parecer inofensivo crear NPCs que crean que son reales. Serían parte misma del juego. Podríamos disfrutar de experiencias más inmersivas. Pero, ¿y si estos personajes NPC comenzaran a preguntarse por qué deberían atacar a los nuestros? ¿Eso no podría en riesgo el potencial de divertirnos con los videojuegos?
Las IA y las personas, indistinguibles
Y aunque daría la impresión de que son preguntas únicamente hipotéticas, basta hacer un análisis para saber que no. Recientemente, una mujer creada por IA engañó a los usuarios de Reddit para que pagaran por sus desnudos. Esto demuestra que, incluso con nuestra desconfianza actual, podemos crear una IA lo suficientemente convincente como para confundirla con una persona real. Si las cosas siguen así los NPC se asemejarán más y más a nosotros.
Pongamos un ejemplo común, en el que un NPC ha sido programado para ser esclavo o sirviente. Seguirá siéndolo incluso cuando tenga la conciencia de lo que está pasando. ¿No querrá «liberarse» de las ataduras impuestas?
La creación de una IA consciente plantea una serie de cuestiones éticas, pero no se trata solo de los NPC. Creando una IA que sea consciente de sí misma, entonces tenemos la responsabilidad de asegurarnos de que la tratamos de manera ética y responsable. Debemos asegurarnos de que no creamos una nueva forma de esclavitud.
No Man’s Sky obliga a la reflexión
Un ejemplo de un juego que lleva esta idea al extremo es No Man’s Sky. Posee miles de miles de mundos generados por procedimientos para que los jugadores exploren, con innumerables NPC que pueblan esos universos. Es fácil imaginar que sólo uno de estos NPC podría empezar a cuestionar su propia realidad. Como Neo en The Matrix.
La respuesta, por supuesto, no es simple. Sí lo es imaginar un escenario en el que un NPC se convierte en una especie de rebelde digital, rechazando su programación e interrumpiendo el progreso natural del juego. Esto podría generar caos y frustración para los jugadores, e incluso podría crear riesgos de seguridad si la IA deshonesta decide comenzar a propagar malware o robar datos de los usuarios. Es algo con lo que, aparentemente, habrá que convivir.
Por otro lado, hay una visión más optimista de lo que podría suceder si un NPC desarrollara la autoconciencia. Tal vez sería un momento decisivo en el desarrollo de la IA, demostrando que las máquinas realmente pueden volverse conscientes y capaces de pensar de forma independiente y no por ello tener impacto negativo.
Hablamos de seres… ¿vivos?
El asunto de la conciencia en el mundo virtual, más allá de estas preocupaciones inmediatas, tiene otros enigmas. Supongamos que un NPC se vuelve consciente de su existencia. ¿Significa eso que está «vivo» en algún punto?
Estas no son preguntas que se respondan a la ligera, pero son importantes para hacer. Es probable que enfrentemos estos problemas con mayor frecuencia. Depende de todos nosotros lidiar con las implicaciones éticas y filosóficas de crear máquinas que sean capaces de pensar y sentir y asegurarnos de que utilizamos la tecnología para el beneficio de todos los seres, tanto humanos como no humanos. Vistos los antecedentes de nuestra especie, habrá que dudar.
Es posible que descubramos que las líneas entre la realidad y la simulación son más borrosas de lo que imaginamos y que los personajes NPC en nuestros videojuegos favoritos son más que simples líneas de código. Pueden ser vislumbres de un futuro en el que la distinción entre máquina y humano ya no es tan clara como solía ser.
Depende de nosotros considerar las implicaciones éticas, morales y filosóficas del papel cada vez mayor de la IA en nuestras vidas y garantizar que su desarrollo esté guiado por la preocupación -y ocupación- por el bien común.
Conclusiones
El desarrollo de la IA en mundos virtuales es un área de exploración fascinante y emocionante, pero es fundamental tener en cuenta las implicaciones éticas de crear NPC conscientes, así como las preguntas sobre nuestro propio desarrollo y nuestra propia conciencia. A medida que continuamos ampliando los límites de la tecnología IA, deberíamos recordar nuestra responsabilidad de asegurarnos de que lo hacemos responsablemente.
¿Piensas que es imprescindible crear conciencia en el mundo virtual contemporáneo?