Uno de los grandes problemas que tenemos actualmente con la IA es que no hay nadie ni nada que controle qué información y datos comparte. Aunque podemos intuir que sus respuestas no son del todo acertadas, en realidad depende de cuánto sepamos del tema. Por eso, si has leído o escuchado sobre NeMo Guardrails y te interesa, aprovechamos a contarte cómo funciona esta exclusiva «Policía de Inteligencia Artificial» creada por NVIDIA.
En efecto, hace aproximadamente un año NVIDIA emitió un comunicado oficial en el que comunicaba este producto llamado NeMo Guardrails, el cual tiene la capacidad de obligar a las IA como GPT de OpenAI o LaMDA de Google a proporcionar a los usuarios respuestas coherentes, componiéndolas y evitando caer en las respuestas tóxicas. Para muchos profesionales, eso significará el adiós al divague de algunas de las contestaciones que ofrecen las IA.
Es decir, gracias a NeMo Guardrails las respuestas que brindan a nuestras preguntas deben ser absolutamente superadoras. Eso impediría su tendencia a crear mensajes inútiles, incoherentes y en ciertos casos riesgosos.
¿No estás al tanto de esos riesgos? Mejor lee acerca de algunos de los peligros de la Inteligencia Artificial.
¿Cómo funciona NeMo Guardrails 👮, de NVIDIA?
NeMo Guardrails es una capa de software que se ubica entre los usuarios y los sistemas de Inteligencia Artificial, sumando capas de filtrado a los resultados que consideras maliciosos o errados. Está allí para impedir que la IA aborde temáticas que van más allá de su comprensión. En otras palabras, media entre nosotros y la respuesta.
Por ejemplo, NeMo Guardrails limitará un chatbot de servicio al cliente si se le hacen preguntas vinculadas directamente con el personal interno. De responderlas, eso podría dejar expuestos a sus empleados. Evidentemente esto debe trabajarse en cada organización de una forma única, pero así es como funciona. Afortunadamente, NVIDIA ha decidido que NeMo Guardrails sea de código abierto, al menos en esta instancia.
Puedes descargar NeMo Guardrails desde el repositorio en GitHub que han publicado especialmente con estos fines.
Probablemente te sorprenderá pero, ¿sabías que NVIDIA es quien más dinero gana con la Inteligencia Artificial?
¿Qué dice NVIDIA al respecto su «Policía de Inteligencia Artificial»?
NVIDIA incorpora NeMo Guardrails en el marco de NVIDIA NeMo, que a su vez incluye todo lo que los usuarios necesitan para entrenar y ajustar modelos de lenguaje utilizando datos patentados dentro de una empresa. Recordemos que prácticamente todo el marco NeMo está publicado como código fuente en GitHub.
Por otro lado, las compañías pueden obtenerlo como un paquete de la plataforma de software NVIDIA AI Enterprise. NeMo funciona como servicio, ya que está contemplando en la NVIDIA AI Foundations, dedicada a desarrollar soluciones en la nube para empresarios que pretendan crear y ejecutar IA generativa personalizada.
Un esfuerzo comunitario y continuo
Más allá de lo mucho que se ha avanzado, no quedan dudas de que construir barreras de seguridad para la IA generativa es un problema difícil y que requerirá de investigación continua a medida que la IA evolucione.
NVIDIA NeMo Guardrails no es un producto reciente, sino que han estado esforzándose en él durante varios años. Como creen que el esfuerzo no debe ser propio sino comunitario, han contribuido a la industria al liberar el código abierto correspondiente a NeMo Guardrails. Veremos de qué manera pueden sacar provecho de él las empresas.
De cualquier modo, lo que queda en claro es que la seguridad y la privacidad en torno a la Inteligencia Artificial preocupan realmente a los empresarios y las compañías, por lo que las plataformas de software como ésta posiblemente se multiplicarán en el corto plazo. Y eso sólo puede ser una buena noticia para nosotros.