- Snapchat incorpora filtro de edad y herramientas de control parental para mejorar la seguridad de su chatbot de IA.
- My AI, el chatbot de Snapchat, utiliza historial de conversaciones para proporcionar respuestas apropiadas para la edad de los usuarios.
- Snap implementa tecnología de moderación de OpenAI para restringir temporalmente el acceso de los usuarios que hagan mal uso de su chatbot.
Snapchat ha introducido nuevas medidas de seguridad para su chatbot de IA, después de que se informara de respuestas inseguras e inapropiadas del bot en el Washington Post. La empresa ha lanzado un filtro de edad que proporciona respuestas apropiadas para la edad de los usuarios y ha anunciado planes para compartir información con los padres a través de su Family Center.
Snap también ha explicado que el bot «My AI» no es un «amigo real» y que utiliza el historial de conversaciones para mejorar las respuestas. Además, la empresa ha añadido la tecnología de moderación de OpenAI a su conjunto de herramientas existentes para limitar el uso indebido de My AI.
Filtro de edad para proporcionar respuestas apropiadas
El nuevo filtro de edad incorporado en el chatbot de IA de Snapchat permite a la inteligencia artificial conocer la fecha de nacimiento de los usuarios y proporcionar respuestas apropiadas para su edad.
Snap ha asegurado que el chatbot «tomará en cuenta constantemente su edad» mientras conversa con los usuarios. Esta medida busca mejorar la seguridad y proteger a los jóvenes de interacciones inapropiadas.
Además, en las próximas semanas, Snap planea brindar más información a los padres o tutores sobre las interacciones de los niños con el chatbot en su Family Center, que se lanzó en agosto de 2022.
La nueva característica compartirá si los adolescentes se comunican con la IA y la frecuencia de esas interacciones. Tanto el tutor como los adolescentes deben optar por usar Family Center para usar estas funciones de control parental. De esta manera, los padres pueden tener una visión más clara de la actividad en línea de sus hijos y tomar medidas preventivas.
Limitando el mal uso del servicio con la tecnología de moderación de OpenAI
La tecnología de moderación de OpenAI se ha incorporado al conjunto de herramientas existentes de Snapchat para limitar el uso indebido de My AI. Si un usuario está haciendo un mal uso del servicio, la empresa bloqueará temporalmente el acceso de bots de IA. Esto se hace para asegurar la seguridad y privacidad de los usuarios de Snapchat, especialmente en lo que se refiere a la exposición a contenido dañino.
Y es que, con la rápida proliferación de herramientas impulsadas por IA, muchas personas están preocupadas por su seguridad y privacidad. La semana pasada, un grupo de ética llamado Centro de Inteligencia Artificial y Política Digital le escribió a la FTC instando a la agencia a detener el lanzamiento de la tecnología GPT-4 de OpenAI, acusando a la nueva tecnología de ser «parcial, engañosa y un riesgo para la privacidad y seguridad pública«.
Los expertos en tecnología instan a las empresas a asegurarse de que haya suficientes medidas de protección en torno a las herramientas de chatbot para evitar que se vuelvan deshonestas y proteger a los usuarios de la exposición a contenido dañino.