En los últimos años, los sistemas de IA y ML avanzaron de forma considerable durante los últimos años. Hemos visto cosas considerablemente llamativas como el simple hecho de modelar estructuras de proteínas basándose únicamente en la secuencia de aminoácidos de la molécula. Hasta crear poesía y texto a la par de escritores humanos. Pero si todo va tan bien ¿Qué está ocurriendo en Google AI? ¿Por qué ocurrieron los despidos de Gebru y Mitchell?
Por más que estas hazañas de destreza de inteligencia artificial nos dejen sorprendidos. El campo sigue luchando con una serie de cuestiones éticas y morales. Tengamos en cuenta que un sistema de reconocimiento facial diseñado para reconocer terroristas. También se puede usar para monitorear marchas pacíficas o reprimir a minorías étnicas.
El desarrollo de la inteligencia artificial
Otra cosa que tenemos que tener en cuenta. Es que el desarrollo de la IA y ML en realidad se concentra demasiado en muy pocas empresas: IBM, Google, Amazon y Facebook. Más que nada porque son las únicas que tienen el dinero suficiente para poder invertir en esto.
Sin embargo, debemos ser realistas y darnos cuenta de que dichas empresas no se encuentran invirtiendo tanto dinero por bondad ni avance tecnológico. Ciertamente se está haciendo para crear y vender productos deseables, que generen dinero.
En 2017 fue creado un equipo de ética para monitorear diferentes proyectos de Google IA. De esta forma el equipo debería asegurarse de que los avances sean utilizados para mejorar la sociedad, no únicamente para aumentar las ganancias.
Dicho equipo fue codirigido por Timnit Gebru, investigador líder sobre las discrepancias raciales en los sistemas de reconocimiento fácil. Una de las pocas mujeres negras que se encuentran trabajando en el campo de la IA. Por otro lado, encontrábamos a Margaret Mitchell, una científica informática que se especializa en el estudio de sesgo algorítmico.
Las dos hicieron grandes esfuerzos para aumentar la diversidad en un campo complicado, en donde la gran mayoría de personas son blancas y masculinas. El grupo presentaba estudios innovadores bastante poco tradicionales que desafiaban las opiniones sobre la investigación de la IA.
Los despidos de Gebru y Mitchell
En varias ocasiones expresaron su preocupación de que Google podía estar censurando cierta investigación crítica. Especialmente en algunos programas de inteligencia artificial que le salen demasiado rentable a la empresa. Y quizás los despidos de Gebru y Mitchell durante los últimos meses, no sea una simple coincidencia.
El despido de Gebru ocurrió en diciembre. Después de ser coautora de un artículo bastante extenso en donde se critica a los diferentes sistemas de inteligencia artificial. Argumentaron que los sistemas de inteligencia artificial son el modelo de lenguaje de billones de parámetros de Google. Que se encuentra diseñados para imitar el lenguaje y que podrían dañar a los grupos minoritarios.
Gebru afirma que el despido vino después de que cuestionara una directiva del jefe de IA de Google, Jeff Dean. Este quería retirar el documento de la Conferencia ACM sobre Equidad, Responsabilidad y Transparencia (ACM FAccT).
Por su parte, Dean respondió: “el periódico no cumplió con nuestro estándar de publicación”. Incluso que Gebru amenazo a Google con renunciar a menos que cumplirá su lista de condiciones específicas. Algo que evidentemente la compañía no llevo a cabo.
Gebru hizo una publicación en Twitter en donde comenta lo siguiente. “Al parecer, el gerente de mi gerente envió un correo electrónico a mis subordinados directos diciendo que aceptaba mi renuncia. No había renunciado, primero había pedido condiciones simples y dije que respondería cuando regresara de vacaciones. Pero supongo que ella decidió por mí 🙂 ese es el abogado que habla.”
A lo que añadió: “Dije que aquí están las condiciones. Si puedes aceptarlas genial, quitaré mi nombre de este periódico, si no, puedo trabajar en una última cita. Luego envió un correo electrónico a mis subordinados directos diciendo que había aceptado mi renuncia. Así que eso es Google para ustedes, amigos. Lo vio suceder aquí mismo.”
Tormenta de críticas a Google
La forma en que se manejó el despido de Gebru por parte de Dean. Fue algo que desato una tormenta de críticas dentro de la misma empresa, incluso fuera de la misma. Fueron más de 1.400 empleados de Google y otros 1.900 partidarios los que firmaron una carta de protesta. Mientras que muchas personas muy importantes dentro del campo de la IA expresaron su indignación en internet.
Evidentemente comenzaron a llegar los cuestionamientos sobre si realmente la empresa se encuentra comprometida con la diversidad dentro de sus filas. Incluso se preguntaron para qué Google decide emplear a especialistas en ética si ni siquiera tienen la libertad de desafiar las decisiones de la compañía.
Mitchell también publico una carta de apoyo a Gebru que dice lo siguiente: El despido del Dr. Timnit Gebru no está bien, y la forma en que se hizo no está bien. Parece provenir de la misma falta de previsión que es el núcleo de la tecnología moderna. Por lo que en sí misma sirve como ejemplo del problema. El despido parece haber sido impulsado por los mismos fundamentos de racismo y sexismo que nuestros sistemas de inteligencia artificial. Cuando están en las manos equivocadas, tienden a absorber.
La forma en que el Dra. Gebru fue despedido no está bien, lo que se dijo al respecto no está bien, y el entorno que lo condujo no estaba, y no está bien. Cada momento en el que Jeff Dean y Megan Kacholia no se hacen responsables de sus acciones. Es otro momento en el que la empresa en su conjunto permanece en silencio, como para enviar intencionalmente el horrible mensaje de que el Dr. Gebru merece ser tratado de esta manera. Tratada como si fuera inferior a sus compañeros. Caricaturizado como irracional (y peor). Su escritura de investigación se define públicamente como debajo de la barra. Su beca declaró públicamente que era insuficiente. Para que conste: la Dra. Gebru ha sido tratada de manera completamente inapropiada, con una intensa falta de respeto, y merece una disculpa.
Luego de la extensa crítica de Mitchell a Google. La compañía tomó la decisión de cerrar su cuenta de correo y comenzar una investigación sobre su accionar. La acusan de hacerse con una gran cantidad de documentos internos y compartirlos con personas ajenas a la compañía.
En enero, Google comunico que sus sistemas de seguridad bloquean de manera automática una cuenta corporativa de un empleado cuando se detecta que la misma se encuentra en riesgo de ser comprometida. Incluso cuando se activa una regla automática que involucra el manejo de datos confidenciales.
Axios pudo obtener un memorando interno publicado en febrero por Dean en donde reconoce lo que significo los despidos de Gebru y Mitchell para muchas personas alrededor del mundo. Comparte su visión en donde se preocupa por el uso de la inteligencia artificial por parte de Google. Entiende y comprende que debería haber manejado la situación con más sensibilidad y añade al final que por eso, lo siente mucho.