Según Platformer, los despidos recientes de Microsoft incluyó a todo su equipo de ética y sociedad dentro de la organización de inteligencia artificial. “La medida deja a Microsoft sin un equipo dedicado para garantizar que sus principios de IA estén estrechamente vinculados al diseño de productos en un momento en que la empresa está liderando la tarea de hacer que las herramientas de IA estén disponibles para la corriente principal, dijeron los empleados actuales y anteriores”. Del informe: Microsoft aún mantiene una activa Oficina de IA Responsable, que tiene la tarea de crear reglas y principios para regir las iniciativas de IA de la empresa. La compañía dice que su inversión general en trabajo de responsabilidad está aumentando a pesar de la despidos recientes.
Pero los empleados dijeron que el equipo de ética y sociedad desempeñó un papel fundamental para garantizar que los principios de inteligencia artificial responsable de la empresa se reflejen realmente en el diseño de los productos que se envían. “La gente miraría los principios que surgen de la oficina de IA responsable y diría: ‘No sé cómo se aplica esto'”, dice un ex empleado. “Nuestro trabajo era mostrarlos y crear reglas en áreas donde no las había”.
En los últimos años, el equipo diseñó un juego de rol llamado Judgment Call que ayudó a los diseñadores a visualizar los daños potenciales que podrían resultar de la IA y discutirlos durante el desarrollo del producto. Era parte de un “conjunto de herramientas de innovación responsable” más grande que el equipo publicó públicamente. Más recientemente, el equipo ha estado trabajando para identificar los riesgos que plantea la adopción de la tecnología de OpenAI por parte de Microsoft en toda su gama de productos. El equipo de ética y sociedad alcanzó su mayor tamaño en 2020, cuando contaba con aproximadamente 30 empleados, incluidos ingenieros, diseñadores y filósofos. En octubre, el equipo se redujo a aproximadamente siete personas como parte de una reorganización. “Microsoft se compromete a desarrollar productos y experiencias de IA de manera segura y responsable, y lo hace invirtiendo en personas, procesos y asociaciones que priorizan esto”, dijo la compañía en un comunicado. “Durante los últimos seis años, hemos aumentado la cantidad de personas en nuestros equipos de productos y dentro de la Oficina de IA responsable que, junto con todos nosotros en Microsoft, son responsables de garantizar que pongamos en práctica nuestros principios de IA. […] Agradecemos el trabajo pionero que realizó el equipo de ética y sociedad para ayudarnos en nuestro viaje continuo de IA responsable”.