La inteligencia artificial (IA) está presente en una serie de servicios de back-end, como la personalización, las recomendaciones y las calificaciones, que ayudan a proporcionar una experiencia fluida y personalizable a los usuarios de nuestros productos y servicios. Sin embargo, para los usuarios y el público en general, puede ser difícil entender cómo funciona y por qué se utiliza. Queremos cambiar eso.
En Meta, creemos que es importante proporcionar herramientas y recursos que ayuden a la gente a entender cómo la IA da forma a su experiencia con los productos. Por ello, hemos definido la transparencia y el control como uno de nuestros cinco pilares del uso responsable de la IA. Una forma de hacerlo es poner a disposición del público la documentación de los modelos y sistemas. Hoy presentamos la siguiente etapa de este viaje mediante la publicación del prototipo de una herramienta de tarjeta de sistema de IA [enlace], desarrollada para dar a conocer la arquitectura base de este sistema y explicar más claramente cómo funciona la IA.
Esta tarjeta describe los modelos de un sistema de IA y puede ayudar a comprender mejor cómo el sistema utiliza el historial, las preferencias y la configuración del usuario, entre otros elementos, para funcionar. La tarjeta de sistemas piloto que desarrollamos, y seguimos sometiendo a pruebas, es para la clasificación en el Feed de Instagram, que es un proceso mediante el cual tomamos publicaciones aún no vistas de las cuentas que una persona sigue y las clasificamos según la probabilidad de que a dicha persona le interesen.
Desarrollamos nuevas herramientas para poder explicar mejor en qué consiste la IA
Poder explicar mejor el funcionamiento de la IA constituye un diálogo interdisciplinario que implica a varios sectores. Tanto empresas como autoridades reguladoras e instituciones académicas están probando formas de comunicar mejor cómo opera la IA por medio de diferentes pautas y marcos que puedan ofrecer a una persona común mayor conocimiento sobre este ámbito.
Debido a la complejidad de los sistemas de IA, desarrollar documentación que aborde continuamente la necesidad de transparencia y el deseo de explicaciones más sencillas de las personas resulta importante y es todo un desafío. Como tal, las hojas de datos, las tarjetas de modelos, las tarjetas de sistemas y las hojas informativas están destinadas a diferentes públicos.
Esperamos que tanto expertos como el público en general puedan entender las tarjetas de sistemas y que estas ofrezcan un panorama único y detallado del complejo universo del sistema de IA para la interfaz humana de un modo escalable y repetible para Meta. Hay un delicado equilibrio en proporcionar un marco preciso desde el punto de vista técnico y capaz de captar el matiz del funcionamiento de los sistemas de IA en la escala de Meta y de resultar sencillo para las personas comunes que usan nuestras tecnologías, en especial a medida que continuamos liderando los avances en el campo.
Con el lanzamiento de esta tarjeta del sistema de IA y nuestra investigación en curso, esperamos sentar las bases respecto de qué elementos del sistema de IA deberían formar parte del debate, en qué puntos de intervención y con qué públicos por medio de herramientas externas fácilmente asimilables, y seguir haciendo cambios en consecuencia.
Tarjetas de sistemas como primer paso
Muchos modelos de aprendizaje automático suelen formar parte de un sistema de IA más grande, un grupo de modelos de aprendizaje automático y tecnologías de IA y de otro tipo que trabajan en conjunto para realizar tareas específicas. Dado que estos modelos no siempre arrojan resultados si funcionan de forma aislada y pueden interactuar de manera diferente según los sistemas de los que forman parte, las tarjetas de modelos, un estándar ampliamente aceptado para la documentación de modelos, no ofrecen un panorama completo de lo que hace un sistema de IA. Por ejemplo, si bien nuestros modelos de clasificación de imágenes se diseñaron para predecir lo que muestra una imagen determinada, se pueden utilizar de otro modo en un sistema de integridad que marca contenido dañino, en contraposición a un sistema de recomendaciones que se emplea para mostrar a las personas publicaciones que les podrían interesar.
Tras consultar con expertos externos de los Estados Unidos y otros países, el equipo de IA responsable de Meta decidió analizar las tarjetas de sistemas como enfoque inicial de exploración integral en un sistema de IA, frente a modelos únicos. Los comentarios de las partes con las que consultó el equipo nos ayudaron a reforzar este enfoque, ya que pusieron de manifiesto la importancia de entender cómo los resultados de un modelo se usan en un producto más amplio, o más adelante en otros modelos, así como qué acciones normativas se generan a partir de su uso y qué impacto tienen en los grupos de personas que usan un producto o servicio basado en IA.
Clasificación piloto en el Feed de Instagram
La tarjeta de sistemas del proyecto piloto, que lanzó el equipo de valor de la marca de Instagram, se basa en su anterior introducción de tarjetas de modelos, que se aplicaron a gran escala en el nivel de Meta con el tiempo. Como el factor impulsor inicial de ese flujo de trabajo, los modelos de Instagram proporcionaron un caso bien documentado que nos permitió mostrar con ejemplos cómo funcionan realmente nuestros sistemas y nos condujo al desarrollo de una tarjeta de sistemas de IA con la cual mostrar, y contar, cómo el sistema de clasificación en el feed basado en IA funciona de manera dinámica para ofrecer una experiencia personalizada.
La tarjeta del sistema del proyecto piloto para el Feed de Instagram se basa en nuestro trabajo anterior para crear tarjetas de plantilla, que presentamos a nuestros equipos de Instagram para que la creación de cada nuevo modelo de aprendizaje automático (ML) tuviera en cuenta la equidad. En el blog «Explicando cómo funciona mejor Instagram», publicado en junio del año pasado por Adam Mosseri, hablamos del concepto de inteligencia artificial, y ahora traemos la tarjeta del sistema de IA para mostrar cómo la clasificación de la IA del Feed funciona de forma dinámica para ofrecer una experiencia personalizada.
Limitaciones de las tarjetas de sistemas y pruebas permanentes
Si bien las tarjetas de sistemas permiten explicar cómo funciona un sistema de IA en un formato fácil de entender, también tienen ciertas limitaciones. Aquí detallamos algunas limitaciones que consideramos mientras avanzamos en este trabajo:
Las tarjetas de sistemas no son definitivas porque los sistemas de IA se perfeccionan y evolucionan de forma constante
Los sistemas de IA están diseñados para aprender y modificarse continuamente, lo que conlleva realizar actualizaciones frecuentes. Y, en Meta, muchos de nuestros sistemas no consisten exclusivamente en IA; también está la intervención humana en el bucle. Incluso así, una tarjeta de sistemas única tal vez no tenga la misma relevancia para cada persona que la ve porque seguimos probando nuevas experiencias para ofrecer a nuestros usuarios. Las marcas de tiempo que informan a las personas cuándo se actualizó un sistema por última vez son una posible mitigación que exploraremos.
La información técnica puede ser difícil de simplificar, y el panorama cambia en tiempo real
Nuestros modelos no existen en un vacío y, mientras seguimos ofreciendo mayor transparencia sobre cómo funcionan, están en constante evolución. Nuestro objetivo es que resulte más sencillo entender los principios detrás de lo que nuestros sistemas reconocen y recomiendan, en lugar de ofrecer un manual sobre lo que generaría buenos resultados o detallar las reglas de la plataforma. Traducir información altamente técnica en términos generales que todo el mundo entienda sin perder precisión supone un desafío. La incorporación o eliminación de una sola palabra o frase tiene el potencial de comprometer o invalidar la explicación técnica. Dado el alcance mundial de Meta, también debemos tener en cuenta las barreras lingüísticas y la traducción, así como la diferencia de significado que un término técnico o un código adquiere una vez que lo incluimos en una explicación simplificada.
Se deben tener en cuenta las consecuencias no previstas
La tecnología que respalda nuestros sistemas se sigue basando en las personas, y debemos continuar garantizando con diligencia que se haga todo lo que está al alcance para que los sistemas sean lo más justos posible. Cuando se introdujeron las tarjetas de modelos en Instagram, el objetivo principal era proporcionar un conjunto específico de comprobaciones sobre la marcha, a fin de garantizar que los equipos tuvieran en cuenta las consecuencias no previstas del lanzamiento que estaban realizando antes de que afectaran a la comunidad.
La transparencia y la seguridad en ocasiones son conceptos contrapuestos
Si se develara el funcionamiento exacto de determinados sistemas de IA, se podría comprometer su seguridad, o bien se abriría un modelo a ataques adversarios, lo que podría dañar potencialmente a las personas que usan nuestros productos. Demasiada información en algunas de nuestras tarjetas de sistemas podría ofrecer a personas malintencionadas conocimientos suficientes sobre un sistema o modelo como para realizar un trabajo de ingeniería inversa. Sin embargo, creemos que es importante brindar información a nuestros usuarios sobre el funcionamiento de nuestros sistemas de IA y pretendemos alcanzar el equilibrio justo en cuanto a la transparencia.
¿Cuál es el siguiente paso? El futuro de la transparencia de la IA en Meta
Las tarjetas del sistema son un paso importante para ayudar a entender cómo es la transparencia de la IA a escala en Meta. A medida que el sector se desarrolle y los debates sobre la documentación y la transparencia de los modelos avancen, identificaremos otros proyectos piloto para probar e iterar con nuestro enfoque. De este modo, podemos reflejar los cambios de los productos, la evolución de las normas del sector y las expectativas en torno a la transparencia de la IA.
Para obtener más información, consulta este informe técnico en el que se explica la investigación que condujo al desarrollo de tarjetas de sistemas. [Enlace, si está disponible]