Puntos de interés:
- Nos hemos asociado con el Stanford’s Deliberative Democracy Lab y el Behavioral Insights Team en un foro comunitario para debatir los principios que pueden reflejarse en los chatbots generativos de IA, y hemos publicado los resultados.
- Creemos que la apertura en tecnologías como la IA conduce a una mayor innovación y a unos productos mejores y más seguros, por eso compartimos públicamente los resultados de estos Foros para que más empresas, investigadores y gobiernos puedan beneficiarse de lo que comparten las personas que participan.
- Organizaremos un Foro Comunitario similar en otros países para seguir generando opiniones sobre los principios reguladores que la gente quiere ver reflejados en la IA.
Meta cree que un enfoque abierto de la tecnología puede conducir a más innovación, más responsabilidad y mejores resultados para todos. Por eso hemos sido pioneros en soluciones innovadoras de gobernanza, comenzando en 2020 con el Consejo de Supervisión, que proporciona una revisión independiente de nuestras decisiones de contenido, y ampliando en 2022 a los Foros Comunitarios, incluido nuestro reciente Foro Comunitario sobre IA Generativa.
Estos Foros Comunitarios reúnen a grupos representativos de personas de todo el mundo para dialogar y debatir entre sí y con expertos en la materia, para después compartir sus puntos de vista. Empezamos con un proyecto piloto sobre la desinformación sobre el cambio climático antes de organizar nuestro primer Foro Comunitario completo sobre el abuso y el acoso en el Metaverso. En él participaron más de 6.000 personas de 32 países, y creemos que fue el mayor ejercicio de deliberación jamás realizado. En el último año, otras plataformas han explorado mecanismos deliberativos para la gobernanza de la IA, lo que constituye un avance positivo hacia la estandarización de un enfoque más abierto en el sector.
El Deliberative Democracy Lab de Stanford, junto al Behavioral Insights Team (BIT) y Meta, han publicado las conclusiones del reciente Foro Comunitario sobre IA Generativa, que incluye más de 1.500 personas de Brasil, Alemania, España y Estados Unidos. El objetivo del Foro era conocer la opinión del público para complementar las aportaciones que recibimos de expertos, académicos y otras entidades implicadas en nuestros procesos de elaboración de políticas. Se abordaron dos cuestiones generales sobre los tipos de principios que deben guiar las experiencias de las personas con los chatbots, incluida la forma en que deben interactuar con las personas y proporcionar orientación y asesoramiento. Compartimos públicamente los resultados de estos Foros para que más empresas, investigadores y gobiernos puedan beneficiarse de lo que compartieron las personas participantes.
Principales conclusiones del Foro Comunitario
El Foro constató que las personas están abiertas a los chatbots de IA generativa, incluida la IA sofisticada y similar a la humana, pero quieren asegurarse de que los desarrolladores tienen en cuenta las características de transparencia y control. El informe completo ofrece más detalles sobre las opiniones de los participantes sobre cada propuesta. Estos son algunos puntos de interés:
- La mayoría de los participantes de cada país pensaba que la IA había tenido un impacto positivo, y esta opinión aumentó a lo largo de las deliberaciones.
- La mayoría cree que los chatbots de IA deberían poder utilizar conversaciones anteriores para mejorarlas, siempre que se informe a las personas. El acuerdo con esta propuesta aumentó como resultado de las deliberaciones.
- Tras deliberar, la mayoría de los participantes cree que los chatbots de IA pueden asemejarse a los humanos, siempre que se informe a la gente sobre este enfoque.
- Las perspectivas de los participantes cambiaron como resultado de la deliberación, hasta en un 20,5% en algunas preguntas, y a menudo hacia el consenso sobre algunos de los temas más acuciantes del Foro. Esto demuestra que el proceso de deliberación unos con otros y de interacción con los expertos ayudó a los participantes a comprender mejor las propuestas, así como las ventajas y desventajas.
Diseñamos los Foros Comunitarios para que se fundamenten en principios y puedan servir de base a nuestros planteamientos a largo plazo, sobre todo teniendo en cuenta la naturaleza fluida y cambiante de la tecnología. Nuestros equipos han estado revisando estos resultados, ya que pueden ayudar a planificar el trabajo futuro.
Más adelante, organizaremos un Foro Comunitario similar sobre IA generativa en otras regiones del mundo para seguir recibiendo comentarios de la gente sobre los principios que deben guiar los enfoques de la IA por parte de empresas como la nuestra, los gobiernos y la sociedad. También estamos estudiando otros métodos para democratizar las aportaciones al desarrollo de nuestros productos. Planeamos compartir los resultados en el Centro de Transparencia.