Puntos de interés:
- Hoy anunciamos la disponibilidad de Llama 2, la próxima generación de nuestro gran modelo de lenguaje de código abierto.
- Llama 2 es gratuito para investigación y uso comercial.
- Microsoft y Meta amplían su larga colaboración, con Microsoft como socio preferente para Llama 2.
- Estamos abriendo el acceso a Llama 2 con el apoyo de un amplio abanico de empresas y personas de los ámbitos tecnológico, académico y político que también creen en un enfoque abierto para las tecnologías actuales de IA.
- Nos comprometemos a construir de forma responsable y ofrecemos recursos para ayudar a que los usuarios de Llama 2 también lo hagan.
Los recientes avances de la IA, y de la IA generativa en particular, han captado la atención del público y han demostrado lo que los desarrolladores de estas tecnologías sabían desde hace tiempo: que tienen el potencial de ayudar a la gente a hacer cosas increíbles, crear una nueva era de oportunidades económicas y sociales y dar a los individuos, los creadores y las empresas nuevas formas de expresarse y conectar con la gente.
Creemos que un enfoque abierto es el adecuado para el desarrollo de los modelos de IA actuales, especialmente los del espacio generativo, donde la tecnología avanza rápidamente. Al hacer que los modelos de IA estén disponibles de forma abierta, estos pueden beneficiar a todos: Dar a las empresas, las startups, los emprendedores y los investigadores acceso a herramientas desarrolladas a una escala que les resultaría difícil construir por sí mismos, con el respaldo de una potencia informática a la que de otro modo no podrían acceder, les abrirá un mundo de oportunidades para experimentar, innovar de forma apasionante y, en última instancia, resultar beneficiados económica y socialmente.
Además, creemos que es más seguro. Abrir el acceso a los modelos actuales de IA significa que toda una generación de desarrolladores e investigadores puede someterlos a pruebas de estrés, identificando y resolviendo problemas rápidamente, como una comunidad. Al ver cómo utilizan estas herramientas los demás, nuestros propios equipos pueden aprender de ellos, mejorarlas y corregir vulnerabilidades.
Meta lleva más de una década situando la investigación exploratoria, el código abierto y la colaboración con socios académicos e industriales en el centro de sus esfuerzos en IA. Hemos visto de primera mano cómo innovar de forma abierta puede conducir a tecnologías que beneficien a más personas. Ya se han publicado docenas de grandes modelos de lenguaje, que están impulsando el progreso de desarrolladores e investigadores. Nos ha sorprendido la enorme demanda de Llama 1 por parte de los investigadores, con más de 100.000 solicitudes de acceso al gran modelo de lenguaje, y las cosas increíbles que éstos han conseguido construyendo sobre él.
Ahora estamos listos para abrir la próxima versión de Llama 2 y ponerla a disposición de investigadores, así como para uso comercial de forma gratuita. Incluimos parámetros de peso del modelo y código base para versiones pre-entrenadas, así como versiones con optimizaciones conversacionales. Como Satya Nadella anunció en el escenario de Microsoft Inspire, llevamos nuestro acuerdo de colaboración al siguiente nivel con Microsoft como socio preferente para Llama 2 y ampliamos nuestros esfuerzos en IA generativa. A partir de hoy, Llama 2 estará disponible en el catálogo de modelos de Azure AI, permitiendo a los desarrolladores que utilizan Microsoft Azure construir con él y aprovechar sus herramientas nativas de la nube para el filtrado de contenidos y funciones de seguridad. También está optimizado para ejecutarse localmente en Windows, dando a los desarrolladores un flujo de trabajo fluido a la hora de ofrecer experiencias de IA generativa a los clientes en diferentes plataformas. Llama 2 estará disponible a través de Amazon Web Services (AWS), Hugging Face y otros proveedores.
Desde hace años, Microsoft y Meta colaboran en beneficio de las personas y las empresas. Juntos hemos introducido un ecosistema abierto para estructuras de IA intercambiables, y hemos sido coautores de artículos de investigación para avanzar en la IA más puntera. Hemos colaborado para ampliar la adopción de PyTorch -la herramienta de IA líder en la actualidad creada por Meta y la comunidad de la IA- en Azure, y estamos entre los miembros fundadores de la PyTorch Foundation. Además, Microsoft y Meta se han unido recientemente a una serie de colaboradores que respaldan Partnership on IA’s framework en favor de la creación y el intercambio de medios sintéticos. Por último, nuestra asociación se extiende más allá de la IA y se adentra también en el metaverso para ofrecer experiencias inmersivas para el futuro del trabajo y el juego.
Ahora, con esta ampliación de la colaboración, Microsoft y Meta apuestan por un enfoque abierto para proporcionar un mayor acceso a las tecnologías básicas de IA en beneficio de las empresas de todo el mundo. No sólo Meta y Microsoft creen en la democratización del acceso a los modelos actuales de IA. Contamos con un amplio abanico de colaboradores de todo el mundo que también creen en este enfoque abierto: empresas que nos han enviado sus primeros comentarios y están dispuestas a crear nuevos productos con Llama 2, proveedores de servicios en la nube que incluirán Llama 2 en sus ofertas para clientes, instituciones de investigación que colaboran con nosotros en el despliegue seguro y responsable de grandes modelos generativos, y personas de los ámbitos tecnológico, académico y político que ven los beneficios como nosotros.
Centrados en la responsabilidad
Nuestro enfoque abierto fomenta la transparencia y el acceso. Sabemos que, aunque la IA ha aportado enormes avances a la sociedad, también conlleva riesgos. Nos comprometemos a trabajar de forma responsable y ofrecemos una serie de recursos para ayudar a quienes utilicen Llama 2 a hacerlo también.
- Ejercicios de Red-Teaming: Nuestros modelos perfeccionados se han sometido a pruebas de seguridad internas y externas. El equipo ha trabajado en la generación de mensajes contradictorios para facilitar el ajuste de los modelos. Además, encargamos a terceros que realizaran pruebas externas de nuestros modelos perfeccionados para detectar también deficiencias en el rendimiento. Estos procesos de perfeccionamiento de la seguridad son iterativos; seguiremos invirtiendo en seguridad mediante el perfeccionamiento y la evaluación comparativa, y tenemos previsto publicar modelos perfeccionados actualizados basados en estos esfuerzos.
- Esquema de transparencia: Explicamos nuestros métodos de ajuste y evaluación del modelo y señalamos sus carencias. Nuestro esquema de transparencia, que se encuentra dentro del documento de investigación, revela los retos y problemas conocidos que hemos experimentado y ofrece información sobre las medidas paliativas adoptadas y las que tenemos intención de explorar en el futuro.
- Guía de responsabilidad: Hemos creado esta guía como un recurso para ayudar a los desarrolladores con las mejores prácticas de desarrollo responsable y evaluaciones de seguridad. En ella se describen las mejores prácticas que reflejan el estado actual de la investigación sobre IA generativa responsable debatida en el sector y en la comunidad de investigación de IA.
- Política de uso aceptable: Hemos establecido una política que prohíbe determinados casos de uso para ayudar a garantizar que estos modelos se utilicen de forma justa y responsable.
Meta también ha creado nuevas iniciativas para aprovechar la perspectiva y creatividad de personas, investigadores y desarrolladores de todo el mundo con el fin de obtener información sobre cómo funcionan los modelos y cómo podrían mejorarse.
- Open Innovation AI Research Community: Hoy también hemos lanzado un nuevo programa de colaboración para investigadores académicos que pretende profundizar en el desarrollo responsable y el uso compartido de grandes modelos lingüísticos. Los investigadores pueden solicitar unirse a una comunidad de profesionales para compartir conocimientos, así mismo, la comunidad elaborará una agenda de investigación para seguir avanzando.
- Llama Impact Challenge: Queremos movilizar a la comunidad de innovadores que aspiran a utilizar Llama para resolver problemas difíciles. Estamos lanzando un reto para animar a un conjunto diverso de entidades públicas, tanto sin ánimo de lucro como con ánimo de lucro, a utilizar Llama 2 para abordar retos medioambientales, educativos y otros retos importantes. Las reglas del desafío estarán disponibles antes de su inicio.
Conclusión:
A lo largo de la historia de nuestra empresa, hemos experimentado los beneficios de un enfoque de código abierto a la hora de innovar en otras áreas del negocio. Nuestros ingenieros desarrollaron y compartieron herramientas y marcos de trabajo que ahora son estándares de la industria, como React, un framework líder para crear aplicaciones web y móviles, y PyTorch, que ahora es una herramienta líder para la IA. Estos se convirtieron en infraestructuras de uso común para toda la industria tecnológica. Creemos que compartir abiertamente los grandes modelos lingüísticos actuales también contribuirá al desarrollo de una IA generativa más útil y segura.
Estamos deseando ver lo que el mundo construye con Llama 2