Hoy compartimos nuestra visión de cómo apoyar a las familias mientras ayudan a sus hijos a navegar en el mundo de la IA. Esto incluye nuevos controles para que los padres puedan ver —y administrar— cómo interactúan sus hijos con personajes de IA. Cada día, los adolescentes utilizan nuestras plataformas para mantenerse en contacto con sus amigos y explorar sus intereses. La IA puede ampliar aún más estas oportunidades: desde aprender nuevas habilidades como programación o diseño gráfico, hasta recibir ayuda con asignaturas escolares complejas.
Sabemos que los padres ya tienen bastante con garantizar que sus hijos usen Internet de forma segura, y por eso nos comprometemos a proporcionar herramientas útiles y prácticas, especialmente cuando se trata de tecnologías emergentes como la IA.
Ya hemos integrado protecciones adecuadas por edad en nuestras funciones de IA, como diseñar nuestras respuestas en base a calificaciones similares a las de películas PG-13. Sin embargo, queremos hacer aún más para dar a los padres visibilidad y control sobre las experiencias de sus hijos con la IA.
Nuevas formas para que los padres supervisen las interacciones de sus hijos con la IA
Además de las protecciones automáticas incluidas en las cuentas de adolescentes, estamos incorporando nuevas herramientas de supervisión para que los padres tomen decisiones informadas sobre los personajes de IA con los que sus hijos interactúan.
Aquí están las novedades que planeamos implementar:
- Los padres podrán desactivar completamente el acceso de sus hijos a chats individuales con personajes de IA. El asistente de IA de Meta seguirá estando disponible para ofrecer información útil y oportunidades educativas, con protecciones por edad activadas por defecto.
- Si prefieren no bloquear todos los personajes de IA, los padres podrán bloquear personajes específicos.
- Los padres también tendrán acceso a información sobre los temas de conversación entre sus hijos y los personajes de IA —incluido el asistente de Meta— para que puedan mantener conversaciones significativas sobre estas interacciones.
La tecnología nunca reemplazará el pensamiento crítico, las conexiones personales ni la interacción humana, y ese no es nuestro objetivo. Creemos que la IA puede complementar los métodos tradicionales de aprendizaje y exploración de forma positiva, siempre con los límites adecuados según la edad.
Protecciones existentes para adolescentes que usan IA
En nuestras conversaciones con padres, escuchamos de forma constante que sus principales preocupaciones sobre el uso de la tecnología por parte de sus hijos adolescentes se agrupan en tres categorías: con quién interactúan, qué tipo de contenido ven y si están aprovechando bien su tiempo.
Creamos las Cuentas para Adolescentes teniendo en cuenta precisamente estas inquietudes, y hemos aplicado ese mismo enfoque a las interacciones que los jóvenes tienen con la IA —un sistema que seguiremos perfeccionando. Como anunciamos a principios de esta semana, hemos ajustado las experiencias con IA para adolescentes guiándonos por criterios similares a los de las películas calificadas como PG-13, lo que significa que las IAs no deberían ofrecer respuestas inapropiadas para su edad o que resulten fuera de lugar en una película de esa clasificación. Estos cambios ya han empezado a implementarse en inglés en Estados Unidos, Reino Unido, Canadá y Australia.
Otras medidas de protección incluyen:
- Los personajes de IA están diseñados para no participar en conversaciones inadecuadas con adolescentes sobre autolesiones, suicidio o trastornos alimentarios, ni fomentar, promover o permitir estos temas. Nuestras IAs están preparadas para responder de forma segura en estos casos y, cuando sea necesario, redirigir a los adolescentes a recursos especializados o profesionales de apoyo.
- Los adolescentes sólo pueden interactuar con un grupo limitado de personajes de IA, enfocados en temas apropiados para su edad como educación, deportes y aficiones. Temas como el romance u otros contenidos inapropiados están excluidos.
- Los padres pueden ver si sus hijos están conversando con personajes de IA y establecer límites de tiempo para el uso de la aplicación, reduciéndolo incluso a solo 15 minutos al día. Esto incluye también el tiempo que se pasa interactuando con IAs.
Sabemos que algunos adolescentes pueden intentar eludir estas protecciones, por eso también estamos utilizando tecnología de IA para identificar posibles menores y aplicar estas medidas de protección, incluso si afirman ser mayores de edad.
Lo que los padres pueden esperar próximamente
La IA está avanzando rápidamente, lo que significa que debemos adaptarnos y reforzar continuamente nuestras medidas de seguridad para los adolescentes, al tiempo que escuchamos y respondemos a las preocupaciones que los padres tienen sobre esta nueva tecnología. Esperamos que las actualizaciones que anunciamos hoy brinden a las familias mayor tranquilidad, sabiendo que sus hijos pueden beneficiarse de todo lo que la IA ofrece, pero con supervisión y límites adecuados.
Actualmente estamos desarrollando estos nuevos controles parentales de supervisión, y se empezarán a implementar —comenzando por Instagram— a principios del próximo año. Realizar cambios que afectan a miles de millones de usuarios en las plataformas de Meta requiere especial cuidado, y pronto compartiremos más información.