- Estamos desactivando el sistema de reconocimiento facial en Facebook. Las personas que decidieron activarlo ya no serán reconocidas de forma automática en fotos ni videos y eliminaremos las plantillas de reconocimiento facial de más de mil millones de personas.
- Este cambio también tendrá un impacto en el sistema de Texto Alternativo Automático (AAT), que genera descripciones de imágenes para personas ciegas o con discapacidad visual. Después de este cambio, las descripciones AAT ya no incluirán los nombres de las personas reconocidas en las fotos, pero funcionará normalmente de otra manera.
- Necesitamos equilibrar el uso positivo del reconocimiento facial considerando las crecientes preocupaciones sociales, especialmente mientras los reguladores proveen reglas claras al respecto.
En las próximas semanas, desactivaremos el sistema de reconocimiento facial en Facebook como parte de un esfuerzo en la compañía por limitar el uso de reconocimiento facial en nuestros productos. Como parte de este cambio, las personas que hayan elegido activar el reconocimiento facial ya no serán reconocidas de forma automática en fotos ni videos, y eliminaremos el formato de reconocimiento facial usado para reconocerlas.
Se trata de uno de los cambios más grandes que se han hecho sobre el uso de reconocimiento facial en la historia de la industria de tecnología. Más de un tercio de los usuarios activos diarios de Facebook han activado el reconocimiento facial y pueden ser reconocidos, la eliminación de esta función resultará en la eliminación de más de mil millones de plantillas de reconocimiento facial.
Hacer este cambio requirió una consideración cuidadosa, porque hemos visto que en varios espacios el reconocimiento facial puede ser muy valorado por las personas que usan las plataformas digitales. Por ejemplo, nuestro galardonado sistema de texto alternativo automático, que usa Inteligencia Artificial avanzada para generar descripciones de imágenes para personas ciegas o con discapacidad visual, usa el sistema de reconocimiento facial para decirles cuando ellos o alguno de sus amigos están en una imagen.
Por muchos años, Facebook también ha dado a las personas la posibilidad de recibir notificaciones de forma automática cuando aparecen en fotos o videos que otros publican, y ha dado recomendaciones sobre a quién etiquetar en las fotos. Estas funciones también funcionan gracias al sistema de reconocimiento facial que estamos desactivando.
De cara al futuro, seguimos viendo la tecnología de reconocimiento facial como una herramienta poderosa, por ejemplo, para ayudar a las personas a verificar su identidad o para prevenir fraudes y suplantación de identidad. Creemos que el reconocimiento facial puede ser útil para productos como estos, con las medidas de privacidad, transparencia y control necesarias. Así, siempre serás tú quien decida si se usa tu rostro y cómo se hace. Seguiremos trabajando en estas tecnologías y consultando a expertos externos.
Sin embargo, las diversas instancias específicas en las que el reconocimiento facial puede ser útil necesitan ser evaluadas considerando preocupaciones crecientes sobre el uso de esta tecnología en general. Hay muchas preocupaciones sobre el lugar del reconocimiento facial en la sociedad y los reguladores siguen en el proceso de establecer reglas claras para su uso. En medio de esta incertidumbre, creemos que limitar el uso del reconocimiento facial a un menor número de casos es lo apropiado.
Esto incluye servicios que ayudan a las personas a tener acceso a una cuenta bloqueada, verificar su identidad en productos financieros o desbloquear un dispositivo personal. En estos casos el uso del reconocimiento facial es socialmente aceptado y resulta de gran valor para las personas, cuando se hace con el cuidado necesario. Si bien seguiremos trabajando en casos de uso como estos, nos aseguraremos que las personas tengan información y control sobre su reconocimiento automático.
Pero, como la mayoría de los retos que involucran problemáticas sociales complejas, sabemos que nuestra decisión conlleva algunas consecuencias complicadas. Por ejemplo, la posibilidad de decirle a una persona ciega o visualmente discapacitada que la persona en la foto en su Sección de Noticias es su amigo de la secundaria o un antiguo colega, es una función valiosa que hace más accesible a nuestras plataformas. Pero, también depende de una tecnología subyacente que intenta evaluar los rostros en una fotografía para encontrar coincidencias con imágenes alojadas en una base de datos de personas que eligieron activarla. Los cambios que anunciamos hoy son un reflejo de un movimiento en la compañía por alejarnos de este tipo de identificación masiva y adoptar formas más limitadas de autenticación personal.
El reconocimiento facial puede ser particularmente útil cuando la tecnología opera de forma privada en los dispositivos de una persona. Este método de reconocimiento facial dentro del dispositivo, que no requiere de comunicación de datos de rostros con un servidor externo, se emplea regularmente hoy en día en los sistemas para desbloquear teléfonos.
Creemos que esto tiene el potencial de habilitar casos de uso positivos en el futuro que mantienen la privacidad, el control y la transparencia, y es una opción que seguiremos explorando conforme estudiamos cómo nuestras plataformas informáticas y dispositivos del futuro pueden atender mejor las necesidades de las personas. Para potenciales aplicaciones de tecnologías como estas en el futuro, seguiremos compartiendo públicamente información sobre la intención de uso, sobre cómo las personas pueden tener el control de estos sistemas y sus datos personales y sobre cómo estamos cumpliendo con nuestro marco de innovación responsable.
Concluir el uso existente de nuestro sistema de reconocimiento facial significa que los servicios que habilita ya no estarán disponibles en las próximas semanas, al igual que la configuración que permite a las persona activar el sistema.
Esto conlleva una serie de cambios:
- Nuestra tecnología ya no reconocerá de forma automática si los rostros de las personas aparecen en Memorias, fotografías o videos.
- Las personas ya no podrán activar el reconocimiento facial para sugerencias de etiquetas o ver una sugerencia de etiqueta con su nombre en fotos y videos en los que pueden aparecer. Seguiremos invitando a las personas a etiquetar publicaciones de forma manual, para que tú y tus amigos sepan quién aparece en una foto o video.
- Este cambio también tendrá un impacto en el sistema de Texto Alternativo Automático (AAT), una tecnología diseñada para generar descripciones de imágenes para personas ciegas o con discapacidad visual. Actualmente, ATT identifica a personas que en alrededor de 4% de las fotos. Después del cambio, ATT podrá seguir identificando cuántas personas hay en una foto, pero ya no intentará detectar quién es cada quién usando reconocimiento facial. ATT continuaría funcionando normalmente, y trabajaríamos de cerca con la comunidad de personas ciegas y con discapacidad visual y tecnologías que nos permitan seguir mejorando ATT. Conoce más sobre lo que significan estos cambios para las personas que usan ATT en nuestra Página de Facebook Accessibility.
- Si activaste el reconocimiento facial, eliminaremos la plantilla usada para identificarte. Si tienes desactivada esta función, no hay plantilla que eliminar y no habrá algún cambio.
Cada nueva tecnología trae consigo tanto beneficios como preocupaciones, y queremos encontrar el balance correcto. En el caso del reconocimiento facial, su rol a largo plazo en la sociedad necesita ser debatido abiertamente entre quienes serán más impactados. Seguiremos entablando esas conversaciones y trabajando con los grupos de la sociedad civil y reguladores quienes las están liderando.