{"id":21487,"date":"2020-05-12T12:26:02","date_gmt":"2020-05-12T17:26:02","guid":{"rendered":"https:\/\/about.fb.com\/ltam\/?p=21487"},"modified":"2020-05-12T12:26:02","modified_gmt":"2020-05-12T17:26:02","slug":"uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo","status":"publish","type":"post","link":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/","title":{"rendered":"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo"},"content":{"rendered":"

La pandemia de COVID-19 es una emergencia sanitaria incre\u00edblemente compleja, que evoluciona r\u00e1pidamente a nivel global. En Facebook estamos comprometidos a prevenir la difusi\u00f3n de informaci\u00f3n falsa y enga\u00f1osa en nuestras plataformas. La desinformaci\u00f3n sobre la enfermedad puede evolucionar a gran velocidad y resulta dif\u00edcil distinguirla de los reportes leg\u00edtimos. La misma pieza de desinformaci\u00f3n puede aparecer en formatos ligeramente diferentes, como una imagen modificada en apenas unos pocos p\u00edxeles recortados o aumentados mediante el uso de filtros. Estas variaciones pueden no ser intencionales, pero tambi\u00e9n pueden tratarse de acciones deliberadas para evitar ser detectadas. Es importante evitar la calificaci\u00f3n err\u00f3nea de un contenido leg\u00edtimo, y catalogarlo como si fuera desinformaci\u00f3n, ya que puede afectar la posibilidad de que las personas se expresen en nuestras plataformas.\u00a0<\/span><\/p>\n

La Inteligencia Artificial es crucial para enfrentar estos retos y prevenir la difusi\u00f3n de desinformaci\u00f3n, ya que nos permite potenciar el trabajo de los verificadores independientes que revisan contenido en nuestros servicios. Trabajamos con m\u00e1s de 60 organizaciones de verificaci\u00f3n de informaci\u00f3n en todo el mundo, que analizan publicaciones en m\u00e1s de 50 idiomas. Desde que empez\u00f3 la pandemia, hemos usado nuestros sistemas de Inteligencia Artificial y desarrollado nuevos para tratar material relacionado con el COVID-19 y que los chequeadores puedan identificar las piezas falsas y alertar a las personas cuando intenten compartirlas.\u00a0<\/span><\/p>\n

Adem\u00e1s de detectar la desinformaci\u00f3n, nuestros sistemas de Inteligencia Artificial nos est\u00e1n ayudando con otros retos relacionados a la pandemia. Hemos desarrollado nuevos clasificadores de visi\u00f3n para hacer cumplir nuestra<\/span> prohibici\u00f3n temporal<\/span><\/a> a los anuncios comerciales de m\u00e1scaras faciales y otros productos. Debido a que algunas veces las personas intentan modificar los avisos de esos productos para evitar a nuestros sistemas, tambi\u00e9n estamos corriendo procesos para identificar coincidencias basadas en caracter\u00edsticas locales que ayudan a detectar instancias que fueron manipuladas a una gran escala. En muchos casos, podemos tomar acciones proactivamente, antes incluso de que alguien lo reporte.\u00a0<\/span><\/p>\n

En abril, colocamos etiquetas de advertencia a cerca de 50 millones de publicaciones relacionadas con el COVID-19 en Facebook, en base a unos 7.500 art\u00edculos de nuestros verificadores. Desde el 1 de mayo, hemos removido m\u00e1s de 2,5 millones de piezas de contenido sobre venta de m\u00e1scaras faciales, desinfectantes para manos, toallas sanitarias y tests para detectar el virus. Pero estos son retos dif\u00edciles y nuestras herramientas no son perfectas. Se trata de un trabajo constante que nunca puede considerarse terminado. En esta publicaci\u00f3n nos estamos enfocando en algunos de nuestros esfuerzos en el campo de la visi\u00f3n por computadora, pero estos problemas requieren de un amplio conjunto de herramientas de Inteligencia Artificial. Tenemos mucho trabajo por hacer, pero estamos seguros que podemos seguir construyendo en base a lo que ya hicimos, mejorar nuestros sistemas y hacer m\u00e1s para proteger a las personas del contenido da\u00f1ino relacionado a la pandemia.\u00a0\u00a0<\/span><\/p>\n

Uso de Inteligencia Artificial para potenciar el trabajo de los verificadores contra de la desinformaci\u00f3n<\/b><\/p>\n

\"\"Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras<\/em><\/p>\n

 <\/p>\n

\"\"Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras.<\/em><\/p>\n

Estos dos ejemplos muestran copias casi exactas de desinformaci\u00f3n, siendo esta \u00faltima una captura de pantalla de la primera.<\/span><\/p>\n

Cualquier persona podr\u00eda decir que estas im\u00e1genes son pr\u00e1cticamente id\u00e9ntica<\/span>s. De hecho, a simple vista puede ser dif\u00edcil ver las diferencias. Los sistemas de visi\u00f3n por computadora tambi\u00e9n pueden tener dificultades para detectar esas coincidencias, porque aunque el contenido es id\u00e9ntico, los p\u00edxeles no lo son.\u00a0<\/span><\/p>\n

Es extremadamente importante que estos sistemas sean tan precisos como sea posible, porque un error puede llevar a que se ejecute una acci\u00f3n sobre un contenido que no viola nuestras pol\u00edticas. El ejemplo a continuaci\u00f3n muestra una versi\u00f3n similar que no deber\u00eda ser clasificada como desinformaci\u00f3n.\u00a0<\/span><\/p>\n

\"\"Texto: No hallan COVID-19 en papel higi\u00e9nico. Ninguna cepa del virus mortal se reproduce r\u00e1pidamente en las fibras.<\/em><\/p>\n

Esta \u00faltima imagen es muy similar a las anteriores, pero su texto no contiene desinformaci\u00f3n sobre el virus.<\/span><\/p>\n

Cuando una pieza de contenido es calificada como falsa por nuestros <\/span>verificadores de informaci\u00f3n independientes<\/span><\/a> reducimos su distribuci\u00f3n y mostramos etiquetas de advertencia con m\u00e1s contexto (m\u00e1s detalles, <\/span>aqu\u00ed<\/span><\/a>). Como lo hemos <\/span>mencionado anteriormente<\/span><\/a>, estas etiquetas de advertencia son una herramienta eficiente para enfrentar la desinformaci\u00f3n. Cuando aparecen, en el 95% de los casos las personas optan por no ver el contenido marcado.<\/span><\/p>\n

SimSearchNet, un modelo de red neuronal complejo, desarrollado espec\u00edficamente para detectar duplicados casi exactos, ahora nos est\u00e1 ayudando a hacer este trabajo. Una vez que los verificadores determinan que una imagen contiene informaci\u00f3n enga\u00f1osa o falsa sobre el nuevo coronavirus, SimSearch, como parte de nuestro sistema de indexaci\u00f3n y comparaci\u00f3n de im\u00e1genes de extremo a extremo, es capaz de reconocer coincidencias casi duplicadas para que podamos poner etiquetas de advertencia.\u00a0<\/span><\/p>\n

Esto es particularmente importante porque por cada pieza de desinformaci\u00f3n que los verificadores identifican, podr\u00edan haber miles de millones de copias. El uso de Inteligencia Artificial para detectar estas coincidencias permite a los verificadores enfocarse en detectar nuevas instancias de desinformaci\u00f3n en lugar de variaciones casi id\u00e9nticas de contenido que ya hayan visto.\u00a0<\/span><\/p>\n

SimSearchNet se basa en una colaboraci\u00f3n de varios a\u00f1os entre investigadores especializados en Inteligencia Artificial de Facebook, ingenieros, y muchos otros equipos de la compa\u00f1\u00eda. Se basa en a\u00f1os de investigaci\u00f3n en visi\u00f3n por computadora en Facebook, particularmente, en la construcci\u00f3n de <\/span>representaciones compactas<\/span><\/a> que nos permiten <\/span>indexar y buscar r\u00e1pidamente fotos a escala<\/span><\/a>.\u00a0<\/span><\/p>\n

Tambi\u00e9n usa la misma infraestructura de coincidencia a gran escala se emplea para detectar <\/span>otro contenido da\u00f1ino<\/span><\/a>. Este sistema opera sobre cada imagen subida a Facebook e Instagram y las compara con bases de datos espec\u00edficas curadas manualmente. Esto representa miles de millones de im\u00e1genes verificadas por d\u00eda, incluidas las bases de datos hechas para detectar desinformaci\u00f3n sobre COVID-19.<\/span><\/p>\n

Frenar la venta de productos para el COVID-19 incluso cuando se intenta evitar que sean detectados<\/b><\/p>\n

Desde que empez\u00f3 la crisis, hemos trabajado para proteger a las personas de aquellos que tratan de sacar provecho econ\u00f3mico de esta emergencia. Para identificar mejor y remover anuncios de productos como m\u00e1scaras faciales, desinfectante de manos, toallas sanitarias y tests para detectar COVID-19, hemos implementado un sistema que utiliza caracter\u00edsticas locales a nivel de imagen para hallar anuncios alterados. Esto nos ayuda proactivamente a evitar anunciantes que intentan evadir nuestros sistemas de Inteligencia Artificial.\u00a0<\/span><\/p>\n

Mantenemos una base de datos extra\u00edda de anuncios relacionados con COVID-19 que violan nuestras pol\u00edticas y despu\u00e9s verificamos im\u00e1genes en nuevos anuncios, usando el sistema para instancias coincidentes.\u00a0<\/span><\/p>\n

Esta soluci\u00f3n basada en caracter\u00edsticas locales nos permite detectar de mejor manera anuncios manipulados para enfrentar t\u00e1cticas de modificaci\u00f3n comunes, como el recorte, la rotaci\u00f3n, la oclusi\u00f3n y el ruido. El proceso de resultados de instancias coincidentes ya est\u00e1 rechazando anuncios en forma autom\u00e1tica.\u00a0<\/span><\/p>\n

Tambi\u00e9n hemos usado las instancias coincidentes en otros sistemas de integridad de anuncios para hacer cumplir las normas relacionadas al COVID-19. Por ejemplo, al tomar im\u00e1genes recortadas de m\u00e1scaras faciales detectadas en anuncios usamos ese procedimiento para identificar diversas muestras de otras im\u00e1genes de barbijos. Ese conjunto de datos se usa para volver a entrenar a nuestro clasificador de anuncios. Mediante el empleo de ejemplos detectados por el clasificador podemos evitar que circulen anuncios que infrinjan las pol\u00edticas para m\u00e1scaras faciales en diez veces m\u00e1s que cuando utilizamos \u00fanicamente la funci\u00f3n de coincidencia.<\/span><\/p>\n

Modelos de entrenamiento r\u00e1pido de visi\u00f3n para Marketplace\u00a0<\/b><\/p>\n

Cuando las personas venden cosas a trav\u00e9s de Marketplace, usan im\u00e1genes con fondos, \u00e1ngulos de c\u00e1mara, detalles y calidad en general muy diferentes. Esto puede hacer que sea m\u00e1s dif\u00edcil para los modelos de visi\u00f3n reconocer elementos que si se tratara, por ejemplo, de fotos de un cat\u00e1logo tomadas profesionalmente y con fondos lisos.<\/span><\/p>\n

A lo largo de los a\u00f1os, hemos aprovechado varias t\u00e9cnicas de adaptaci\u00f3n de dominios para implementar cientos de modelos de clasificaci\u00f3n y detecci\u00f3n de objetos que funcionan bien en estas desafiantes condiciones del mundo real.<\/span><\/p>\n

Las lecciones que nos han dejado estos esfuerzos nos llevaron a invertir en la construcci\u00f3n de una plataforma sobre la base de <\/span>PyTorch<\/span><\/a>, que nos permite capacitar e implementar r\u00e1pidamente clasificadores\/detectores a pedido para nuevas clases de im\u00e1genes y videos. Esta plataforma aprovecha el trabajo innovador de Inteligencia Artificial de Facebook en la capacitaci\u00f3n de <\/span>desarrollos de \u00faltima generaci\u00f3n sobre miles de millones de fotos etiquetadas<\/span><\/a>. Tambi\u00e9n emplea t\u00e9cnicas de aumento de datos que nos permiten impulsar modelos con cantidades limitadas de datos sin obviar la diversidad que se ve en las fotos de productos de Marketplace.<\/span><\/p>\n

Despu\u00e9s de que comenz\u00f3 la crisis del coronavirus, utilizamos esta plataforma para entrenar e implementar clasificadores para <\/span>m\u00e1scaras faciales, desinfectantes y toallas sanitarias<\/span>. Primero, recopilamos fotos p\u00fablicas de estos productos y luego ajustamos y aumentamos esos datos. Para mejorar la precisi\u00f3n, tambi\u00e9n agregamos miles de im\u00e1genes \u00abnegativas\u00bb de elementos que un modelo podr\u00eda confundir con una m\u00e1scara facial. Despu\u00e9s de la capacitaci\u00f3n y la evaluaci\u00f3n fuera de l\u00ednea, implementamos el concepto en nuestra plataforma\u00a0 y lo aplicamos retroactivamente a las im\u00e1genes de Marketplace. Estos modelos ahora se est\u00e1n ejecutando globalmente en los nuevos listados de Marketplace.<\/span><\/p>\n

Planeamos continuar invirtiendo en la plataforma y seguir trabajando para mejorar los modelos anteriores, especialmente a medida que el ciclo de retroalimentaci\u00f3n nos presenta m\u00e1s datos. Estas se\u00f1ales tambi\u00e9n ser\u00e1n utilizadas por clasificadores multimodales, cuyo objetivo es mirar en forma amplia a las publicaciones.\u00a0<\/span><\/p>\n

M\u00e1s esfuerzos para detectar desinformaci\u00f3n y contenido da\u00f1ino<\/b><\/p>\n

Los problemas de desinformaci\u00f3n y los intentos de vender art\u00edculos prohibidos no comenzaron con la pandemia de COVID-19. Para abordar estos y otros desaf\u00edos, Facebook ha realizado inversiones a largo plazo en la investigaci\u00f3n de sistemas de razonamiento visual y comprensi\u00f3n multimodal, desarrollando nuevas t\u00e9cnicas de aprendizaje autosupervisado y construyendo plataformas que nos permiten pasar r\u00e1pidamente de la investigaci\u00f3n a la producci\u00f3n a escala.<\/span><\/p>\n

Hemos visto c\u00f3mo lo que hasta hace algunos a\u00f1os era considerado investigaci\u00f3n de vanguardia ahora es una realidad que nos ayuda a mejorar. Confiamos en que podemos adquirir nuevas t\u00e9cnicas y herramientas de investigaci\u00f3n y usarlas para proteger mejor a las personas en nuestras plataformas.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"La pandemia de COVID-19 es una emergencia sanitaria incre\u00edblemente compleja, que evoluciona r\u00e1pidamente a nivel global. En Facebook estamos comprometidos a prevenir la difusi\u00f3n de informaci\u00f3n falsa y enga\u00f1osa en nuestras plataformas. La desinformaci\u00f3n sobre la enfermedad puede evolucionar a gran velocidad y resulta dif\u00edcil distinguirla de los reportes leg\u00edtimos. La misma pieza de desinformaci\u00f3n puede aparecer en formatos ligeramente diferentes, como una imagen modificada en apenas unos pocos p\u00edxeles recortados o aumentados mediante el uso de filtros. Estas variaciones pueden no ser intencionales, pero tambi\u00e9n pueden tratarse de acciones deliberadas para evitar ser detectadas. Es importante evitar la calificaci\u00f3n err\u00f3nea de un contenido leg\u00edtimo, y catalogarlo como si fuera desinformaci\u00f3n, ya que puede afectar la posibilidad de que las personas se expresen en nuestras plataformas.\u00a0 La Inteligencia Artificial es crucial para enfrentar estos retos y prevenir la difusi\u00f3n de desinformaci\u00f3n, ya que nos permite potenciar el trabajo de los verificadores independientes que revisan contenido en nuestros servicios. Trabajamos con m\u00e1s de 60 organizaciones de verificaci\u00f3n de informaci\u00f3n en todo el mundo, que analizan publicaciones en m\u00e1s de 50 idiomas. Desde que empez\u00f3 la pandemia, hemos usado nuestros sistemas de Inteligencia Artificial y desarrollado nuevos para tratar material relacionado con el COVID-19 y que los chequeadores puedan identificar las piezas falsas y alertar a las personas cuando intenten compartirlas.\u00a0 Adem\u00e1s de detectar la desinformaci\u00f3n, nuestros sistemas de Inteligencia Artificial nos est\u00e1n ayudando con otros retos relacionados a la pandemia. Hemos desarrollado nuevos clasificadores de visi\u00f3n para hacer cumplir nuestra prohibici\u00f3n temporal a los anuncios comerciales de m\u00e1scaras faciales y otros productos. Debido a que algunas veces las personas intentan modificar los avisos de esos productos para evitar a nuestros sistemas, tambi\u00e9n estamos corriendo procesos para identificar coincidencias basadas en caracter\u00edsticas locales que ayudan a detectar instancias que fueron manipuladas a una gran escala. En muchos casos, podemos tomar acciones proactivamente, antes incluso de que alguien lo reporte.\u00a0 En abril, colocamos etiquetas de advertencia a cerca de 50 millones de publicaciones relacionadas con el COVID-19 en Facebook, en base a unos 7.500 art\u00edculos de nuestros verificadores. Desde el 1 de mayo, hemos removido m\u00e1s de 2,5 millones de piezas de contenido sobre venta de m\u00e1scaras faciales, desinfectantes para manos, toallas sanitarias y tests para detectar el virus. Pero estos son retos dif\u00edciles y nuestras herramientas no son perfectas. Se trata de un trabajo constante que nunca puede considerarse terminado. En esta publicaci\u00f3n nos estamos enfocando en algunos de nuestros esfuerzos en el campo de la visi\u00f3n por computadora, pero estos problemas requieren de un amplio conjunto de herramientas de Inteligencia Artificial. Tenemos mucho trabajo por hacer, pero estamos seguros que podemos seguir construyendo en base a lo que ya hicimos, mejorar nuestros sistemas y hacer m\u00e1s para proteger a las personas del contenido da\u00f1ino relacionado a la pandemia.\u00a0\u00a0 Uso de Inteligencia Artificial para potenciar el trabajo de los verificadores contra de la desinformaci\u00f3n Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras   Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras. Estos dos ejemplos muestran copias casi exactas de desinformaci\u00f3n, siendo esta \u00faltima una captura de pantalla de la primera. Cualquier persona podr\u00eda decir que estas im\u00e1genes son pr\u00e1cticamente id\u00e9nticas. De hecho, a simple vista puede ser dif\u00edcil ver las diferencias. Los sistemas de visi\u00f3n por computadora tambi\u00e9n pueden tener dificultades para detectar esas coincidencias, porque aunque el contenido es id\u00e9ntico, los p\u00edxeles no lo son.\u00a0 Es extremadamente importante que estos sistemas sean tan precisos como sea posible, porque un error puede llevar a que se ejecute una acci\u00f3n sobre un contenido que no viola nuestras pol\u00edticas. El ejemplo a continuaci\u00f3n muestra una versi\u00f3n similar que no deber\u00eda ser clasificada como desinformaci\u00f3n.\u00a0 Texto: No hallan COVID-19 en papel higi\u00e9nico. Ninguna cepa del virus mortal se reproduce r\u00e1pidamente en las fibras. Esta \u00faltima imagen es muy similar a las anteriores, pero su texto no contiene desinformaci\u00f3n sobre el virus. Cuando una pieza de contenido es calificada como falsa por nuestros verificadores de informaci\u00f3n independientes reducimos su distribuci\u00f3n y mostramos etiquetas de advertencia con m\u00e1s contexto (m\u00e1s detalles, aqu\u00ed). Como lo hemos mencionado anteriormente, estas etiquetas de advertencia son una herramienta eficiente para enfrentar la desinformaci\u00f3n. Cuando aparecen, en el 95% de los casos las personas optan por no ver el contenido marcado. SimSearchNet, un modelo de red neuronal complejo, desarrollado espec\u00edficamente para detectar duplicados casi exactos, ahora nos est\u00e1 ayudando a hacer este trabajo. Una vez que los verificadores determinan que una imagen contiene informaci\u00f3n enga\u00f1osa o falsa sobre el nuevo coronavirus, SimSearch, como parte de nuestro sistema de indexaci\u00f3n y comparaci\u00f3n de im\u00e1genes de extremo a extremo, es capaz de reconocer coincidencias casi duplicadas para que podamos poner etiquetas de advertencia.\u00a0 Esto es particularmente importante porque por cada pieza de desinformaci\u00f3n que los verificadores identifican, podr\u00edan haber miles de millones de copias. El uso de Inteligencia Artificial para detectar estas coincidencias permite a los verificadores enfocarse en detectar nuevas instancias de desinformaci\u00f3n en lugar de variaciones casi id\u00e9nticas de contenido que ya hayan visto.\u00a0 SimSearchNet se basa en una colaboraci\u00f3n de varios a\u00f1os entre investigadores especializados en Inteligencia Artificial de Facebook, ingenieros, y muchos otros equipos de la compa\u00f1\u00eda. Se basa en a\u00f1os de investigaci\u00f3n en visi\u00f3n por computadora en Facebook, particularmente, en la construcci\u00f3n de representaciones compactas que nos permiten indexar y buscar r\u00e1pidamente fotos a escala.\u00a0 Tambi\u00e9n usa la misma infraestructura de coincidencia a gran escala se emplea para detectar otro contenido da\u00f1ino. Este sistema opera sobre cada imagen subida a Facebook e Instagram y las compara con bases de datos espec\u00edficas curadas manualmente. Esto representa miles de millones de im\u00e1genes verificadas por d\u00eda, incluidas las bases de datos hechas para detectar desinformaci\u00f3n sobre COVID-19. Frenar la venta de productos para el COVID-19 incluso cuando se intenta evitar que sean detectados Desde que empez\u00f3 la crisis, hemos trabajado para proteger a las personas de aquellos que tratan de sacar provecho econ\u00f3mico de esta emergencia. Para identificar mejor y remover anuncios de productos como m\u00e1scaras faciales, desinfectante de manos, toallas sanitarias y tests para detectar COVID-19, hemos implementado un sistema que utiliza caracter\u00edsticas locales a nivel de imagen para hallar anuncios alterados. Esto nos ayuda proactivamente a evitar anunciantes que intentan evadir nuestros sistemas de Inteligencia Artificial.\u00a0 Mantenemos una base de datos extra\u00edda de anuncios relacionados con COVID-19 que violan nuestras pol\u00edticas y despu\u00e9s verificamos im\u00e1genes en nuevos anuncios, usando el sistema para instancias coincidentes.\u00a0 Esta soluci\u00f3n basada en caracter\u00edsticas locales nos permite detectar de mejor manera anuncios manipulados para enfrentar t\u00e1cticas de modificaci\u00f3n comunes, como el recorte, la rotaci\u00f3n, la oclusi\u00f3n y el ruido. El proceso de resultados de instancias coincidentes ya est\u00e1 rechazando anuncios en forma autom\u00e1tica.\u00a0 Tambi\u00e9n hemos usado las instancias coincidentes en otros sistemas de integridad de anuncios para hacer cumplir las normas relacionadas al COVID-19. Por ejemplo, al tomar im\u00e1genes recortadas de m\u00e1scaras faciales detectadas en anuncios usamos ese procedimiento para identificar diversas muestras de otras im\u00e1genes de barbijos. Ese conjunto de datos se usa para volver a entrenar a nuestro clasificador de anuncios. Mediante el empleo de ejemplos detectados por el clasificador podemos evitar que circulen anuncios que infrinjan las pol\u00edticas para m\u00e1scaras faciales en diez veces m\u00e1s que cuando utilizamos \u00fanicamente la funci\u00f3n de coincidencia. Modelos de entrenamiento r\u00e1pido de visi\u00f3n para Marketplace\u00a0 Cuando las personas venden cosas a trav\u00e9s de Marketplace, usan im\u00e1genes con fondos, \u00e1ngulos de c\u00e1mara, detalles y calidad en general muy diferentes. Esto puede hacer que sea m\u00e1s dif\u00edcil para los modelos de visi\u00f3n reconocer elementos que si se tratara, por ejemplo, de fotos de un cat\u00e1logo tomadas profesionalmente y con fondos lisos. A lo largo de los a\u00f1os, hemos aprovechado varias t\u00e9cnicas de adaptaci\u00f3n de dominios para implementar cientos de modelos de clasificaci\u00f3n y detecci\u00f3n de objetos que funcionan bien en estas desafiantes condiciones del mundo real. Las lecciones que nos han dejado estos esfuerzos nos llevaron a invertir en la construcci\u00f3n de una plataforma sobre la base de PyTorch, que nos permite capacitar e implementar r\u00e1pidamente clasificadores\/detectores a pedido para nuevas clases de im\u00e1genes y videos. Esta plataforma aprovecha el trabajo innovador de Inteligencia Artificial de Facebook en la capacitaci\u00f3n de desarrollos de \u00faltima generaci\u00f3n sobre miles de millones de fotos etiquetadas. Tambi\u00e9n emplea t\u00e9cnicas de aumento de datos que nos permiten impulsar modelos con cantidades limitadas de datos sin obviar la diversidad que se ve en las fotos de productos de Marketplace. Despu\u00e9s de que comenz\u00f3 la crisis del coronavirus, utilizamos esta plataforma para entrenar e implementar clasificadores para m\u00e1scaras faciales, desinfectantes y toallas sanitarias. Primero, recopilamos fotos p\u00fablicas de estos productos y luego ajustamos y aumentamos esos datos. Para mejorar la precisi\u00f3n, tambi\u00e9n agregamos miles de im\u00e1genes \u00abnegativas\u00bb de elementos que un modelo podr\u00eda confundir con una m\u00e1scara facial. Despu\u00e9s de la capacitaci\u00f3n y la evaluaci\u00f3n fuera de l\u00ednea, implementamos el concepto en nuestra plataforma\u00a0 y lo aplicamos retroactivamente a las im\u00e1genes de Marketplace. Estos modelos ahora se est\u00e1n ejecutando globalmente en los nuevos listados de Marketplace. Planeamos continuar invirtiendo en la plataforma y seguir trabajando para mejorar los modelos anteriores, especialmente a medida que el ciclo de retroalimentaci\u00f3n nos presenta m\u00e1s datos. Estas se\u00f1ales tambi\u00e9n ser\u00e1n utilizadas por clasificadores multimodales, cuyo objetivo es mirar en forma amplia a las publicaciones.\u00a0 M\u00e1s esfuerzos para detectar desinformaci\u00f3n y contenido da\u00f1ino Los problemas de desinformaci\u00f3n y los intentos de vender art\u00edculos prohibidos no comenzaron con la pandemia de COVID-19. Para abordar estos y otros desaf\u00edos, Facebook ha realizado inversiones a largo plazo en la investigaci\u00f3n de sistemas de razonamiento visual y comprensi\u00f3n multimodal, desarrollando nuevas t\u00e9cnicas de aprendizaje autosupervisado y construyendo plataformas que nos permiten pasar r\u00e1pidamente de la investigaci\u00f3n a la producci\u00f3n a escala. Hemos visto c\u00f3mo lo que hasta hace algunos a\u00f1os era considerado investigaci\u00f3n de vanguardia ahora es una realidad que nos ayuda a mejorar. Confiamos en que podemos adquirir nuevas t\u00e9cnicas y herramientas de investigaci\u00f3n y usarlas para proteger mejor a las personas en nuestras plataformas.","protected":false},"author":108706932,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[1],"tags":[],"class_list":["post-21487","post","type-post","status-publish","format-standard","hentry","category-uncategorized"],"yoast_head":"\nUso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo | Acerca de Meta<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo | Acerca de Meta\" \/>\n<meta property=\"og:description\" content=\"La pandemia de COVID-19 es una emergencia sanitaria incre\u00edblemente compleja, que evoluciona r\u00e1pidamente a nivel global. En Facebook estamos comprometidos a prevenir la difusi\u00f3n de informaci\u00f3n falsa y enga\u00f1osa en nuestras plataformas. La desinformaci\u00f3n sobre la enfermedad puede evolucionar a gran velocidad y resulta dif\u00edcil distinguirla de los reportes leg\u00edtimos. La misma pieza de desinformaci\u00f3n puede aparecer en formatos ligeramente diferentes, como una imagen modificada en apenas unos pocos p\u00edxeles recortados o aumentados mediante el uso de filtros. Estas variaciones pueden no ser intencionales, pero tambi\u00e9n pueden tratarse de acciones deliberadas para evitar ser detectadas. Es importante evitar la calificaci\u00f3n err\u00f3nea de un contenido leg\u00edtimo, y catalogarlo como si fuera desinformaci\u00f3n, ya que puede afectar la posibilidad de que las personas se expresen en nuestras plataformas.\u00a0 La Inteligencia Artificial es crucial para enfrentar estos retos y prevenir la difusi\u00f3n de desinformaci\u00f3n, ya que nos permite potenciar el trabajo de los verificadores independientes que revisan contenido en nuestros servicios. Trabajamos con m\u00e1s de 60 organizaciones de verificaci\u00f3n de informaci\u00f3n en todo el mundo, que analizan publicaciones en m\u00e1s de 50 idiomas. Desde que empez\u00f3 la pandemia, hemos usado nuestros sistemas de Inteligencia Artificial y desarrollado nuevos para tratar material relacionado con el COVID-19 y que los chequeadores puedan identificar las piezas falsas y alertar a las personas cuando intenten compartirlas.\u00a0 Adem\u00e1s de detectar la desinformaci\u00f3n, nuestros sistemas de Inteligencia Artificial nos est\u00e1n ayudando con otros retos relacionados a la pandemia. Hemos desarrollado nuevos clasificadores de visi\u00f3n para hacer cumplir nuestra prohibici\u00f3n temporal a los anuncios comerciales de m\u00e1scaras faciales y otros productos. Debido a que algunas veces las personas intentan modificar los avisos de esos productos para evitar a nuestros sistemas, tambi\u00e9n estamos corriendo procesos para identificar coincidencias basadas en caracter\u00edsticas locales que ayudan a detectar instancias que fueron manipuladas a una gran escala. En muchos casos, podemos tomar acciones proactivamente, antes incluso de que alguien lo reporte.\u00a0 En abril, colocamos etiquetas de advertencia a cerca de 50 millones de publicaciones relacionadas con el COVID-19 en Facebook, en base a unos 7.500 art\u00edculos de nuestros verificadores. Desde el 1 de mayo, hemos removido m\u00e1s de 2,5 millones de piezas de contenido sobre venta de m\u00e1scaras faciales, desinfectantes para manos, toallas sanitarias y tests para detectar el virus. Pero estos son retos dif\u00edciles y nuestras herramientas no son perfectas. Se trata de un trabajo constante que nunca puede considerarse terminado. En esta publicaci\u00f3n nos estamos enfocando en algunos de nuestros esfuerzos en el campo de la visi\u00f3n por computadora, pero estos problemas requieren de un amplio conjunto de herramientas de Inteligencia Artificial. Tenemos mucho trabajo por hacer, pero estamos seguros que podemos seguir construyendo en base a lo que ya hicimos, mejorar nuestros sistemas y hacer m\u00e1s para proteger a las personas del contenido da\u00f1ino relacionado a la pandemia.\u00a0\u00a0 Uso de Inteligencia Artificial para potenciar el trabajo de los verificadores contra de la desinformaci\u00f3n Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras   Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras. Estos dos ejemplos muestran copias casi exactas de desinformaci\u00f3n, siendo esta \u00faltima una captura de pantalla de la primera. Cualquier persona podr\u00eda decir que estas im\u00e1genes son pr\u00e1cticamente id\u00e9nticas. De hecho, a simple vista puede ser dif\u00edcil ver las diferencias. Los sistemas de visi\u00f3n por computadora tambi\u00e9n pueden tener dificultades para detectar esas coincidencias, porque aunque el contenido es id\u00e9ntico, los p\u00edxeles no lo son.\u00a0 Es extremadamente importante que estos sistemas sean tan precisos como sea posible, porque un error puede llevar a que se ejecute una acci\u00f3n sobre un contenido que no viola nuestras pol\u00edticas. El ejemplo a continuaci\u00f3n muestra una versi\u00f3n similar que no deber\u00eda ser clasificada como desinformaci\u00f3n.\u00a0 Texto: No hallan COVID-19 en papel higi\u00e9nico. Ninguna cepa del virus mortal se reproduce r\u00e1pidamente en las fibras. Esta \u00faltima imagen es muy similar a las anteriores, pero su texto no contiene desinformaci\u00f3n sobre el virus. Cuando una pieza de contenido es calificada como falsa por nuestros verificadores de informaci\u00f3n independientes reducimos su distribuci\u00f3n y mostramos etiquetas de advertencia con m\u00e1s contexto (m\u00e1s detalles, aqu\u00ed). Como lo hemos mencionado anteriormente, estas etiquetas de advertencia son una herramienta eficiente para enfrentar la desinformaci\u00f3n. Cuando aparecen, en el 95% de los casos las personas optan por no ver el contenido marcado. SimSearchNet, un modelo de red neuronal complejo, desarrollado espec\u00edficamente para detectar duplicados casi exactos, ahora nos est\u00e1 ayudando a hacer este trabajo. Una vez que los verificadores determinan que una imagen contiene informaci\u00f3n enga\u00f1osa o falsa sobre el nuevo coronavirus, SimSearch, como parte de nuestro sistema de indexaci\u00f3n y comparaci\u00f3n de im\u00e1genes de extremo a extremo, es capaz de reconocer coincidencias casi duplicadas para que podamos poner etiquetas de advertencia.\u00a0 Esto es particularmente importante porque por cada pieza de desinformaci\u00f3n que los verificadores identifican, podr\u00edan haber miles de millones de copias. El uso de Inteligencia Artificial para detectar estas coincidencias permite a los verificadores enfocarse en detectar nuevas instancias de desinformaci\u00f3n en lugar de variaciones casi id\u00e9nticas de contenido que ya hayan visto.\u00a0 SimSearchNet se basa en una colaboraci\u00f3n de varios a\u00f1os entre investigadores especializados en Inteligencia Artificial de Facebook, ingenieros, y muchos otros equipos de la compa\u00f1\u00eda. Se basa en a\u00f1os de investigaci\u00f3n en visi\u00f3n por computadora en Facebook, particularmente, en la construcci\u00f3n de representaciones compactas que nos permiten indexar y buscar r\u00e1pidamente fotos a escala.\u00a0 Tambi\u00e9n usa la misma infraestructura de coincidencia a gran escala se emplea para detectar otro contenido da\u00f1ino. Este sistema opera sobre cada imagen subida a Facebook e Instagram y las compara con bases de datos espec\u00edficas curadas manualmente. Esto representa miles de millones de im\u00e1genes verificadas por d\u00eda, incluidas las bases de datos hechas para detectar desinformaci\u00f3n sobre COVID-19. Frenar la venta de productos para el COVID-19 incluso cuando se intenta evitar que sean detectados Desde que empez\u00f3 la crisis, hemos trabajado para proteger a las personas de aquellos que tratan de sacar provecho econ\u00f3mico de esta emergencia. Para identificar mejor y remover anuncios de productos como m\u00e1scaras faciales, desinfectante de manos, toallas sanitarias y tests para detectar COVID-19, hemos implementado un sistema que utiliza caracter\u00edsticas locales a nivel de imagen para hallar anuncios alterados. Esto nos ayuda proactivamente a evitar anunciantes que intentan evadir nuestros sistemas de Inteligencia Artificial.\u00a0 Mantenemos una base de datos extra\u00edda de anuncios relacionados con COVID-19 que violan nuestras pol\u00edticas y despu\u00e9s verificamos im\u00e1genes en nuevos anuncios, usando el sistema para instancias coincidentes.\u00a0 Esta soluci\u00f3n basada en caracter\u00edsticas locales nos permite detectar de mejor manera anuncios manipulados para enfrentar t\u00e1cticas de modificaci\u00f3n comunes, como el recorte, la rotaci\u00f3n, la oclusi\u00f3n y el ruido. El proceso de resultados de instancias coincidentes ya est\u00e1 rechazando anuncios en forma autom\u00e1tica.\u00a0 Tambi\u00e9n hemos usado las instancias coincidentes en otros sistemas de integridad de anuncios para hacer cumplir las normas relacionadas al COVID-19. Por ejemplo, al tomar im\u00e1genes recortadas de m\u00e1scaras faciales detectadas en anuncios usamos ese procedimiento para identificar diversas muestras de otras im\u00e1genes de barbijos. Ese conjunto de datos se usa para volver a entrenar a nuestro clasificador de anuncios. Mediante el empleo de ejemplos detectados por el clasificador podemos evitar que circulen anuncios que infrinjan las pol\u00edticas para m\u00e1scaras faciales en diez veces m\u00e1s que cuando utilizamos \u00fanicamente la funci\u00f3n de coincidencia. Modelos de entrenamiento r\u00e1pido de visi\u00f3n para Marketplace\u00a0 Cuando las personas venden cosas a trav\u00e9s de Marketplace, usan im\u00e1genes con fondos, \u00e1ngulos de c\u00e1mara, detalles y calidad en general muy diferentes. Esto puede hacer que sea m\u00e1s dif\u00edcil para los modelos de visi\u00f3n reconocer elementos que si se tratara, por ejemplo, de fotos de un cat\u00e1logo tomadas profesionalmente y con fondos lisos. A lo largo de los a\u00f1os, hemos aprovechado varias t\u00e9cnicas de adaptaci\u00f3n de dominios para implementar cientos de modelos de clasificaci\u00f3n y detecci\u00f3n de objetos que funcionan bien en estas desafiantes condiciones del mundo real. Las lecciones que nos han dejado estos esfuerzos nos llevaron a invertir en la construcci\u00f3n de una plataforma sobre la base de PyTorch, que nos permite capacitar e implementar r\u00e1pidamente clasificadores\/detectores a pedido para nuevas clases de im\u00e1genes y videos. Esta plataforma aprovecha el trabajo innovador de Inteligencia Artificial de Facebook en la capacitaci\u00f3n de desarrollos de \u00faltima generaci\u00f3n sobre miles de millones de fotos etiquetadas. Tambi\u00e9n emplea t\u00e9cnicas de aumento de datos que nos permiten impulsar modelos con cantidades limitadas de datos sin obviar la diversidad que se ve en las fotos de productos de Marketplace. Despu\u00e9s de que comenz\u00f3 la crisis del coronavirus, utilizamos esta plataforma para entrenar e implementar clasificadores para m\u00e1scaras faciales, desinfectantes y toallas sanitarias. Primero, recopilamos fotos p\u00fablicas de estos productos y luego ajustamos y aumentamos esos datos. Para mejorar la precisi\u00f3n, tambi\u00e9n agregamos miles de im\u00e1genes \u00abnegativas\u00bb de elementos que un modelo podr\u00eda confundir con una m\u00e1scara facial. Despu\u00e9s de la capacitaci\u00f3n y la evaluaci\u00f3n fuera de l\u00ednea, implementamos el concepto en nuestra plataforma\u00a0 y lo aplicamos retroactivamente a las im\u00e1genes de Marketplace. Estos modelos ahora se est\u00e1n ejecutando globalmente en los nuevos listados de Marketplace. Planeamos continuar invirtiendo en la plataforma y seguir trabajando para mejorar los modelos anteriores, especialmente a medida que el ciclo de retroalimentaci\u00f3n nos presenta m\u00e1s datos. Estas se\u00f1ales tambi\u00e9n ser\u00e1n utilizadas por clasificadores multimodales, cuyo objetivo es mirar en forma amplia a las publicaciones.\u00a0 M\u00e1s esfuerzos para detectar desinformaci\u00f3n y contenido da\u00f1ino Los problemas de desinformaci\u00f3n y los intentos de vender art\u00edculos prohibidos no comenzaron con la pandemia de COVID-19. Para abordar estos y otros desaf\u00edos, Facebook ha realizado inversiones a largo plazo en la investigaci\u00f3n de sistemas de razonamiento visual y comprensi\u00f3n multimodal, desarrollando nuevas t\u00e9cnicas de aprendizaje autosupervisado y construyendo plataformas que nos permiten pasar r\u00e1pidamente de la investigaci\u00f3n a la producci\u00f3n a escala. Hemos visto c\u00f3mo lo que hasta hace algunos a\u00f1os era considerado investigaci\u00f3n de vanguardia ahora es una realidad que nos ayuda a mejorar. Confiamos en que podemos adquirir nuevas t\u00e9cnicas y herramientas de investigaci\u00f3n y usarlas para proteger mejor a las personas en nuestras plataformas.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\" \/>\n<meta property=\"og:site_name\" content=\"Acerca de Meta\" \/>\n<meta property=\"article:published_time\" content=\"2020-05-12T17:26:02+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890\" \/>\n<meta name=\"author\" content=\"gigifb\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Meta\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"9 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\"},\"author\":\"Facebook company\",\"headline\":\"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo\",\"datePublished\":\"2020-05-12T17:26:02+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\"},\"wordCount\":1845,\"publisher\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/#organization\"},\"image\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890\",\"articleSection\":[\"Uncategorized\"],\"inLanguage\":\"es\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\",\"url\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\",\"name\":\"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo | Acerca de Meta\",\"isPartOf\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890\",\"datePublished\":\"2020-05-12T17:26:02+00:00\",\"breadcrumb\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/\"]}],\"author\":\"Acerca de Meta\"},{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage\",\"url\":\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890\",\"contentUrl\":\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/about.fb.com\/ltam\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/about.fb.com\/ltam\/#website\",\"url\":\"https:\/\/about.fb.com\/news\/\",\"name\":\"Acerca de Meta\",\"description\":\"\",\"publisher\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/about.fb.com\/ltam\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"es\",\"alternateName\":[\"Meta Newsroom\",\"Meta\"]},{\"@type\":\"Organization\",\"@id\":\"https:\/\/about.fb.com\/ltam\/#organization\",\"name\":\"Meta\",\"url\":\"https:\/\/about.fb.com\/ltam\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/about.fb.com\/ltam\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2021\/10\/meta-social-16x9-1.jpg?fit=8000%2C4500\",\"contentUrl\":\"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2021\/10\/meta-social-16x9-1.jpg?fit=8000%2C4500\",\"width\":8000,\"height\":4500,\"caption\":\"Meta\"},\"image\":{\"@id\":\"https:\/\/about.fb.com\/ltam\/#\/schema\/logo\/image\/\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo | Acerca de Meta","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/","og_locale":"es_ES","og_type":"article","og_title":"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo | Acerca de Meta","og_description":"La pandemia de COVID-19 es una emergencia sanitaria incre\u00edblemente compleja, que evoluciona r\u00e1pidamente a nivel global. En Facebook estamos comprometidos a prevenir la difusi\u00f3n de informaci\u00f3n falsa y enga\u00f1osa en nuestras plataformas. La desinformaci\u00f3n sobre la enfermedad puede evolucionar a gran velocidad y resulta dif\u00edcil distinguirla de los reportes leg\u00edtimos. La misma pieza de desinformaci\u00f3n puede aparecer en formatos ligeramente diferentes, como una imagen modificada en apenas unos pocos p\u00edxeles recortados o aumentados mediante el uso de filtros. Estas variaciones pueden no ser intencionales, pero tambi\u00e9n pueden tratarse de acciones deliberadas para evitar ser detectadas. Es importante evitar la calificaci\u00f3n err\u00f3nea de un contenido leg\u00edtimo, y catalogarlo como si fuera desinformaci\u00f3n, ya que puede afectar la posibilidad de que las personas se expresen en nuestras plataformas.\u00a0 La Inteligencia Artificial es crucial para enfrentar estos retos y prevenir la difusi\u00f3n de desinformaci\u00f3n, ya que nos permite potenciar el trabajo de los verificadores independientes que revisan contenido en nuestros servicios. Trabajamos con m\u00e1s de 60 organizaciones de verificaci\u00f3n de informaci\u00f3n en todo el mundo, que analizan publicaciones en m\u00e1s de 50 idiomas. Desde que empez\u00f3 la pandemia, hemos usado nuestros sistemas de Inteligencia Artificial y desarrollado nuevos para tratar material relacionado con el COVID-19 y que los chequeadores puedan identificar las piezas falsas y alertar a las personas cuando intenten compartirlas.\u00a0 Adem\u00e1s de detectar la desinformaci\u00f3n, nuestros sistemas de Inteligencia Artificial nos est\u00e1n ayudando con otros retos relacionados a la pandemia. Hemos desarrollado nuevos clasificadores de visi\u00f3n para hacer cumplir nuestra prohibici\u00f3n temporal a los anuncios comerciales de m\u00e1scaras faciales y otros productos. Debido a que algunas veces las personas intentan modificar los avisos de esos productos para evitar a nuestros sistemas, tambi\u00e9n estamos corriendo procesos para identificar coincidencias basadas en caracter\u00edsticas locales que ayudan a detectar instancias que fueron manipuladas a una gran escala. En muchos casos, podemos tomar acciones proactivamente, antes incluso de que alguien lo reporte.\u00a0 En abril, colocamos etiquetas de advertencia a cerca de 50 millones de publicaciones relacionadas con el COVID-19 en Facebook, en base a unos 7.500 art\u00edculos de nuestros verificadores. Desde el 1 de mayo, hemos removido m\u00e1s de 2,5 millones de piezas de contenido sobre venta de m\u00e1scaras faciales, desinfectantes para manos, toallas sanitarias y tests para detectar el virus. Pero estos son retos dif\u00edciles y nuestras herramientas no son perfectas. Se trata de un trabajo constante que nunca puede considerarse terminado. En esta publicaci\u00f3n nos estamos enfocando en algunos de nuestros esfuerzos en el campo de la visi\u00f3n por computadora, pero estos problemas requieren de un amplio conjunto de herramientas de Inteligencia Artificial. Tenemos mucho trabajo por hacer, pero estamos seguros que podemos seguir construyendo en base a lo que ya hicimos, mejorar nuestros sistemas y hacer m\u00e1s para proteger a las personas del contenido da\u00f1ino relacionado a la pandemia.\u00a0\u00a0 Uso de Inteligencia Artificial para potenciar el trabajo de los verificadores contra de la desinformaci\u00f3n Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras   Texto: Hallan COVID-19 en papel higi\u00e9nico. Cepa del virus mortal se reproduce r\u00e1pidamente en las fibras. Estos dos ejemplos muestran copias casi exactas de desinformaci\u00f3n, siendo esta \u00faltima una captura de pantalla de la primera. Cualquier persona podr\u00eda decir que estas im\u00e1genes son pr\u00e1cticamente id\u00e9nticas. De hecho, a simple vista puede ser dif\u00edcil ver las diferencias. Los sistemas de visi\u00f3n por computadora tambi\u00e9n pueden tener dificultades para detectar esas coincidencias, porque aunque el contenido es id\u00e9ntico, los p\u00edxeles no lo son.\u00a0 Es extremadamente importante que estos sistemas sean tan precisos como sea posible, porque un error puede llevar a que se ejecute una acci\u00f3n sobre un contenido que no viola nuestras pol\u00edticas. El ejemplo a continuaci\u00f3n muestra una versi\u00f3n similar que no deber\u00eda ser clasificada como desinformaci\u00f3n.\u00a0 Texto: No hallan COVID-19 en papel higi\u00e9nico. Ninguna cepa del virus mortal se reproduce r\u00e1pidamente en las fibras. Esta \u00faltima imagen es muy similar a las anteriores, pero su texto no contiene desinformaci\u00f3n sobre el virus. Cuando una pieza de contenido es calificada como falsa por nuestros verificadores de informaci\u00f3n independientes reducimos su distribuci\u00f3n y mostramos etiquetas de advertencia con m\u00e1s contexto (m\u00e1s detalles, aqu\u00ed). Como lo hemos mencionado anteriormente, estas etiquetas de advertencia son una herramienta eficiente para enfrentar la desinformaci\u00f3n. Cuando aparecen, en el 95% de los casos las personas optan por no ver el contenido marcado. SimSearchNet, un modelo de red neuronal complejo, desarrollado espec\u00edficamente para detectar duplicados casi exactos, ahora nos est\u00e1 ayudando a hacer este trabajo. Una vez que los verificadores determinan que una imagen contiene informaci\u00f3n enga\u00f1osa o falsa sobre el nuevo coronavirus, SimSearch, como parte de nuestro sistema de indexaci\u00f3n y comparaci\u00f3n de im\u00e1genes de extremo a extremo, es capaz de reconocer coincidencias casi duplicadas para que podamos poner etiquetas de advertencia.\u00a0 Esto es particularmente importante porque por cada pieza de desinformaci\u00f3n que los verificadores identifican, podr\u00edan haber miles de millones de copias. El uso de Inteligencia Artificial para detectar estas coincidencias permite a los verificadores enfocarse en detectar nuevas instancias de desinformaci\u00f3n en lugar de variaciones casi id\u00e9nticas de contenido que ya hayan visto.\u00a0 SimSearchNet se basa en una colaboraci\u00f3n de varios a\u00f1os entre investigadores especializados en Inteligencia Artificial de Facebook, ingenieros, y muchos otros equipos de la compa\u00f1\u00eda. Se basa en a\u00f1os de investigaci\u00f3n en visi\u00f3n por computadora en Facebook, particularmente, en la construcci\u00f3n de representaciones compactas que nos permiten indexar y buscar r\u00e1pidamente fotos a escala.\u00a0 Tambi\u00e9n usa la misma infraestructura de coincidencia a gran escala se emplea para detectar otro contenido da\u00f1ino. Este sistema opera sobre cada imagen subida a Facebook e Instagram y las compara con bases de datos espec\u00edficas curadas manualmente. Esto representa miles de millones de im\u00e1genes verificadas por d\u00eda, incluidas las bases de datos hechas para detectar desinformaci\u00f3n sobre COVID-19. Frenar la venta de productos para el COVID-19 incluso cuando se intenta evitar que sean detectados Desde que empez\u00f3 la crisis, hemos trabajado para proteger a las personas de aquellos que tratan de sacar provecho econ\u00f3mico de esta emergencia. Para identificar mejor y remover anuncios de productos como m\u00e1scaras faciales, desinfectante de manos, toallas sanitarias y tests para detectar COVID-19, hemos implementado un sistema que utiliza caracter\u00edsticas locales a nivel de imagen para hallar anuncios alterados. Esto nos ayuda proactivamente a evitar anunciantes que intentan evadir nuestros sistemas de Inteligencia Artificial.\u00a0 Mantenemos una base de datos extra\u00edda de anuncios relacionados con COVID-19 que violan nuestras pol\u00edticas y despu\u00e9s verificamos im\u00e1genes en nuevos anuncios, usando el sistema para instancias coincidentes.\u00a0 Esta soluci\u00f3n basada en caracter\u00edsticas locales nos permite detectar de mejor manera anuncios manipulados para enfrentar t\u00e1cticas de modificaci\u00f3n comunes, como el recorte, la rotaci\u00f3n, la oclusi\u00f3n y el ruido. El proceso de resultados de instancias coincidentes ya est\u00e1 rechazando anuncios en forma autom\u00e1tica.\u00a0 Tambi\u00e9n hemos usado las instancias coincidentes en otros sistemas de integridad de anuncios para hacer cumplir las normas relacionadas al COVID-19. Por ejemplo, al tomar im\u00e1genes recortadas de m\u00e1scaras faciales detectadas en anuncios usamos ese procedimiento para identificar diversas muestras de otras im\u00e1genes de barbijos. Ese conjunto de datos se usa para volver a entrenar a nuestro clasificador de anuncios. Mediante el empleo de ejemplos detectados por el clasificador podemos evitar que circulen anuncios que infrinjan las pol\u00edticas para m\u00e1scaras faciales en diez veces m\u00e1s que cuando utilizamos \u00fanicamente la funci\u00f3n de coincidencia. Modelos de entrenamiento r\u00e1pido de visi\u00f3n para Marketplace\u00a0 Cuando las personas venden cosas a trav\u00e9s de Marketplace, usan im\u00e1genes con fondos, \u00e1ngulos de c\u00e1mara, detalles y calidad en general muy diferentes. Esto puede hacer que sea m\u00e1s dif\u00edcil para los modelos de visi\u00f3n reconocer elementos que si se tratara, por ejemplo, de fotos de un cat\u00e1logo tomadas profesionalmente y con fondos lisos. A lo largo de los a\u00f1os, hemos aprovechado varias t\u00e9cnicas de adaptaci\u00f3n de dominios para implementar cientos de modelos de clasificaci\u00f3n y detecci\u00f3n de objetos que funcionan bien en estas desafiantes condiciones del mundo real. Las lecciones que nos han dejado estos esfuerzos nos llevaron a invertir en la construcci\u00f3n de una plataforma sobre la base de PyTorch, que nos permite capacitar e implementar r\u00e1pidamente clasificadores\/detectores a pedido para nuevas clases de im\u00e1genes y videos. Esta plataforma aprovecha el trabajo innovador de Inteligencia Artificial de Facebook en la capacitaci\u00f3n de desarrollos de \u00faltima generaci\u00f3n sobre miles de millones de fotos etiquetadas. Tambi\u00e9n emplea t\u00e9cnicas de aumento de datos que nos permiten impulsar modelos con cantidades limitadas de datos sin obviar la diversidad que se ve en las fotos de productos de Marketplace. Despu\u00e9s de que comenz\u00f3 la crisis del coronavirus, utilizamos esta plataforma para entrenar e implementar clasificadores para m\u00e1scaras faciales, desinfectantes y toallas sanitarias. Primero, recopilamos fotos p\u00fablicas de estos productos y luego ajustamos y aumentamos esos datos. Para mejorar la precisi\u00f3n, tambi\u00e9n agregamos miles de im\u00e1genes \u00abnegativas\u00bb de elementos que un modelo podr\u00eda confundir con una m\u00e1scara facial. Despu\u00e9s de la capacitaci\u00f3n y la evaluaci\u00f3n fuera de l\u00ednea, implementamos el concepto en nuestra plataforma\u00a0 y lo aplicamos retroactivamente a las im\u00e1genes de Marketplace. Estos modelos ahora se est\u00e1n ejecutando globalmente en los nuevos listados de Marketplace. Planeamos continuar invirtiendo en la plataforma y seguir trabajando para mejorar los modelos anteriores, especialmente a medida que el ciclo de retroalimentaci\u00f3n nos presenta m\u00e1s datos. Estas se\u00f1ales tambi\u00e9n ser\u00e1n utilizadas por clasificadores multimodales, cuyo objetivo es mirar en forma amplia a las publicaciones.\u00a0 M\u00e1s esfuerzos para detectar desinformaci\u00f3n y contenido da\u00f1ino Los problemas de desinformaci\u00f3n y los intentos de vender art\u00edculos prohibidos no comenzaron con la pandemia de COVID-19. Para abordar estos y otros desaf\u00edos, Facebook ha realizado inversiones a largo plazo en la investigaci\u00f3n de sistemas de razonamiento visual y comprensi\u00f3n multimodal, desarrollando nuevas t\u00e9cnicas de aprendizaje autosupervisado y construyendo plataformas que nos permiten pasar r\u00e1pidamente de la investigaci\u00f3n a la producci\u00f3n a escala. Hemos visto c\u00f3mo lo que hasta hace algunos a\u00f1os era considerado investigaci\u00f3n de vanguardia ahora es una realidad que nos ayuda a mejorar. Confiamos en que podemos adquirir nuevas t\u00e9cnicas y herramientas de investigaci\u00f3n y usarlas para proteger mejor a las personas en nuestras plataformas.","og_url":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/","og_site_name":"Acerca de Meta","article_published_time":"2020-05-12T17:26:02+00:00","og_image":[{"url":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890","type":"","width":"","height":""}],"author":"gigifb","twitter_card":"summary_large_image","twitter_misc":{"Written by":"Meta","Est. reading time":"9 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#article","isPartOf":{"@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/"},"author":"Facebook company","headline":"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo","datePublished":"2020-05-12T17:26:02+00:00","mainEntityOfPage":{"@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/"},"wordCount":1845,"publisher":{"@id":"https:\/\/about.fb.com\/ltam\/#organization"},"image":{"@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage"},"thumbnailUrl":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890","articleSection":["Uncategorized"],"inLanguage":"es"},{"@type":"WebPage","@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/","url":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/","name":"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo | Acerca de Meta","isPartOf":{"@id":"https:\/\/about.fb.com\/ltam\/#website"},"primaryImageOfPage":{"@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage"},"image":{"@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage"},"thumbnailUrl":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890","datePublished":"2020-05-12T17:26:02+00:00","breadcrumb":{"@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/"]}],"author":"Acerca de Meta"},{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#primaryimage","url":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890","contentUrl":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2020\/05\/Picture1.png?w=890"},{"@type":"BreadcrumbList","@id":"https:\/\/about.fb.com\/ltam\/news\/2020\/05\/uso-de-inteligencia-artificial-contra-la-desinformacion-sobre-covid-19-y-contenido-abusivo\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/about.fb.com\/ltam\/"},{"@type":"ListItem","position":2,"name":"Uso de Inteligencia Artificial contra la desinformaci\u00f3n sobre COVID-19 y contenido abusivo"}]},{"@type":"WebSite","@id":"https:\/\/about.fb.com\/ltam\/#website","url":"https:\/\/about.fb.com\/news\/","name":"Acerca de Meta","description":"","publisher":{"@id":"https:\/\/about.fb.com\/ltam\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/about.fb.com\/ltam\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"es","alternateName":["Meta Newsroom","Meta"]},{"@type":"Organization","@id":"https:\/\/about.fb.com\/ltam\/#organization","name":"Meta","url":"https:\/\/about.fb.com\/ltam\/","logo":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/about.fb.com\/ltam\/#\/schema\/logo\/image\/","url":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2021\/10\/meta-social-16x9-1.jpg?fit=8000%2C4500","contentUrl":"https:\/\/about.fb.com\/ltam\/wp-content\/uploads\/sites\/14\/2021\/10\/meta-social-16x9-1.jpg?fit=8000%2C4500","width":8000,"height":4500,"caption":"Meta"},"image":{"@id":"https:\/\/about.fb.com\/ltam\/#\/schema\/logo\/image\/"}}]}},"jetpack_featured_media_url":"","jetpack-related-posts":[],"jetpack_sharing_enabled":true,"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/posts\/21487","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/users\/108706932"}],"replies":[{"embeddable":true,"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/comments?post=21487"}],"version-history":[{"count":3,"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/posts\/21487\/revisions"}],"predecessor-version":[{"id":21494,"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/posts\/21487\/revisions\/21494"}],"wp:attachment":[{"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/media?parent=21487"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/categories?post=21487"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/about.fb.com\/ltam\/wp-json\/wp\/v2\/tags?post=21487"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}