{"id":484766,"date":"2019-11-29T21:11:59","date_gmt":"2019-11-29T21:11:59","guid":{"rendered":"http:\/\/diarioelpopular.com\/?p=484766"},"modified":"2019-11-29T21:11:59","modified_gmt":"2019-11-29T21:11:59","slug":"facebook-potencia-el-arma-de-la-inteligencia-artificial-para-eliminar-contenidos-nocivos","status":"publish","type":"post","link":"https:\/\/diarioelpopular.com\/index.php\/2019\/11\/29\/facebook-potencia-el-arma-de-la-inteligencia-artificial-para-eliminar-contenidos-nocivos\/","title":{"rendered":"Facebook potencia el arma de la Inteligencia Artificial para eliminar contenidos nocivos"},"content":{"rendered":"

La red bloquea 1.700 millones de cuentas en un trimestre y el 90% de estas no llega a activarse<\/em><\/h4>\n

 <\/p>\n

\"\"

Aplicaci\u00f3n de Facebook en un tel\u00e9fono m\u00f3vil. FABIAN SOMMER DPA<\/p><\/div>\n

Acoso, incitaci\u00f3n al odio, propaganda terrorista<\/a>, cuentas falsas que manipulan la conversaci\u00f3n entre internautas \u2026 Rastrear y bloquear los contenidos abusivos y peligrosos que buscan su canal de circulaci\u00f3n en Facebook es la declarada prioridad de la red social con m\u00e1s usuarios del mundo, cuya imagen se ha visto lastrada por \u201cerrores\u201d y \u201cmalas experiencias\u201d como la emisi\u00f3n en directo de una masacre antimusulmana en Nueva Zelanda. Mediaron 17 minutos hasta que la filmaci\u00f3n del propio asesino fue desactivada. Ocho meses y medio despu\u00e9s, los responsables de la plataforma esgrimen el arma de la Inteligencia Artifical (AI) para lograr su objetivo de detectar autom\u00e1ticamente ese y otro tipo de materiales nocivos antes de que sean accesibles a otros usuarios. En el minuto cero.<\/p>\n

De los 1.700 millones de cuentas eliminadas por Facebook en el tercer trimestre del a\u00f1o, el 90% fueron interceptadas antes de que fueran activas, han explicado en Londres un grupo de expertos en producto e ingenier\u00eda que desarrollan lasherramientas tecnol\u00f3gicas<\/a> de la compa\u00f1\u00eda. Ese dato ha sido posible gracias a los avances en el software<\/em> a la hora de identificar contenidos que no cumplan los est\u00e1ndares fijados por la plataforma. Si la firma californiana depend\u00eda en sus inicios de que los usuarios alertaran sobre contenidos dudosos, a lo que sigui\u00f3 un proceso de revisi\u00f3n por parte de su personal, en el presente son los algoritmos los encargados de la detecci\u00f3n autom\u00e1tica de los materiales no deseados, aunque el proceso incluye equipos humanos que verifican la aplicaci\u00f3n del software.<\/p>\n

<\/a><\/p>\n
\n
\n

“El reto es continuo”, subraya Simon Cross, director de producto de Facebook<\/strong><\/em><\/p>\n<\/div>\n<\/div>\n<\/section>\n

Hoy por hoy, la detecci\u00f3n de antemano est\u00e1 por encima del 90% en muchos casos, pero resulta menos eficaz en \u00e1reas complejas como los discursos que propagan el odio y especialmente el acoso. Uno de los reiterados errores de la \u201cm\u00e1quina\u201d \u2013como los expertos reunidos en Londres denominan coloquialmente a la IA- es incurrir en \u201cfalsos positivos\u201d y \u201cfalsos negativos\u201d, es decir, en detectar irregularidades en un contenido cuando no las hay y viceversa. Es dif\u00edcil que un algoritmo pueda dirimir<\/a>, por ejemplo, si ciertos mensajes persiguen la difamaci\u00f3n o s\u00f3lo se trata de un broma, porque su contenido atiende al contexto. Se ha avanzado en la evaluaci\u00f3n de otros factores, como los patrones de comportamiento de ciertos usuarios en la plataforma, pero la intervenci\u00f3n humana sigue siendo necesaria.<\/p>\n

\u201cEl reto es continuo\u201d, subraya Simon Cross (product manager<\/em>), poniendo como ejemplo, b\u00e1sico pero ilustrativo, ciertas cuentas consagradas a la venta de c\u00e1nnabis: empezaron obviando el uso de la palabra marihuana para no ser detectados; luego recurrieron a fotograf\u00edas de la planta que la asemejaban al inocente br\u00f3coli, hasta que las mejoras tecnol\u00f3gicas en la plataforma permitieron extraer las im\u00e1genes del contexto; entonces optaron por otras aleg\u00f3ricas que imitaban a aquellas fotos del desayuno que tantos usuarios de Facebook son aficionados a colgar en la red\u2026La historia de esos enga\u00f1os a la \u201cm\u00e1quina\u201d aparece interminable. Por eso, admite, \u201ccuanto m\u00e1s se sofistica la tecnolog\u00eda m\u00e1s personal humano precisamos\u201d.<\/p>\n

<\/a><\/p>\n
\n
\n

De los 35.000 empleados que trabajan en el \u00e1mbito de seguridad de Facebook, 15.000 est\u00e1n volcados en la revisi\u00f3n de contenidos<\/strong><\/em><\/p>\n<\/div>\n<\/div>\n<\/section>\n

De los 35.000 empleados que trabajan en el \u00e1mbito de seguridad de Facebook, 15.000 est\u00e1n volcados en larevisi\u00f3n de contenidos<\/a>. \u201cLa Inteligencia Artificial nos permite lidiar con una escala de cuentas inabarcable para los humanos, pero el fuerte de \u00e9stos es el conocimiento del contexto (los matices, los giros del lenguaje coloquial, el manejo de idiomas minoritarios) que hacen inimaginable una IA sin intervenci\u00f3n humana\u201d, apostilla Cross.<\/p>\n

Los humanos tambi\u00e9n son los proveedores de los data<\/em> que alimentan la tecnolog\u00eda del aprendizaje autom\u00e1tico. El pasado 15 de marzo, los algoritmos no reconocieron como material eliminable de inmediato la matanza que un supremacista blanco estaba perpetrando \u2013y emitiendo en directo- en dos mezquitas de la localidad neozelandesa de Chistchurch. Desde entonces Facebook ha recabado la ayuda de fuerzas de seguridad de algunos pa\u00edses. como la Polic\u00eda Metropolitana de Londres, que les ha facilitado las im\u00e1genes capturadas por las c\u00e1maras corporales de los agentes durante los entrenamientos de la lucha antiterrorista. Los expertos de Facebook aseguran que la \u201cm\u00e1quina\u201d detecta hoy el 98% de la propaganda terrorista, pero el reto sigue siendo ese sensible 2% restante.<\/p>\n","protected":false},"excerpt":{"rendered":"

La red bloquea 1.700 millones de cuentas en un trimestre y el 90% de estas no llega a activarse   Acoso, incitaci\u00f3n al odio, propaganda…<\/p>\n","protected":false},"author":99,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11355],"tags":[],"class_list":["post-484766","post","type-post","status-publish","format-standard","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/484766","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/users\/99"}],"replies":[{"embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/comments?post=484766"}],"version-history":[{"count":1,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/484766\/revisions"}],"predecessor-version":[{"id":484768,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/posts\/484766\/revisions\/484768"}],"wp:attachment":[{"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/media?parent=484766"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/categories?post=484766"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/diarioelpopular.com\/index.php\/wp-json\/wp\/v2\/tags?post=484766"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}