Los visitantes siguieron navegando. La seguridad no reaccionó (hasta que se activaron las alarmas). Los hombres desaparecieron entre el tráfico de la ciudad antiguamente de que nadie se diera cuenta de lo que había sucedido.

Más tarde, los investigadores revelaron que los ladrones llevaban chalecos de inscripción visibilidad, disfrazados de trabajadores de la construcción. Llegaron con un montamuebles, poco habitual en las estrechas calles de París, y lo utilizaron para obtener a un corredor con vistas al Sena. Vestidos como trabajadores, parecían pertenecer a ese zona.

Esta logística funcionó porque no vemos el mundo objetivamente. Lo vemos a través de categorías, a través de lo que esperamos ver. Los ladrones entendieron las categorías sociales que percibimos como “normales” y las explotaron para evitar sospechas. Muchos inteligencia industrial Los sistemas (IA) funcionan de la misma guisa y, como resultado, son vulnerables a los mismos tipos de errores.

El sociólogo Erving Goffman describiría lo ocurrido en el Louvre utilizando su concepto de presentación de uno mismo: clan “padecer a punta” roles sociales adoptando las señales que otros esperan. Aquí, la representación de la normalidad se convirtió en el camuflaje valentísimo.

La sociología de la panorama.

Los seres humanos llevan a punta categorizaciones mentales todo el tiempo para dar sentido a las personas y los lugares. Cuando poco encaja en la categoría de “ordinario”, pasa desapercibido.

Los sistemas de inteligencia industrial utilizados para tareas como el agradecimiento facial y la detección de actividades sospechosas en un campo de acción pública funcionan de guisa similar. Para los humanos, la categorización es cultural. Para la IA, es matemático.

Pero los dos sistemas dependen de Patrones aprendidos en zona de existencia objetiva.. Correcto a que la IA aprende de los datos sobre quién parece “ordinario” y quién parece “sospechoso”, absorbe las categorías incluidas en sus datos de entrenamiento. Y esto lo hace susceptible al sesgo.

Los ladrones del Louvre no fueron vistos como peligrosos porque encajaban en una categoría confiable. En la IA, el mismo proceso puede tener el impacto contrario: las personas que no se ajustan a la norma estadística se vuelven más visibles y sometidas a un exploración excesivo.

Puede significar que un sistema de agradecimiento facial señale de guisa desproporcionada a ciertos grupos raciales o de artículos como amenazas potenciales y deje que otros pasen desapercibidos.

Una telescopio sociológica nos ayuda a ver que no se proxenetismo de cuestiones separadas. La IA no inventa sus categorías; aprende el nuestro. Cuando un sistema de visión por computadora se entrena con imágenes de seguridad donde lo “ordinario” se define por cuerpos, ropa o comportamiento particulares, reproduce esas suposiciones.

Así como los guardias del museo ignoraron a los ladrones porque parecían pertenecer, la IA puede ignorar ciertos patrones y reaccionar exageradamente delante otros.

La categorización, ya sea humana o algorítmica, es un pertrechos de doble filo. Nos ayuda a procesar información rápidamente, pero asimismo codifica nuestras suposiciones culturales. Tanto las personas como las máquinas dependen del agradecimiento de patrones, que es una logística apto pero imperfecta.

Una visión sociológica de la IA proxenetismo a los algoritmos como espejos: reflejan nuestras categorías y jerarquías sociales. En el caso del Louvre, el espejo está vuelto en torno a nosotros. Los ladrones tuvieron éxito no porque fueran invisibles, sino porque fueron vistos a través del telescopio de la normalidad. En términos de IA, pasaron la prueba de clasificación.

De las salas de los museos al formación espontáneo

Este vínculo entre percepción y categorización revela poco importante sobre nuestro mundo cada vez más algorítmico. Ya sea un miembro que decide quién parece sospechoso o una IA que decide quién parece un “caco”, el proceso subyacente es el mismo: asignar personas a categorías basadas en señales que parecen objetivas pero que se aprenden culturalmente.

Cuando un sistema de IA se describe como “sesgado”, a menudo significa que refleja esas categorías sociales con demasiada fidelidad. El atraco al Louvre nos recuerda que estas categorías no sólo moldean nuestras actitudes, sino que moldean lo que pasión la atención.

Luego del robo, El ministro de Civilización de Francia prometió nuevas cámaras y maduro seguridad. Pero no importa cuán avanzados lleguen a ser esos sistemas, seguirán dependiendo de la categorización. Cualquiera, o poco, debe arriesgarse qué se considera “comportamiento sospechoso”. Si esa valor se apoyo en suposiciones, persistirán los mismos puntos ciegos.

El robo del Louvre será recordado como uno de los robos a museos más espectaculares de Europa. Los ladrones tuvieron éxito porque dominaron la sociología de la apariencia: entendieron las categorías de normalidad y las utilizaron como herramientas.

Y al hacerlo, demostraron cómo tanto las personas como las máquinas pueden confundir la conformidad con la seguridad. Su éxito a plena luz del día no fue sólo un triunfo de la planificación. Fue un triunfo del pensamiento categórico, la misma razonamiento que subyace tanto a la percepción humana como a la inteligencia industrial.

La amonestación es clara: antiguamente de enseñar a las máquinas a ver mejor, primero debemos educarse a cuestionar cómo vemos.

Vicente CarlosCatedrático de IA para ciencias empresariales y de diligencia, Universidad de Queen en Belfast y tatiana teutónProfesor asociado de IA para negocios y logística, Universidad de Northampton.

Este artículo se republica desde La conversación bajo una inmoralidad Creative Commons. Lea el artículo innovador.