Una investigación de Wired ha descubierto que el buscador de caras basado en inteligencia artificial, PimEyes, utilizó fotos de personas fallecidas sin permiso extraídas de la web Ancestry. Las usó como entrenamiento de la IA, así como para indexar a personas y sus familiares.

Cada vez está más claro que buena parte de los modelos de inteligencia artificial han utilizado fotos y dibujos protegidos por copyright para engordar su base de datos. O, aún más grave, fotos privadas, como es el caso de PimEyes, un buscador de rostros muy popular.

No debe ser muy agradable busca tu cara en páginas web y que salga una foto privada de tu hermano gemelo fallecido. O que puedas seguir el rastro de tus parientes y sus fotos, sin que esas personas hayan dado su permiso.

PimEyes, y la falta de respeto por los fallecidos

PimEyes es una buscador de rostros de personas. Subes una foto, y te dice en qué web y documentos de Internet aparece.

Aunque tiene opciones gratuitas de prueba, es un servicio de pago que cobra 20 euros por una única búsqueda, o 35,99 euros al mes, si quieres hacer más.

Irónicamente, este servicio se publicita como una forma de proteger tu privacidad, buscando sitios donde están tus fotos. Pero ellos no se preocupaban mucho por la privacidad de las imágenes que usaban para entrenar a su IA.

Segun la investigación de Wired, PimEyes usó fotos de personas fallecidas recopiladas de las web Ancestry, un servicio de creación de árboles genealógicos online. También las relaciones de parentesco entre ellas. Todo ello sin el permiso ni de Ancestry, ni de las personas implicadas.

Como pasó este fin de semana con Cerebral, que ha filtrado a plataformas publicitarias de Meta, TikTok y Google los datos privados de salud mental de 3 millones de pacientes, incluyendo enfermedades y tratamientos, la respuesta de PimEyes es la clásica: “ha sido sin querer“.

La startup reconoce en Wired que usó crawlers para crear su base de datos. Son rastreadores que peinan webs que tienen fotos, y copian todas las que pueden.

“PimEyes sólo rastrea sitios web que nos lo permiten oficialmente. Ha sido… una noticia muy desagradable que nuestros rastreadores se hayan saltado de alguna manera la norma“, explica a Wired Giorgi Gobronidze, director de PimEyes.

Cuando quieres sacar balones fuera, échale la culpa al software… Pese a ser un algoritmo que hace exactamente lo que se le pide.

Wired ha entrevistado a personas afectadas por este uso no autorizado de fotos de personas fallecidas: “Mi hermana está muerta. Ella no puede consentir o revocar su consentimiento para ser inscrita en esto“.

Tras la publicación de la investigación, al parecer PimEyes ha borrado las fotos de Ancestry, y la indexación de parentesco.

Tal como cuenta PetaPixel, no es la primera violación de la privacidad que comete esta compañía. Hace un tiempo fue criticada por aceptar fotos de niños en su buscador, lo que facilitaba la posibilidad de rastrearlos y acosarlos.

El uso fotos de personas fallecidas por parte de PimEyes para entrenar a su inteligencia artificial, es doblemente criticable. Primero, por emplear fotos privadas sin permiso. Y segundo, porque la mayoría de las fotos de Ancestry son de personas fallecidas, que pertenecen a árboles genealógicos creados por sus familiares para uso en esa web, no en un buscador de personas.