Reconeixement facial d'Amazon.

La tecnologia de detecció facial que Amazon ha posat en pràctica, sovint identifica malament les dones, especialment les que tenen una pell més fosca, segons investigadors del MIT i la Universitat de Toronto.

Font: Wordpress.com

Els defensors de la privadesa i els defensors dels drets civils, han demanat a Amazon que deixi de comercialitzar el servei Rekognition a causa de les preocupacions sobre la discriminació contra les minories. Alguns inversors d'Amazon també han demanat a la companyia que s'aturi per temor a que Amazon sigui vulnerables a les denuncies.

Els investigadors van dir que en les seves proves, la tecnologia d' Amazon va qualificar de dones de pell més fosca com a homes en el 31 % del casos. Les dones més de pell més clara, van tenir una tassa d'error del 7%. Els homes de pell més fosca tenien un percentatge d'error del 1%, mentre que els homes de pell més clara, no tenien cap.

La intel·ligència artificial pot imitar les caracterítiques dels humans a mesura que van entrenant al sistema. El nou estudi,  adverteix sobre el potencial d'abús i d'amenaces en la privadesa i en les llibertats civils derivades de la tecnologia de detecció facial.

Matt Wood, gerent general d' intel·ligència artificial de la unitat cloud computing d'Amazon, va dir que l'estudi utilitza una tecnologia d'anàlisi "facial" i no de "reconeixement facial". Wood va dir que l'anàlisi facial "pot trobar cares en vídeos o imatges i assignar atributs genèrics com usar ulleres, el reconeixement és una tècnica diferent mitjançant la qual una cara individual es correspon amb cares en vídeos i imatges".

Font: Domini public

Els investigadors del MIT Media Lab, van proposar que les empreses haurien de comprovar tots els sistemes que analitzen les cares humanes mitjançant el seu contorn.

Si es ven un sistema que ha demostrat tenir falles important en el reconeixement de les cares humanes, possiblement els altres productes basats en la cara també tinguin falles.

Sembla ser que de moment Amazon no mostra  una especial preocupació en l'estudi.

S'ha estudiat la tecnologia d'Amazon perquè l'empresa la comercialitza . El compte de LinkedIn de Raji diu que actualment és una investigadora de intel·ligència artificial a Google, que competeix amb Amazon en oferir serveis de cloud computing.

Microsoft i IBM han millorat la seva tecnologia de reconeixement facial ja que els investigadors van descobrir problemes similars en un estudi del Maig del 2017. El seu segon estudi, que incloïa Amazon, es va fer a l'Agost del 2018. El seu treball s'ha  presentat recentment en una conferència d'intel·ligència artificial a Honolulu.

Font: Universitat de Toronto