라이트 에이드는 연방 무역 위원회가 고객들에게 범죄를 누명 쓰고 부당하게 유색인종을 표적으로 삼은 것을 발견한 후 5년간 안면 인식 기술 사용을 금지하는 데 동의했습니다. FTC와 Rite Aid는 Rite Aid가 "도둑질이나 다른 범죄 행위를 할 가능성이 있는" 사람들을 식별하기 위해 수백 개의 상점에서 인공지능 기반 소프트웨어를 사용하고 상점에서 쫓아내거나 내부로 들어오는 것을 막는다고 고발한 후 화요일에 합의에 도달했습니다.
그러나 불완전한 기술로 인해 직원들은 거짓 양성 경보를 사용하여 고객을 범죄자로 잘못 인식했습니다. 공정위는 라이트에이드 직원들이 친구나 가족, 낯선 사람들 앞에서 사람들의 범죄 행위를 공개적으로 고발했다고 고발한 사례도 있습니다. 일부 고객은 잘못 구금되어 검색 대상이 되었다고 공정위는 밝혔습니다.
라이트 에이드는 성명을 통해 공정위와 "합의에 이르게 돼 기쁘다"면서도 "청의 고발장에 나온 안면인식 의혹에 근본적으로 동의하지 않는다"라고 밝혔습니다. 그 기술은 시범 프로그램이었고 "제한된 수의 상점"에서만 사용되었습니다. 그 테스트는 공정위의 조사가 시작되기 전에 3년 이상 전에 중단되었습니다.
2012년부터 2020년까지 고객 불만이 포함된 FTC의 법적 문서에는 라이트 에이드의 기술이 "소비자를 이전에 도둑이나 다른 문제아로 확인된 사람과 일치하는 것으로 잘못 표시했기 때문에 직원에 의해 일부 고객이 잘못 고발"되었다고 말했습니다. FTC는 안면 인식 소프트웨어는 대부분 흑인, 라틴계 및 아시아계의 대규모 커뮤니티가 있는 지역에 배치되었다고 말했습니다.
"라이트 에이드의 무분별한 안면 감시 시스템 사용은 고객들을 굴욕과 다른 해악에 직면하게 만들었고, 그 명령 위반은 소비자들의 민감한 정보를 위험에 빠뜨렸습니다"라고 FTC 소비자 보호국의 사무엘 레빈 국장이 발표했습니다. 제안된 주문은 라이트 에이드가 AI 기반 기술을 위치에 배치할 때 고객의 피해를 방지하기 위해 "종합적인 안전 조치를 시행"해야 한다는 것을 의미합니다. 이 명령은 또한 라이트 에이드가 "소비자에게 잠재적인 위험을 통제할 수 없는" 경우 이 기술을 사용할 수 없도록 합니다.
Rite Aid는 "당사 직원들과 고객들의 안전이 무엇보다 중요합니다."라고 말했습니다. "앞으로도 공정위와의 협약의 일환으로 종합정보보안 프로그램의 관행과 정책을 강화하고 공식화할 것입니다." 이 파일럿 프로그램은 매장 카메라와 직원들의 고객 얼굴 휴대폰에서 수천 장의 저품질 사진에 대한 데이터베이스를 만드는 것과 관련이 있는데, 라이트 에이드는 그들이 매장에서 범죄 활동을 하고 있다고 생각했기 때문에 "관심 있는 사람들"로 분류되었습니다.
FTC는 라이트 에이드가 해당 사진을 삭제하고 고객에게 데이터베이스에 있음을 알리도록 요구하고 있습니다. 라이트에이드는 파산절차를 진행하고 있기 때문에 공정위는 법원의 승인을 거쳐 명령이 발효될 것이라고 밝혔습니다.