Amazon’s Ring apresenta polêmico recurso de reconhecimento facial baseado em IA para campainhas de vídeo

Distópico ou útil? A campainha Ring da Amazon agora será capaz de identificar visitantes por meio de um novo recurso de reconhecimento facial baseado em IA, anunciou a empresa na terça-feira. Este recurso polêmico, denominado “Rostos Familiares”, Anunciado no início de setembro deste ano Atualmente está sendo implementado para proprietários de dispositivos Ring nos Estados Unidos.

A Amazon afirma que o recurso permite identificar visitantes regulares criando um catálogo de até 50 rostos. Isso pode incluir familiares, amigos, vizinhos, motoristas de entrega, funcionários domésticos, etc. Identifique alguém no aplicativo Ring e seu dispositivo o reconhecerá quando ele se aproximar de sua câmera Ring.

Dessa forma, em vez de alertá-lo sobre “Alguém está na sua porta”, você receberá uma notificação personalizada como “Mamãe está na sua porta”, diz a empresa. Anúncio de lançamento.

O recurso já enfrentou reação de grupos de proteção ao consumidor. Como EFFsenador dos Estados Unidos.

Os proprietários do Amazon Ring podem usar esse recurso para desativar alertas que não desejam ver, como notificações sobre chegada e partida, afirma a empresa. E você pode definir esses alertas por rosto.

Este recurso não está habilitado por padrão. Em vez disso, os usuários devem ativá-lo nas configurações do aplicativo.

Os rostos, por outro lado, podem ser nomeados diretamente na seção de histórico de eventos do aplicativo ou na nova biblioteca Familiar Faces. Depois de rotulado, o rosto será nomeado em todas as notificações, cronogramas de aplicativos e histórico de eventos. Você pode editar esses rótulos a qualquer momento e existem ferramentas para mesclar duplicatas e remover faces.

A Amazon afirma que os dados faciais são criptografados e nunca compartilhados com ninguém. Além disso, os rostos sem nome serão excluídos automaticamente após 30 dias.

Preocupações de privacidade sobre o reconhecimento facial de IA

Apesar das garantias de privacidade da Amazon, a adição deste recurso levantou preocupações.

A empresa tem o seguinte histórico: Construir parcerias com autoridades policiais E no passado, até deu à polícia e aos bombeiros as seguintes habilidades: Solicite dados do aplicativo Ring Neighbors Solicitando imagens das campainhas das pessoas diretamente da Amazon. Recentemente, Amazon faz parceria com FlockFabricante de câmeras de vigilância equipadas com IA usadas pela polícia. Aplicação da lei federal e ICE.

Os próprios esforços de segurança de Ring têm sido historicamente inadequados.

Ring teve que pagar uma multa de US$ 5,8 milhões em 2023 A Comissão Federal de Comércio descobriu que os funcionários e contratados da Ring tiveram acesso amplo e irrestrito aos vídeos dos clientes durante vários anos. o Aplicativo de vizinhos também foi lançado O endereço residencial e a localização exata do usuário, e o nome do usuário senha do anel Ele está flutuando na dark web há anos.

Dada a disposição da Amazon de trabalhar com provedores de aplicação da lei e vigilância digital, e seu histórico de segurança fraco, os proprietários do Ring são aconselhados a pelo menos ter cuidado ao identificar pessoas usando seus nomes legais. Melhor ainda, basta desabilitar o recurso e ver quem é. Nem tudo requer uma atualização de IA.

O Ring da Amazon já está enfrentando um pedido do senador Ed Markey (D-Mass.) como resultado de questões de privacidade. abandone esse recursoenfrentou reação de grupos de proteção ao consumidor, como a EFF. As leis de privacidade impedem a Amazon de lançar este recurso Illinois, texasPortland, Oregon, também foi notado pela EFF.

de acordo com Questões levantadas pelas organizaçõesA Amazon disse que os dados biométricos dos usuários são processados ​​na nuvem e alegou que não os usa para treinar modelos de IA. Argumentou também que mesmo que as autoridades policiais solicitassem estes dados, do ponto de vista técnico não seria possível determinar todos os locais onde uma pessoa foi detectada.

No entanto, não está claro por que este não é o caso. Semelhanças com o recurso “Search Party” Ele verifica a rede de câmeras Ring da sua vizinhança para encontrar cães e gatos perdidos.

Solicitado a comentar, F. Mario Trujillo, advogado-chefe da EFF, disse: “Ninguém deveria abrir mão de sua privacidade apenas batendo em uma porta ou entrando pela porta. Com esse recurso ativado, é mais importante do que nunca que os reguladores estaduais de privacidade intervenham e investiguem para proteger a privacidade das pessoas e testar a força das leis de privacidade biométrica”.

Atualizado com comentários da EFF após publicação.