Falha de segurança de IA
Após um erro de sistema, a polícia prendeu o adolescente após confundir o saco de chips com uma arma.
publicado
CNN
O sistema de segurança de IA localizou um adolescente armado e imediatamente alertou a polícia em Baltimore… bem, pelo menos pensou que sim – mas estava apenas sinalizando um saco de material incriminador.
Novas imagens da câmera corporal da Kenwood High School, no condado de Baltimore, Maryland, capturaram o incidente taki allen – um estudante de 16 anos – é revistado enquanto estava algemado depois que um sistema de detecção de armas alimentado por IA o fez acreditar que ele estava carregando.
Depois de revistá-lo, eles não encontraram nada… Um policial na câmera corporal tentou explicar que era porque o sistema de IA estava soando o alarme porque “o jeito que vocês estavam comendo batatas fritas, Doritos, tanto faz, ele pegou como uma arma.”
A escola usa OmniAlert – um programa que detecta objetos semelhantes a armas, acessando imagens de câmeras escolares existentes e, em seguida, alerta os funcionários de segurança escolar e as autoridades policiais.
Allen falou com a estação de notícias local WBAL-TV 11 News… e disse que tinha as duas mãos no saco de chips e um dedo para fora quando o sistema o sinalizou – não está claro se OmniAlert pensou que o dedo era uma arma.
Um porta-voz do Departamento de Polícia do Condado de Baltimore nos disse… “Os policiais responderam de forma adequada e proporcional com base nas informações fornecidas na época. O incidente foi resolvido com segurança depois que foi determinado que não havia ameaça.”
A IA pode ser uma ótima ferramenta… mas certamente nem sempre é perfeita – e é uma sorte que ninguém se machucou aqui.
