Falhas de segurança de IA
Saco de chip de erro de sistema vestindo adolescente com punho policial para arma
foi publicado
CNN
Um sistema de segurança de IA avistou um adolescente armado e imediatamente alertou a polícia em Baltimore… bem, pelo menos pensou – mas estava apenas sinalizando um saco de produtos bregas.
Novas imagens da câmera corporal da Kenwood High School, no condado de Baltimore, Maryland, capturaram o incidente Tucky Allen – Um estudante de 16 anos – foi imobilizado enquanto estava algemado quando um sistema de detecção de armas alimentado por IA o sinalizou, acreditando que ele estava carregando uma.
Depois de revistá-lo, eles não encontraram nada … Um policial na câmera do corpo tenta explicar como o sistema de IA disparando o alarme porque “o jeito que você estava comendo batatas fritas, Doritos, tanto faz, foi detectado como uma arma”.
A escola usa o Omnilert – um programa que utiliza imagens de câmeras escolares existentes para identificar objetos que se assemelham a armas e, em seguida, alerta os agentes de segurança da escola e as autoridades policiais.
Allen falou com a estação de notícias local WBAL-TV11 News… e disse que estava com as duas mãos no saco de chips com um dedo quando o sistema o sinalizou – não está claro se OmniAlert confundiu o dedo com uma arma.
Um porta-voz do Departamento de Polícia do Condado de Baltimore nos disse… “Os policiais responderam de forma adequada e proporcional com base nas informações fornecidas na época. O incidente foi resolvido com segurança após determinar que não havia ameaça.”
A IA pode ser uma ótima ferramenta… mas definitivamente não funciona sempre – e é uma sorte que ninguém se machucou aqui.
