Conclusiones clave
- Evolv Technology dijo que su escáner AI podría reemplazar a los detectores de metales convencionales, evitando la necesidad de que las personas se detengan y vacíen sus bolsillos.
- La ciudad de Nueva York se encuentra entre las ciudades que buscan escáneres de armas impulsados por inteligencia artificial para combatir el crimen.
- Pero algunos expertos dicen que el uso de IA para detectar armas podría conducir a una extralimitación.
Un número creciente de ciudades está considerando usar escáneres de armas impulsados por inteligencia artificial (IA) después de tiroteos masivos de alto perfil en un movimiento que está aumentando la privacidad y otras preocupaciones.
El alcalde de la ciudad de Nueva York, Eric Adams, dijo recientemente en Good Morning America que quiere instalar detectores de armas impulsados por inteligencia artificial en el sistema de metro. Evolv Technology dijo que su escáner de IA podría reemplazar a los detectores de metales convencionales, evitando la necesidad de que las personas se detengan y vacíen sus bolsillos.
"Con la IA, podemos detectar muchos objetos diferentes de todos los tamaños y tipos. Detectar si alguien lleva un arma puede ser muy beneficioso para prevenir ataques, así como para detectar situaciones amenazantes", Mikaela Pisani, la científico jefe de datos de la empresa de inteligencia artificial Rootstrap, le dijo a Lifewire en una entrevista por correo electrónico. "Esto daría a las autoridades más tiempo para tomar medidas antes de que la situación se intensifique aún más".
IA que te comprueba
La tecnología de Evolv utiliza técnicas de emisión de luz de radar y lidar para crear imágenes que luego examina una IA. La compañía dice que su sistema puede identificar un arma oculta en alguien que pasa por el escáner y solicitar la intervención de seguridad.
La tecnología "detecta armas ocultas y otras amenazas usando sensores digitales avanzados e inteligencia artificial", escribe la compañía en su sitio web. "Es increíblemente preciso y puede detectar hasta 3600 personas por hora, 10 veces más rápido que los detectores de metales tradicionales".
Pisani dijo que el enfoque más común para identificar a las personas con armas es el uso de modelos de aprendizaje profundo utilizando CNN (redes neuronales convolucionales). Las CNN están diseñadas para identificar imágenes mediante el procesamiento de datos de píxeles. Los modelos de aprendizaje automático se entrenan en grandes conjuntos de datos de imágenes, con diferentes situaciones en cuanto a si las personas llevan armas o no.
"Con este método, se construyen sistemas de clasificación para detectar situaciones en las que se usan armas", agregó Pisani. "Se pueden usar modelos más específicos como segmentación de objetos para identificar en qué parte de la imagen se encuentra el arma".
Evolv no proporciona mucha información pública sobre cómo funciona exactamente su sistema. Pero Stephanie McReynolds, jefa de marketing de Ambient.ai, una empresa de inteligencia de visión por computadora que automatiza las operaciones de seguridad física, le dijo a Lifewire por correo electrónico que sistemas similares analizan transmisiones de video de vigilancia en vivo, utilizando IA junto con algoritmos de visión por computadora para detectar objetos como una persona o un arma de fuego La computadora observa las interacciones entre esos objetos que crean firmas de movimiento físico o comportamiento.
"Este análisis profundo de las firmas de amenazas habilitado por la inteligencia de visión artificial puede proporcionar un contexto rico que va más allá de la ubicación o la presencia de un arma de fuego", agregó McReynolds. "Los socorristas que usan inteligencia de visión artificial tienen la ventaja de ver la captura de video del incidente que se desarrolla en tiempo real para comprender contextualmente el escenario y prepararse para un compromiso proactivo, incluso durante incidentes relacionados con armas".
La idea de solucionar el problema de las armas en este país con IA es terrible.
Ver lo que hay en tus bolsillos
No todo el mundo está a favor de los escáneres de IA. El profesor de la Universidad de Syracuse, Johannes Himmelreich, que estudia la ética de la inteligencia artificial, le dijo a Lifewire en una entrevista por correo electrónico que "la idea de solucionar el problema de las armas en este país con IA es simplemente terrible". Dijo que esta propuesta trata de aplicar una solución tecnológica a un problema social.
"Tales intentos generalmente son erróneos", agregó. "Aún peor: le quitan el oxígeno a las soluciones pertinentes".
Otro problema que surge con el uso de IA para cualquier tipo de pantalla es la equidad, dijo. "Lo que no queremos volver a ver es que las personas de color sean acusadas injustamente de portar de nuevo en tasas mucho más altas que otras. En principio, la IA puede reducir el sesgo. Pero en la práctica, por lo general, agrava esa discriminación".
También está la cuestión de la extralimitación. Si los escáneres impulsados por IA ganan popularidad, podrían usarse para registrar personas todo el tiempo, señaló Pisani.“Entonces, no solo registrarían si llevan armas o no, sino también su comportamiento”, agregó. “Se registraría cada segundo de tu vida y habrá personas que se sentirían incómodas con esta tecnología. tecnología, es importante considerar todas las implicaciones de privacidad y educar a las personas sobre los impactos que esta tecnología puede tener.
Evolv no respondió de inmediato a una solicitud de Lifewire en busca de comentarios.
Pero Nilay Parikh, director ejecutivo de Be Global Safety, que fabrica software de monitoreo impulsado por IA, defendió el uso de la IA. Dijo que en lugares públicos donde las armas pueden estar prohibidas y ya existen cámaras, no es una invasión de la privacidad usar IA para detectar armas.
"La IA puede tener la capacidad de proteger la identidad de los poseedores de armas o puede ayudar a las fuerzas del orden público a identificar al sospechoso", añadió.
