En un desarrollo significativo para la aplicación de la ley, la inteligencia artificial (IA) está siendo adoptada cada vez más por los departamentos de policía en todo Estados Unidos para racionalizar el proceso de redacción de informes policiales. El oficial Scott Britingham de Fort Collins, Colorado, departamento de policía, inicialmente escéptico de las nuevas tecnologías, ha encontrado que su informe de escritura se redujo drásticamente de 45 minutos a solo 10 minutos al utilizar un software con AI llamado Draft One. Esta eficiencia permite a los oficiales dedicar más tiempo a responder a las llamadas de servicio y prevenir de manera proactiva el delito.
El borrador uno, desarrollado por la compañía de tecnología de aplicación de la ley Axon, que también produce tasers y cámaras corporales, está diseñado para crear borradores iniciales de informes policiales. Axon informa que Draft One se ha convertido en su producto de más rápido crecimiento desde su lanzamiento en 2024. El concepto para el borrador surgió directamente de la escasez de personal que enfrenta los departamentos de policía en todo el país. Una encuesta de 2024 realizada por la Asociación Internacional de Jefes de Policía reveló que las agencias operaban, en promedio, al menos un 10% por debajo de sus niveles autorizados de personal. Josh Isner, presidente de Axon, declaró: “El mayor problema en seguridad pública en este momento es contratar. No se puede contratar suficientes oficiales de policía. Cualquier cosa que un departamento de policía pueda adoptar para que sean más eficientes es el nombre del juego en este momento”.
El surgimiento de la IA en la generación de informes policiales no está exento de críticos. Los expertos legales y los defensores de los derechos civiles han expresado preocupaciones significativas con respecto a posibles sesgos, inexactitudes y problemas de transparencia inherentes a los informes de AI. Estas preocupaciones son particularmente destacadas dado el papel crucial que desempeñan los informes policiales en el proceso de justicia penal, influyendo en las decisiones tomadas por los fiscales, abogados defensores y jueces. Andrew Guthrie Ferguson, profesor de derecho universitario estadounidense especializado en tecnología y vigilancia, enfatizó que “los informes policiales son realmente un mecanismo de responsabilidad. Es una justificación para el poder estatal, para el poder policial”.
El borrador uno opera aprovechando las transcripciones de las imágenes de la cámara del cuerpo para generar borradores de informes dentro de los segundos de la solicitud de un oficial. Luego, el software solicita al oficial a revisar y editar el borrador, completando los espacios en blanco entre paréntesis diseñados para garantizar una revisión exhaustiva y la corrección de posibles errores o la adición de información faltante. El presidente de Axon, Josh Isner, afirmó: “Realmente tiene que ser el propio informe del oficial al final del día, y tienen que firmar lo que sucedió”. El modelo AI utilizado por Draft One es una versión modificada de ChatGPT de Opensei, que Axon ha entrenado aún más para mitigar las “alucinaciones”, errores objetivos que los sistemas de IA pueden generar aleatoriamente. Axon también colabora con un grupo de académicos de terceros, defensores de la justicia restaurativa y líderes comunitarios para obtener comentarios para el desarrollo de tecnología responsable y la mitigación de sesgo.
Más allá de Fort Collins, departamentos de policía en Lafayette, Indiana; Tampa, Florida; y Campbell, California, también han adoptado el draft uno. En Fort Collins, el sargento de tecnología Bob Younger inició un programa piloto con aproximadamente 70 oficiales después de una demostración convincente de la herramienta. Señaló: “Me sorprendieron la calidad del informe, la precisión del informe y qué tan rápido sucedió. Pensé para mí mismo:” Esta es una oportunidad que no podemos dejar ir “. El Departamento de Policía de Fort Collins ha ampliado el acceso a todos los oficiales y estima que el borrador uno ha reducido el tiempo de escritura en casi el 70%, devolviendo efectivamente tiempo valioso a las ciudadanas.
A pesar de los comentarios positivos de algunos fiscales, el uso de la IA en los informes policiales ha encontrado resistencia. En septiembre de 2024, la oficina del fiscal en el condado de King, Washington, decidió no aceptar informes policiales de AI. En un correo electrónico a los jefes de policía, expresaron su preocupación de que el uso de la herramienta “probablemente resultaría en muchos de sus oficiales que aprueben a Axon narraciones con errores involuntarios en ellos”. Axon ha respondido afirmando su compromiso con la colaboración continua con varios interesados para guiar la evolución responsable del borrador y declaró que su modelo de IA está “calibrado … para minimizar la especulación o los adornos”.
La Unión Americana de Libertades Civiles (ACLU) también ha recomendado públicamente contra el uso del borrador. Jay Stanley, analista de políticas del Proyecto de Privacidad y Tecnología del Discurso de ACLU, declaró: “Cuando ves que esta nueva tecnología se inserta de alguna manera en el corazón del sistema de justicia penal, que ya está plagada de injusticia y sesgo, etc., definitivamente es algo que nos sentamos a la vista y miramos de cerca”. Las preocupaciones incluyen el potencial de errores en las transcripciones de imágenes de la cámara del cuerpo debido a los acentos o la ausencia de señales no verbales que afectan la precisión de los informes generados por AI. Si bien el borrador de uno incluye campos en blanco automáticos para una revisión del oficial, es posible enviar un informe sin hacer ningún cambio en el borrador generado por IA. Además, una vez que se presenta un informe, el borrador original generado por IA no se guarda, lo que impide revisar lo que un oficial hizo o no cambió, una práctica que afirma axon imita los procesos tradicionales de informes escritos a mano.
Un problema de transparencia significativo gira en torno a si los acusados están informados de que el informe policial en su caso fue redactado por AI. Los informes finales del borrador de uno incluyen un descargo de responsabilidad personalizable de forma predeterminada, lo que indica asistencia de IA, pero los departamentos tienen la opción de deshabilitar esta función. El Departamento de Policía de Fort Collins, por ejemplo, no incluye descargas de responsabilidad en sus informes generados por IA. Sin embargo, Ferguson aboga por la “transparencia radical” como la mejor práctica, un sentimiento se hizo eco en Utah, donde los legisladores aprobaron una ley a principios de este año que requiere que los departamentos de policía incluyan tales renuncias en los informes finales de AI.
En última instancia, las herramientas de IA como Draft One son vistas como SIDA en lugar de reemplazos para oficiales humanos. El oficial Brittingham concluyó: “Mi impresión general es que es una herramienta como cualquier otra cosa. No es la solución. No nos está reemplazando los informes de escritura. Es solo una herramienta para ayudarnos a escribir informes”. A medida que AI continúa integrándose en varias facetas de la sociedad, su aplicación en áreas sensibles como la policía requiere una cuidadosa consideración de sus beneficios, limitaciones e implicaciones éticas para garantizar la responsabilidad y mantener la confianza pública.
Source: AI corta el tiempo de informe de la policía de 45 a 10 minutos
