Científicos en China dijeron que desarrollaron una máquina para acusar a los infractores de delitos, que se basa en inteligencia artificial (IA).
La Procuraduría de Shanghai Pudong, la fiscalía más grande del país, construyó y probó la máquina. Hasta ahora, la máquina puede identificar y presentar cargos por los ocho delitos más comunes en Shanghái: fraude con tarjetas de crédito, ejecución de una operación de juego, manejar de forma imprudente, lesiones intencionales, obstrucción de los deberes de un oficial, robo, fraude y participar en una pelea.
Los investigadores dijeron que, basándose en una descripción escrita de un caso, el llamado «fiscal» de IA puede presentar una acusación con un 97 por ciento de precisión.
El profesor Shi Yong, el científico principal del proyecto, dijo que la tecnología de inteligencia artificial podría reducir la carga de trabajo diaria de los fiscales, permitiéndoles concentrarse en trabajos más desafiantes. Shi también es director del laboratorio de gestión del conocimiento y big data en la Academia de Ciencias de China, el principal instituto de investigación estatal del régimen.
«El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto», dijeron Shi y su equipo en un artículo publicado en la revista china revisada por pares, Management Review. El South China Morning Post fue el primero en informar sobre la máquina de inteligencia artificial recientemente desarrollada.
Shi y sus colegas dijeron que los fiscales chinos comenzaron a emplear inteligencia artificial en 2016. Muchos de ellos ahora usan una herramienta de inteligencia artificial conocida como «Sistema 206». El sistema puede evaluar la solidez de la evidencia, las condiciones para un arresto y qué tan peligroso se considera un sospechoso para el público.
Pero todas las herramientas de inteligencia artificial existentes solo jugaron un papel limitado, ya que «no participan en el proceso de toma de decisiones de presentar cargos y [sugerir] sentencias», dijo el periódico.
Para tomar tales decisiones se requiere que una máquina identifique y elimine cualquier contenido de un archivo de un caso, que sea irrelevante para un delito y mantenga la información útil, agregó.
La máquina también necesita transformar el lenguaje humano complejo y en constante cambio, en un formato matemático o geométrico estándar que una computadora pueda entender, según el documento.
Las empresas de Internet de China han desarrollado herramientas poderosas para el procesamiento del lenguaje natural, pero su operación a menudo requiere grandes computadoras a las que los fiscales no tienen acceso.
El «fiscal» de IA desarrollado por el equipo de Shi podría operar en una computadora de escritorio. Para cada sospechoso, imprimiría un cargo basado en 1000 «rasgos» obtenidos del texto de descripción del caso generado por humanos, la mayoría de los cuales son demasiado cortos o abstractos para tener sentido para los humanos. El sistema 206 evaluaría entonces la evidencia.
Shi dijo que usaron más de 17,000 cajas de 2015 a 2020 para entrenar la máquina.
El periódico esperaba que el fiscal de IA pronto se volviera más competente con las actualizaciones. Podría reconocer delitos menos comunes y presentar múltiples cargos contra un sospechoso.
Pero la nueva máquina ha generado dudas entre los fiscales chinos. Un fiscal de Guangzhou dijo en el informe que le preocupaba el uso de un fiscal de IA para presentar cargos.
La precisión del 97 por ciento puede ser alta desde la perspectiva de la tecnología, pero siempre habrá una posibilidad de error, dijo el fiscal.
“¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo?
La aplicación directa de la inteligencia artificial en la toma de decisiones también podría afectar la autonomía de un fiscal humano. La mayoría de los fiscales no quieren que los informáticos interfieran con un juicio legal, agregó el fiscal.
Otra pregunta es que el fiscal de IA podría presentar un cargo basándose únicamente en su experiencia previa, dijo el fiscal. No podía prever la reacción del público ante un caso en un entorno social cambiante.
Únase a nuestro canal de Telegram para recibir las últimas noticias al instante haciendo click aquí
Cómo puede usted ayudarnos a seguir informando
¿Por qué necesitamos su ayuda para financiar nuestra cobertura informativa en Estados Unidos y en todo el mundo? Porque somos una organización de noticias independiente, libre de la influencia de cualquier gobierno, corporación o partido político. Desde el día que empezamos, hemos enfrentado presiones para silenciarnos, sobre todo del Partido Comunista Chino. Pero no nos doblegaremos. Dependemos de su generosa contribución para seguir ejerciendo un periodismo tradicional. Juntos, podemos seguir difundiendo la verdad.
