La inteligencia artificial (IA) está siendo discutida en casi todos los sectores hoy en día, incluyendo el ámbito legal. La IA promete eficiencia y objetividad, cualidades muy necesarias en el sistema de justicia, pero también existen historias de terror como los casos de sesgo racial contra acusados criminales e incluso la detención errónea de personas inocentes.
La causa raíz de estos problemas suele estar en los sesgos inherentes a los algoritmos que impulsan los sistemas de IA. Sin embargo, el problema va más allá de la tecnología: también involucra los datos con los que se entrenan estos sistemas, los objetivos que se establecen, la aplicación de estos objetivos y cómo interpretamos los resultados. No es solo cuestión de tecnología, sino de nosotros mismos. Aquí entra en juego la Tecnología de Interés Público (Public Interest Technology, PIT), que podemos considerar como una mentalidad esencial enfocada en seleccionar, implementar y evaluar sistemas de IA de manera justa, equitativa y centrada en el ser humano. Es un enfoque que se centra en las decisiones más importantes cuando se trata de proteger a las personas de los daños reales derivados del sesgo y la discriminación.
La Tecnología de Interés Público puede actuar como un marco orientador que apoya el desarrollo, implementación y gobernanza de la IA en el sistema de justicia penal para garantizar la equidad, transparencia y responsabilidad.
La Tecnología de Interés Público es una aprox...