Hasta hoy sólo era ciencia ficción. Los que vimos con asombro la película Minority Report interpretada por Tom Cruise allá por los comienzos del 2000, debemos reconocer que una vez más la realidad ha superado a la ficción.
La trama de la película que, en Argentina se conoció como Sentencia Previa, era clara: la policía PreCrimen utilizaba las visiones de tres mutantes precognitivos que podían predecir el futuro y evitar así posibles asesinatos logrando la tasa de criminalidad más baja de la historia.
Saltando de la ficción a la realidad, un juez de Wisconsin utilizó como prueba para condenar a un hombre el resultado de un software cuyo algoritmo secreto determina la tendencia de cometer delitos y el tipo de supervisión que la persona debe recibir en la cárcel.
Esa prueba fue sumada a una serie de evidencias que concluyeron que Eric Loomis, con antecedentes criminales por ataques sexuales podría volver a cometer un delito grave. Por eso lo condenó a seis años de prisión. Sin embargo, esta vez la razón por la que volvió ante el tribunal no fue un ataque sexual. El condenado evitó un control policial y fue detenido por las autoridades. Si bien reconoció que manejaba un auto donde huyó un grupo de personas que había participado en un tiroteo, él no tenía responsabilidad directa en el conflicto.
El Juez ordenó que le practicaran la prueba Compas. No la pasó y fue a prisión. El condenado apeló el fallo por considerar que viola el derecho de legítima defensa y un debido proceso con transparencia suficiente para poder responder a las acusaciones.
¿Cómo funciona Compas? Es un misterio. La compañía responsable de diseñar el programa se llama Northpointe Inc y se ampara en que se trata de un desarrollo privado y, por lo tanto, no tienen obligación de revelar la fórmula, el algoritmo al que responde el resultado sobre el que basan si una persona es propensa a cometer o no un delito.
“Un individuo de alto riesgo para la comunidad”, ese fue el resultado del análisis hecho por Compas a Loomis. Lo que sabemos hasta el momento gracias a Julia Angwin de ProPública, una organización de periodismo de investigación de Estados Unidos que el programa se basa en un cuestionario que los detenidos responden cuando ingresan al sistema carcelario.
Compas es un acrónimo que podría traducirse como Administración de Perfiles Criminales para Sanciones Alternativas del Sistema de Prisiones de EE.UU. (Correctional Offender Management Profiling for Alternative Sanctions).
Además de sumar tu historia criminal, laboral y educativo algunas de las preguntas de la encuesta son:
- Algún miembro de tu familia ha cometido un crimen
- Algún miembro de tu familia ha sido arrestado
- Vives en un barrio considerado peligroso
- Tienes amigos que pertenezcan a pandillas
- Estás de acuerdo o en desacuerdo con esta afirmación: está bien para una persona hambrienta robar comida
Las respuestas suman un puntaje y el resultado determina el nivel de criminalidad de la personas. El valor puede determinar si la persona debe salir bajo fianza, debe ser enviado a prisión o recibir otro tipo de castigo.
Máquinas vs. Humanos. La tecnología formará parte de la Justicia en muy poco tiempo, de la misma manera que comienza a impregnar cualquier actividad que se realice en la actualidad. Sin embargo, pensar en máquinas sin sentimientos que puedan decidir sobre el futuro de una persona nos genera temor. ¿O será la solución? La pregunta no tiene, por ahora, respuesta certera.
En lo inmediato mientras no se conozca a fondo el funcionamiento del software seguirán siendo impugnadas las condenas basadas en su resultado. Sin embargo, algunos especialistas argentinos consideran que podría ser un elemento más aunque no determinante, una especie de criterio de ponderación.
En Estados Unidos, según el distrito en el que nos encontremos se utiliza una decena de sistemas algorítmicos basado en Big Data para sumar pruebas a una posible condena.
