PORTLAND (WGME) – Una foto de evidencia de drogas se convirtió en un escándalo en Westbrook después de que el público descubrió rápidamente que casi todo lo que contiene fue alterado por AI.
El departamento de policía primero lo negó, luego eliminó esa publicación y lanzó la foto real.
No solo plantea preguntas sobre en qué confiar, sino que también lleva a algunos espectadores a preguntarle al CBS13 I-Team si esto es legal.
«El público al mismo tiempo plantea todas estas preguntas», dijo la directora ejecutiva de la Asociación de Abogados de la Defensa Penal de Maine, Tina Nadeau. «Están muy justificados para cuestionar, ¿están recibiendo la historia completa aquí? Porque realmente no creo que lo sean».
El Departamento de Policía de Westbrook inicialmente negó haber usado IA en una publicación ahora eliminada, luego admitió que un oficial usó ChatGPT para arreglar la foto, diciendo que solo tenían la intención de insertar un parche de departamento.
«Nunca antes habíamos usado IA para nada», dijo el capitán de la policía de Westbrook, Steven Goldberg.
El departamento ahora lo llama un «error»; uno que no volverán a hacer.
Stephanie Grindley de CBS13 I-Team: «¿Esto cae bajo manipulación de evidencia?»
Nadeau: «Es una pregunta maravillosa, mi lectura sobre la ley diría, tal vez».
Para los abogados defensores como Nadeau, esta foto plantea más de un par de banderas rojas.
«Tendría un día de campo en un caso que salga de esta convulsión, con esta fotografía. Dada, nuevamente, la falta de transparencia», dijo Nadeau.
Ella piensa que este es solo un ejemplo de las formas en que la policía podría estar utilizando inteligencia artificial, señalando a las muchas agencias de policía en todo Maine implementando la IA para transcribir informes de sus imágenes de levas corporales.
Más recientemente, esto está sucediendo en Lewiston.
Pero el verdadero problema, dice Nadeau, es cuando el público, o los tribunales, no saben qué ha sido manipulado.
«Si vamos a ingresar a este nuevo salvaje oeste del uso de AI, dependemos de que las personas sean transparentes», dijo Nadeau. «Y cuando la policía o cualquier agencia gubernamental pueden operar con un velo de, sin transparencia, puede ocurrir todo tipo de travesuras, y los derechos de las personas pueden ser violados. Porque no sabemos qué evidencia es real, qué evidencia se compone, qué se ha alterado, por quién, cuándo y por qué».
Ella también quiere saber qué más ha tocado la IA en los muchos casos ante los tribunales.
«Estamos hablando de personas que van a la cárcel o en la prisión por acusaciones», dijo Nadeau. «¿No podemos asegurarnos de que la evidencia en su contra se base en la realidad, a diferencia de alguna computadora en alguna tierra lejana que escupe algo que ni siquiera es verdad?»
Sin orientación federal sobre la IA, teme que el sistema de justicia pueda dirigirse al territorio peligroso de no conocer los hechos de la ficción.
