_edited.png)
El conflicto de la IA en el mundo Legal, poniendo a prueba nuestra percepción y toma de decisiones. (Parte 2)
Por Khevin Sánchez (Programa de Escritores Babaluum)
El Vórtice de la Simulación: La Generación de Videos Hiperrealistas
El dilema que nos plantea la generación de imágenes realistas con IA, ya de por sí un nudo gordiano, se eleva a niveles exponencialmente más complejos con un fenómeno que está teniendo lugar en 2024. Aunque desde 2023 existen herramientas que permitían generar videos a partir de un prompt de texto o una imagen, la calidad de los mismos dejaba mucho que desear. El movimiento que generaban era extremadamente simple, limitándose a close-ups o zoom-outs sutiles, la consistencia de los personajes era deficiente, y para obtener un buen resultado había que intentar generar el mismo prompt una y otra vez, lo cual resultaba económicamente poco efectivo.
Sin embargo, este estado de cosas ha experimentado un vuelco radical en los últimos meses. Este semestre han irrumpido en escena tres herramientas que catapultan el giro copernicano a otro nivel: Gen 3 de Runway, Luma Labs y Kling AI. Mención especial merece Sora, de OpenAI, modelo anunciado en febrero de este año, que prometía la revolución visual que los tres modelos anteriores están efectivamente materializando hoy en día, pero que al no haber hecho público el modelo (aunque sí está permitiendo a ciertos socios comerciales de la industria audiovisual su uso), se está quedando gradualmente rezagada.
Estas nuevas herramientas constituyen una nueva iteración de la generación de video que subsana todos los defectos presentes en la iteración de 2023. Los sujetos aparecen consistentes en los clips, la diversidad de movimientos de cámara es pasmosa: desde movimientos horizontales y verticales, hasta zooms y paneos. También incluyen inclinaciones y rotaciones, añadiendo una miríada de dinámicas visuales. Las tres aceptan tanto texto como imágenes como prompts, y la calidad de las físicas dentro de los planos que generan es impecable: olas, viento, movimientos naturales de los sujetos en el plano…
El modelo de mundo que existe dentro de estos modelos es verdaderamente asombroso.
Esta revolución superlativa en la generación de videos hiperrealistas con IA nos sumerge, también, en un océano de profundas implicaciones filosóficas y jurídicas. Desde una perspectiva filosófica, la capacidad de generar videos indistinguibles de la realidad pone en otra vez en jaque nuestra concepción misma de lo real. Si no podemos distinguir un video generado por IA de uno que captura eventos auténticos, ¿cómo definimos la realidad? ¿Es lo real simplemente lo que percibimos, incluso si esa percepción puede ser fabricada a voluntad? ¿O hay una realidad objetiva independiente de nuestra percepción, y si es así, cómo podemos acceder a ella en un mundo donde la simulación es indistinguible de la realidad?
Estas cuestiones ontológicas tienen ramificaciones epistemológicas igualmente profundas. En un mundo donde los videos hiperrealistas pueden ser generados con facilidad, ¿cómo podemos saber qué es verdadero y qué no lo es? ¿Cómo podemos formar creencias justificadas sobre el mundo si nuestras percepciones pueden ser manipuladas de manera tan perfecta? La generación de videos hiperrealistas con IA nos enfrenta a un potencial escenario de escepticismo radical, donde la verdad se convierte en un concepto escurridizo y la confianza en nuestras facultades cognitivas se ve profundamente socavada.
Asimismo, estas cuestiones filosóficas tienen derivaciones jurídicas de gran alcance.
En un sistema legal que depende en gran medida de pruebas videográficas, ¿qué sucede cuando esas pruebas pueden ser fabricadas de manera indistinguible de las reales? ¿Cómo pueden los tribunales determinar la autenticidad de un video cuando la tecnología de IA puede crear simulaciones perfectas? ¿Qué nuevos estándares de evidencia y autenticación serán necesarios en este nuevo paradigma?
Más allá de la cuestión de la autenticidad, la capacidad de generar videos hiperrealistas también plantea profundos desafíos para nociones legales fundamentales como la responsabilidad y la culpabilidad. Si un video que parece mostrar a un individuo cometiendo un crimen puede ser fabricado, ¿cómo podemos determinar la responsabilidad penal? ¿Cómo podemos estar seguros de que estamos castigando al verdadero culpable y no a una simulación? Estas preguntas ponen en tela de juicio los fundamentos mismos de nuestro sistema de justicia penal.
Además, la posibilidad de generar videos falsos de figuras públicas, líderes políticos o cualquier individuo plantea graves amenazas para la reputación, la privacidad y la seguridad de las personas. ¿Qué recursos legales tendrán los individuos si se generan y difunden videos falsos que los muestran en situaciones comprometedoras o realizando actos ilegales? ¿Cómo se podrán contener los daños de estos "deepfakes" una vez que se han viralizado en internet? Estas son solo algunas de las espinosas cuestiones legales que surgirán en un mundo donde los videos hiperrealistas generados por IA serán omnipresentes.
Navegando en este nuevo territorio, nos enfrentamos a desafíos sin precedentes. A nivel filosófico, debemos repensar nuestras nociones de realidad, verdad y conocimiento en un mundo donde la simulación es indistinguible de la realidad. A nivel jurídico, debemos desarrollar nuevos marcos legales y estándares de evidencia para hacer frente a un mundo donde las pruebas videográficas pueden ser fabricadas a voluntad.
El Arte de Discernir: La Importancia de la Alfabetización Digital en la Era de la Posverdad
Ante este panorama tan complejo y desafiante, se hace evidente la necesidad imperiosa de una alfabetización digital masiva y profunda. Es crucial que la población en general sea consciente de estas tecnologías y aprenda a desarrollar un ojo crítico para discernir entre lo real y lo generado por IA. Las instituciones educativas, los medios de comunicación y los gobiernos tienen la responsabilidad ineludible de promover esta alfabetización y proporcionar las herramientas necesarias para navegar en este nuevo entorno mediático.
Sin embargo, si nos atenemos a la curva exponencial de desarrollo que estamos surfeando, es claro que, a largo plazo, será técnicamente imposible para un ojo no entrenado discernir qué es real y qué no lo es a nivel de imagen y video digital. Los avances en IA y la capacidad de procesamiento de los ordenadores están creciendo a un ritmo vertiginoso, y es probable que, en un futuro no muy lejano, las imágenes y videos generados por IA sean absolutamente indistinguibles de la realidad, incluso para los expertos.
Esto nos enfrenta a un futuro incierto, en el que nuestra relación con la realidad mediada por la tecnología será cada vez más compleja y ambigua. ¿Cómo afectará esto a nuestra percepción del mundo, a nuestras interacciones sociales, a nuestra cultura y a nuestra política? ¿Cómo podemos prepararnos para un mundo en el que la realidad y la ficción se entremezclan de manera indiscernible?
La respuesta a estos interrogantes no es sencilla, pero hay un camino claro que debemos transitar: el camino de la alfabetización digital crítica. En un mundo inundado de información, donde las noticias falsas y la desinformación proliferan a velocidades virales, donde las imágenes y los videos pueden ser manipulados o incluso generados de la nada, la habilidad de discernir se convierte en una competencia vital.
Pero, ¿qué implica exactamente esta alfabetización digital crítica? En primer lugar, implica una comprensión profunda de las tecnologías que están moldeando nuestro paisaje mediático. No se trata solo de saber utilizar las herramientas digitales, sino de entender cómo funcionan, qué posibilidades ofrecen y qué riesgos implican. Solo a través de este conocimiento podremos desarrollar una mirada crítica ante los contenidos que consumimos.
En segundo lugar, implica el desarrollo de habilidades de pensamiento crítico y de investigación. En un mundo donde la veracidad de cualquier contenido puede ser cuestionada, es crucial que seamos capaces de rastrear las fuentes, verificar los hechos y contrastar las informaciones. Debemos aprender a hacer las preguntas correctas, a buscar evidencias sólidas y a no aceptar nada como verdadero simplemente porque aparece en una imagen o un video convincente.
En tercer lugar, implica una comprensión de los sesgos cognitivos y las limitaciones de nuestra propia percepción. Debemos ser conscientes de cómo nuestras creencias, emociones y contexto social influyen en nuestra interpretación de la información.
Pero quizás lo más importante es que esta alfabetización digital crítica debe ir acompañada de una sólida brújula ética. En un mundo donde la línea entre lo real y lo falso se difumina, donde la tecnología nos da el poder de manipular la realidad misma, debemos tener claros nuestros valores y principios. Debemos preguntarnos constantemente: ¿Qué tipo de información queremos promover? ¿Qué tipo de realidad queremos construir?
Gracias por llegar hasta aquí. Nos leemos el próximo domingo.
