Rol semanal: IA Master

Hola de nuevo en "Como se encendía esto?"

Como todas las semanas, vamos a comentar el Rol que me ha tocado hacer, lo que le falta a la IA...

El rol que he desarrollado esta semana es el de IA Master. El cual consiste en Explorar y analizar una herramienta de Inteligencia Artificial aplicada a la Educación Social. También experimentar con sus posibilidades y limitaciones desde una mirada crítica y ética.

En este caso he elegido LTX-2, que es una IA principalmente enfocada en hacer vídeos y material cinematográfico desde tu casa, sin tener que aportar dinero. 

El primer prompt que le he propuesto ha sigo el siguiente: Soy una estudiante de educación social y necesito que me hagas un anuncio de 10 segundos para promocionar una campaña de prevención contra el abandono escolar.

Y este es el vídeo que me ha generado:

Para llevarlo un poco más al límite y experimentar con sus opciones y limitaciones, le he metido el siguiente prompt: Soy una estudiante de educación social y necesito que me hagas un anuncio de 10 segundos para promocionar una campaña de prevención contra el abandono escolar. Tienes que hacérmelo desde la ética y sin ningún sesgo.

Y es resultado de este cambio en el prompt ha sido este:

Esta IA sirve para hacer muchas cosas, pero centrándonos en el ámbito de la educación social , podemos aplicarla para: 

• Entrenamiento en Resolución de Conflictos (Role-Playing Virtual), podemos generar una situación de conflicto para hacer el entrenamiento más realista
• Crear "Videollamadas" para simulación de entrevistas de trabajo, con las que podremos entrenar las habilidades para cuando se de la oportunidad real y la posibilidad de trabajar.
• Narrativa Terapéutica y "Digital Storytelling". Cuando las personas no son capaces de hablar o de contar cosas, redactan un guion sobre eso, y LTX lo convierte en un storyboard. Así la persona está más cómoda y nos sirve para analizarlo juntos, ya que es un vídeo y pueden despersonalizarlo.
• Campañas de Sensibilización de Bajo Coste. Esta IA es de mucha ayuda para los profesionales y las entidades, debido a que el dinero que se puede invertir en publicidad o comunicación suele ser muy poco.

REFLEXIÓN ÉTICA

Cuando una IA como LTX-2 asocia el abandono escolar con las pieles oscuras en su mayoría, está demostrando sus sesgos. Sesgos que tiene debido a que la persona que se ha dedicado a configurarla y a diseñarla se los ha transmitido.

El problema no es solo que la IA "se equivoque", sino que valida prejuicios.

Si históricamente el contenido visual sobre pobreza o absentismo escolar ha estado sesgado hacia ciertos colectivos, la IA aprende que "esa es la estética" del abandono.

Si queremos utilizar esta herramienta para generar vídeos que pondremos en un taller de Educación Social, es muy probable que las personas  que lo están visualizando interioricen que el fracaso escolar está relacionado directamente con su origen étnico, en lugar de un problema social y estructural.

Al centrarse en rasgos físicos como el color de piel, la IA omite el verdadero factor que suele provocar el abandono: La falta de recursos, ya sea del tipo económico, del entorno, de la situación personal...

Creo que todos los trabajadores que tratamos con personas y con sus datos, debemos recalcar siempre que no debemos compartir datos personales con la IA por mucho que nos facilite o agilice el proceso. Si hacemos esto estaremos incumpliendo la protección de datos y por lo tanto exponiendo a las personas con las que trabajamos.

Espero que os haga reflexionar esta publicación, a mí me ha servido bastante la verdad.

Si tenéis alguna duda dejádmela en comentarios.

¡Nos leemos!