Materias · 🏛️ Universidad y trabajo
Ética y uso responsable
Ejercicios resueltos de Ética y uso responsable paso a paso, con el error que más se comete en cada uno: Sesgo en los datos y en las etiquetas, Datos personales y uso responsable en el aula y más. Gratis y en español.
Preguntarle al tutor de Ética y uso responsableSin instalar nada. Puedes probar antes de crear cuenta.
Ejercicios resueltos de Ética y uso responsable
Resueltos paso a paso, como te los explicaría el tutor, y con el error que más se comete.
Sesgo en los datos y en las etiquetas
Un banco entrena un modelo de aprobación de crédito con 10 años de decisiones de sus analistas. En producción aprueba el 62 % de las solicitudes de hombres y el 34 % de las de mujeres con capacidad de pago equivalente. El sexo del solicitante no está entre las variables del modelo. ¿Cómo puede pasar y qué se hace?
Cómo se resuelve
- 1Quitar la variable no quita la información. Otras variables la reconstruyen sin nombrarla: tipo de contrato, continuidad en la cotización a pensión (que se interrumpe con las licencias de maternidad), sector económico, ingreso promedio del barrio. A esas se les llama variables proxy, y el modelo las usa sin saber lo que representan.
- 2El problema más profundo está en la etiqueta, no en las variables. El modelo no aprendió quién paga: aprendió qué decidieron los analistas durante 10 años. Si en ese histórico se negó más a un grupo, el modelo aprende a negar igual, con la diferencia de que ahora lo hace a escala y con apariencia de objetividad.
- 3Para saber si hay daño real hay que medir dos cosas por grupo, no una: la tasa de aprobación y la tasa de incumplimiento de los que sí fueron aprobados. Si a un grupo se le aprueba menos pero ese grupo incumple igual o menos, el modelo le está exigiendo más pruebas a quien no debería: ahí el sesgo está demostrado con números, no con opiniones.
- 4Qué se hace: auditar por grupo antes de desplegar y no solo el día del lanzamiento, revisar si la etiqueta se puede reemplazar por el hecho objetivo (¿pagó o no pagó?) en vez de por la decisión del analista, y dejar una vía de revisión humana con explicación para el solicitante.
- 5Y hay un marco legal que no es opcional: en Colombia el tratamiento de datos personales se rige por la Ley 1581 de 2012, el titular tiene derecho a conocer y a rectificar, y una decisión automatizada que afecta el acceso a un servicio financiero tiene que poder explicarse. Un modelo que nadie puede explicar es un problema jurídico además de un problema ético.
Respuesta: Pasa por variables proxy que reconstruyen el sexo y, sobre todo, porque la etiqueta aprendida es la decisión histórica y no el pago real. Se corrige midiendo aprobación e incumplimiento por grupo, revisando la etiqueta y garantizando explicación y revisión humana.
El error de siempre: Dar por neutral el modelo con dos argumentos que suenan bien y no lo son: «son puras matemáticas, no tiene prejuicios» y «ya quitamos la variable sensible». El primero confunde no tener intención con no tener efecto: el daño se mide en las decisiones, no en las ganas. El segundo es peor que inútil, porque deja el sesgo intacto y además ciego: sin la variable en la base ya no se puede medir la brecha, y lo que no se mide se reporta como inexistente.
Datos personales y uso responsable en el aula
Un profesor de un colegio en Bogotá quiere pegar en un chat de IA gratuito las respuestas de sus 40 estudiantes, con nombre completo y sus comentarios sobre el desempeño de cada uno, para que le arme un informe por estudiante. ¿Qué debe revisar antes y cuál es la alternativa?
Cómo se resuelve
- 1Lo primero es reconocer qué son esos datos: datos personales de menores de edad. En Colombia la Ley 1581 de 2012 les da tratamiento reforzado, y el titular del dato es el estudiante con sus padres, no el colegio a discreción de un docente.
- 2Lo segundo es qué significa «gratuito». En muchos servicios el plan sin costo incluye el uso de las conversaciones para entrenar modelos; hay que leer si lo hace y si existe la opción de desactivarlo. Y una vez enviado el dato, salió: no hay botón que lo devuelva.
- 3Lo tercero es el principio de minimización, que casi siempre resuelve el caso sin necesidad de prohibir nada: el informe no necesita los nombres. Se reemplazan por Estudiante 01 a Estudiante 40 en una tabla que se queda en el computador del profesor, se manda el texto seudonimizado, y al recibir el informe se reponen los nombres localmente. El análisis sale igual de bueno y el dato identificable nunca salió del colegio.
- 4Y lo último, que no es de datos sino de oficio: el informe que devuelve la IA es un borrador. La valoración de un estudiante la firma el profesor, que es quien lo vio en clase y quien responde por ella.
Respuesta: Sí puede usar la herramienta, pero seudonimizando: Estudiante 01 a 40, la tabla de equivalencias solo en su computador, revisando antes si el servicio entrena con lo que uno escribe, y firmando él la valoración final.
El error de siempre: Pensar que el riesgo es solo «que se filtre». El problema aparece antes de cualquier filtración: enviar datos identificables de menores a un tercero sin autorización ya es un tratamiento de datos que nadie autorizó, aunque jamás se vea afectado ningún estudiante. Y cambiar el nombre por las iniciales no es seudonimizar: en un curso de 40, «J.P.R.» identifica a una sola persona, y lo sabe cualquiera que esté en ese curso.
¿Y si tu ejercicio no es ninguno de estos?
No hace falta buscar el ejercicio exacto en internet. Trae el tuyo, o pide los que te falten.
Todo esto es gratis y sin instalar nada. Puedes probar antes de crear cuenta.
Lo que cubre
- Sesgo en los datos y en las etiquetas
- Datos personales y uso responsable en el aula
Preguntas que le puedes hacer
- Sesgo en los datos y …Explícame «Sesgo en los datos y en las etiquetas» con un ejemplo práctico y dime en qué suele equivocarse la gente.
- Datos personales y us…Explícame «Datos personales y uso responsable en el aula» con un ejemplo práctico y dime en qué suele equivocarse la gente.
Cómo enseña este tutor
Es riguroso y completo: justifica cada paso y nombra el teorema, la norma o la buena práctica que está aplicando, para que puedas citarla en tu trabajo o en el parcial.
- · Te muestra el camino completo, no solo el resultado.
- · Si algo no te cuadra, te lo explica otra vez de otra manera.
- · Con una foto de tu cuaderno te dice dónde está el error.
- · Te arma quizzes de lo que acabas de ver para saber si de verdad quedó.
Otras materias de Universidad y trabajo
