El despliegue de la Inteligencia Artificial (IA) en la educación plantea nuevos desafíos para los tomadores de decisiones de política pública. Varios de esos desafíos se relacionan con la confianza y con la configuración de un uso confiable de la IA, donde la transparencia, explicabilidad y la rendición de cuentas son aspectos importantes, especialmente para asegurar el uso de IA en base a valores centrados en el ser humano y la protección y seguridad de los datos.
En Junio de 2019, los líderes del G20, conjunto de países industrializados y emergentes que discuten sobre políticas de estabilidad financiera internacional y deliberación política y económica, definieron los principios para una administración responsible para una IA confiable:
Crecimiento inclusivo, desarrollo sostenible y bienestar: búsqueda de resultados beneficiosos para las personas y el planeta, como el aumento de capacidades y mejorar la creatividad, promoviendo la inclusión de población subrepresentadas, reduciendo las desigualdades económicas, sociales, de género y de otro tipo.
Valores y equidad centrados en el ser humano: respetar el estado de derecho, los derechos humanos y los valores democráticos, en todo el ciclo de vida del sistema de IA, lo que incluyen libertad, dignidad y autonomía, privacidad y datos, diversidad, equidad, justicia social y derechos laborales.
Transparencia y explicabilidad: comprometer la divulgación responsable de sistemas IA, proporcionando información significativa, adecuada a los contextos y coherente con el estado del arte. Esta comprensión general de los sistemas de IA permite tomar conciencia de interacciones, entender los factores y lógicas base de predicciones, recomendaciones y decisiones.
Robustez, seguridad y protección: en condiciones de uso normal, uso previsible o mal uso, los sistemas IA deben funcionar correctamente y sin suponer un riesgo de seguridad, mediante garantizar la trazabilidad de los conjuntos de datos, procesos y decisiones, y permitir el análisis y respuestas a consultas. Los actores de la IA deben, en función de sus roles y capacidades, aplicar una enfoque sistemático de gestión de riesgos de forma continua.
Rendición de cuentas: actores de la IA deben ser responsables y fiscalizables por el correcto funcionamiento de los sistemas de IA y el respeto de los principios anteriores.
El G20 también acordó recomendaciones para el desarrollo de políticas nacionales e de cooperación internacionales para una IA confiable, como la inversión en investigación y desarrollo de IA, fomentar un ecosistema digital para la IA, generar un entorno propicio para desarrollar capacidades en IA, y así, preparar la transformación del mercado laboral.
Para desplegar todo el potencial de la IA en educación exigirá que los responsables de la formulación de políticas, los educadores y otras partes interesadas confíen en los sistemas de IA y su uso social. Esto es particularmente cierto en la educación, ya que las aplicaciones de IA tienen un gran interés para los estudiantes (decisiones de admisión, identificar el tipo de apoyo para aprendizaje, por ejemplo).
La confianza en la IA en educación tiene múltiples dimensiones. En educación, la IA podría considerarse digna de confianza cuando hace correctamente lo que se supone que debe hacer, pero también que las personas lo usarán de manera justa y apropiada. Por ejemplo, sistemas de alerta temprana impulsadas por IA perfilan a los estudiantes e identifican riesgo de abandonar la escuela. Si su eficacia para identificar a los estudiantes adecuados es demasiado limitada, no son completamente confiables y necesitan mejoras mediante una mayor investigación y desarrollo. Otra posibilidad es que los sistemas IA sean precisos pero mal utilizados. Identificar quién está en riesgo de abandonar la escuela solo importa si se implementa una intervención para apoyar a los estudiantes y abordar ese riesgo. Otras intervenciones pueden tener como objetivo mejorar la finalización y contribuir a la justicia social, sin embargo, otras intervenciones podría buscar excluir a los estudiantes "en riesgo" porque pueden conducir a sanciones contra la escuela o la pérdida de reputación. No solo la IA debe ser confiable, sino también la interacción entre humanos y la IA.
En otros casos, la IA podría conducir a sugerencias que probablemente se convertirán en decisiones, por ejemplo, para la admisión a escuelas o universidades basadas en ciertos algoritmos. En algunos casos, esto puede aumentar la equidad (por ejemplo, si el sistema estaba previamente sesgado), pero puede también tener consecuencias no deseadas. Dado que el nuevo sistema probablemente cambiará a los beneficiarios de las escuelas más solicitadas, la confianza solo puede venir con transparencia y explicabilidad de los criterios y algoritmos. Ampliar la "apertura" a los algoritmos es una solución para transparencia, pero para algunas técnicas de IA (como el aprendizaje profundo), la explicabilidad sigue siendo difícil. Algunos países (como Francia) han renunciado al uso de algunos tipos de algoritmos en la toma de decisiones públicas debido a la dificultad de explicarlos a la audiencia pública.
Las sociedades y las personas pueden beneficiarse del impacto positivo de la IA en la educación y los resultados del aprendizaje, junto con preparar a los estudiantes para un futuro digital. Pero otras cuestiones políticas importantes se relacionan con la protección y la seguridad de datos, dado que los estudiantes escolares son menores de edad y posibles sesgos incrustados en los algoritmos de IA o en los datos que los alimentan. La recopilación masiva de datos suele generar preocupaciones sobre la privacidad y la seguridad de los datos.
Mientras el uso de datos personales mejora la eficacia de los sistemas de IA en la educación, la recopilación y el almacenamiento de datos crean nuevos riesgos. Por ejemplo, preocupa que instituciones educativas o empleadores utilicen datos "antiguos" para tomar decisiones, lo que plantea la cuestión de cuánto tiempo y qué datos podrían almacenarse y recuperarse para algunas decisiones. Otra pregunta se refiere al posible uso de los datos con fines e intereses comerciales. En muchos sentidos, esas preocupaciones se relacionan con la naturaleza "centrada en el ser humano" de una IA confiable que respeta hábitos y derechos, por ejemplo, la capacidad de no ser observado constantemente, que la información privada de uno se exponga públicamente, la capacidad de no ser juzgado en función sobre información pasada o irrelevante.
Revisa versiones
Texto actualizado y completo de la Constitución Política de Chile de 1980.
