Lineamientos Uso IA en educación superior

INTELIGENCIA ARTIFICIAL

 [pic 1]

En la política nacional de inteligencia artificial, se define un sistema de IA como “(...)un sistema computacional que, en función de objetivos explícitos o implícitos, infiere, a partir de los datos de entrada que recibe, cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que [pueden] influir en entornos físicos o virtuales.

Basado en la definición de la OCDE (Ministerio de Ciencia de Chile, 2024).

Esta tecnología puede usarse a beneficio de los procesos de enseñanza y aprendizaje, siempre que las prácticas por parte de profesores y estudiantes sean éticas y buscando siempre el más alto nivel de formación académica, entendiendo también que estas tecnologías emergentes son parte de las habilidades digitales de un profesional del presente y el futuro.

El gran desafío de las instituciones de educación superior estriba en la urgente necesidad de planificar, diseñar, desarrollar e implementar competencias digitales a fin de formar mejores profesionales capaces de entender y desarrollar el entorno tecnológico en función a sus necesidades (UNESCO, 2023).

Desafíos

Algunos de estos desafíos incluyen: la autenticidad de trabajos académicos, derechos de autor, la evaluación justa, el pensamiento crítico, los sesgos algorítmicos y la responsabilidad personal de lo que se produce o edita con IA.

Debería garantizarse que la implementación de tecnologías de IA contribuya al desarrollo académico y administrativo de la institución, promoviendo la innovación, el aprendizaje y la eficiencia, mientras se preservan los principios de:

- Ética y Responsabilidad,

- Transparencia, y

- Privacidad y Seguridad.

Principios Generales

1. Ética y Responsabilidad

El uso de la inteligencia artificial (IA) debe estar alineado con los valores éticos y de responsabilidad social de la institución. Los sistemas de IA deben ser diseñados y utilizados para respetar la dignidad de los estudiantes, profesores y colaboradores, promoviendo un ambiente de equidad e inclusión.

Además, la institución debe asegurarse de que aquellos que diseñan, desarrollan, implementan y operan los sistemas de IA asuman la responsabilidad de sus impactos, garantizando que la tecnología se utilice para mejorar la experiencia educativa y administrativa, sin causar daños o prejuicios.

II.      Transparencia

Los sistemas de IA utilizados deben ser claros y comprensibles para todos los miembros de la comunidad. Esto significa que los estudiantes, profesores y colaboradores deben ser informados sobre cuándo y cómo se utilizan los sistemas de IA, y deben tener acceso a explicaciones comprensibles sobre cómo se toman las decisiones automatizadas.

La transparencia en el uso de IA es esencial para fomentar la confianza y asegurar que los usuarios comprendan las capacidades y limitaciones de estos sistemas, facilitando una supervisión adecuada y una toma de decisiones informada.

III.        Privacidad y Seguridad:

 Todos los sistemas de IA utilizados deben cumplir con las normas vigentes en materia de privacidad y protección de datos personales, especialmente en el manejo de la información de estudiantes, profesores y personal.

Los datos utilizados por los sistemas de IA deben ser seguros, precisos y gestionados de manera que se proteja la confidencialidad e integridad de la información.

Además, es crucial que los sistemas de IA sean robustos y estén protegidos contra accesos no autorizados y usos indebidos, garantizando la seguridad de los datos y la privacidad de los usuarios en todas las actividades académicas y administrativas.

2. Marco de referencia

(Ministerio de Ciencia de Chile, 2024).

Esta política se estructura en tres ejes fundamentales, uno de los cuales es Gobernanza y Ética. En este eje se abordan las siguientes líneas de trabajo:

• Regulación e Institucionalidad: impulsar la construcción de un marco regulatorio integral que permita la investigación, desarrollo y uso responsable de los sistemas de IA, respetando los derechos fundamentales.

• Articulación Internacional: promover la cooperación internacional y la participación activa de Chile en la discusión y establecimiento de estándares globales para la gobernanza de la IA.

• Medioambiente y Crisis Climática: fomentar el uso de IA para monitorizar y mitigar los impactos ambientales, así como para promover el uso de energías renovables en el desarrollo de infraestructuras para IA.

• Igualdad de Género: promover la participación equitativa de mujeres en las áreas de investigación, desarrollo y aplicación de la IA, abordando los sesgos de género en los sistemas de IA.

• Inclusión y No Discriminación: fomentar la inclusión y no discriminación en el desarrollo e implementación de sistemas de IA, asegurando la participación de diversos grupos sociales.

• Impactos en el Trabajo: anticipar y gestionar los impactos de la IA en el ámbito laboral, desarrollando estrategias para la reconversión y capacitación de los trabajadores afectados por la automatización.

• Niños, Niñas y Adolescentes: proteger los derechos de los menores en el uso y desarrollo de IA, asegurando que estos sistemas se diseñen y utilicen de manera que promuevan su bienestar y desarrollo integral.

• Creación y Propiedad Intelectual: desarrollar un sistema de propiedad intelectual actualizado que fomente la innovación basada en IA y proteja los derechos de los creadores e innovadores.

• Cultura y Preservación del Patrimonio Cultural: utilizar la IA para preservar y poner en valor el patrimonio cultural material e inmaterial de Chile, de manera ética y sostenible.

• Ecosistema Digital Seguro: abordar la IA como un componente clave en la ciberseguridad y la ciberdefensa, promoviendo sistemas tecnológicos seguros y medidas para prevenir la desinformación y la violencia digital.

Autoría y creación de contenido

¿Puede considerarse este contenido como original? Y si es así, ¿quién es el autor?

Actualmente no existe una solución legal expresa, no obstante, para fines educativos, se ha tomado una postura desde el punto de vista de los conceptos tradicionales de originalidad y creatividad.

Se entiende como originalidad la expresión única y autónoma de un pensamiento, idea o emoción por parte de un autor.

Los sistemas de IA, a pesar de su complejidad y capacidad para generar contenidos, no poseen emociones, consciencia o intencionalidad. Entonces,

...