Modelos de lenguaje masivos en IA. Un enfoque práctico para la educación

Teacher-training course, by DGAPA, UNAM, 2024

Dar a conocer distintos modelos de lenguaje en inteligencia artificial a los docentes, así como mostrar su uso de forma efectiva y responsable al abordar las distintas consideraciones en prácticas de evaluación y docencia.

Illustration

Módulo 1: Fundamentos de la inteligencia artificial y procesamiento de lenguaje natural

  • Introducción a la inteligencia artificial (IA)
  • Definiciones y tipos de aprendizaje de máquinas
  • ¿De donde viene la IA generativa (IAGen) y como funciona?
  • Disciplinas de la IAGen
  • Modelos de lenguaje masivos (LLMs)
  • Recorrido por el universo de los LLMs

Módulo 2: Sobre la teoría de los modelos de lenguaje masivos y metodología de uso

  • De redes neuronales a Transformers
  • El caso de OpenAI y ChatGPT
  • El gran abanico de los LLMs
  • LLMs de acceso abierto
  • Algunos beneficios y limitantes
  • Ingeniería de comandos y técnicas prompting

Módulo 3: Ingeniería de prompts y modo avanzado de uso en educación

  • Postura mundial sobre los LLMs
  • Técnicas de reentrenamiento
  • Técnicas avanzadas de prompting: Chain of Thoughts
  • Elementos extra de un prompt intermedio
  • Anatomía de un prompt avanzado
  • Aplicaciones en la docencia. Guías y estratégias

Módulo 4: Conclusiones y discusiones sobre la IA responsable

  • Agentes y asistentes
  • Autonomía artificial: Dilema del vehículo autónomo
  • ¿Detectando la IA generativa? (Perplexity & Burstiness)
  • Implicaciones y paradojas
  • Ética, transparencia y privacidad
  • IA abierta y responsable
  • Recomendaciones IAGen en docencia UNAM 2023

Referencias:

  • Holmes, W., & Tuomi, I. (2022). State of the art and practice in AI in education. European Journal of Education, 57(4), 542-570. https://doi.org/10.1111/ejed.12533
  • Reid Hoffman, & GPT4. (2023). Impromptu: Amplifying Our Humanity Through AI. Dallepedia LLC. PDF Book
  • Taulli, T. (2019). Artificial intelligence basics: A non-technical introduction. California, USA: Apress PDF Book
  • Liu, P., Yuan, W., Fu, J., Jiang, Z., Hayashi, H., & Neubig, G. (2021). Pre-train, Prompt, and Predict: A systematic survey of prompting methods in natural language processing. arXiv (Cornell University). https://doi.org/10.48550/arxiv.2107.13586