La asignatura "Redes Neuronales para el Procesamiento del Lenguaje Natural" presenta de manera práctica las principales técnicas basadas en redes neuronales y aprendizaje profundo (Deep Learning) aplicadas al procesamiento de texto. Se utilizarán técnicas de representación específicamente diseñadas para la introducción de información textual en redes neuronales. Se estudiarán arquitecturas como las redes neuronales convolucionales, las redes neuronales recurrentes, los modelos basados en atención y los modelos contextuales, todas ellas aplicadas a la resolución de problemas del Procesamiento del Lenguaje Natural. El estudiante se familiarizará con todas las técnicas a partir de ejercicios prácticos enfocados al diseño, implementación, entrenamiento y evaluación de las arquitecturas propuestas, para desarrollar habilidades que le permitan seleccionar las más adecuadas para cada determinado problema e implementar soluciones basadas en ellas.

Reseña del Profesorado:

RODRIGO YUSTE, ÁLVARO (coordinador)

Alvaro Rodrigo forma parte del grupo de investigación NLP&IR de la UNED.

Investiga dentro del ámbito del Procesamiento del Lenguaje Natural, centrándose en la búsqueda de respuestas, habiendo participado en la organización de diversas tareas de evaluación internacional así como en el desarrollo de este tipo de sistemas. Además, también investiga en diversos métodos para la detección y mitigación de la desinformación.

Ha formado parte del comité de programa de diversos congresos y es revisor de diversas revistas y congresos internacionales.

DUQUE FERNÁNDEZ, ANDRÉS

Andrés Duque forma parte del grupo de investigación NLP&IR de la UNED, así como del grupo TAMEI (Técnicas Avanzadas de Minería y Extracción de Información) del IMIENS (Instituto Mixto de Investigación-Escuela Nacional de Sanidad), entidad mixta del Instituto de Salud Carlos III y la UNED. 

Especializado en Inteligencia Artificial y Procesamiento del Lenguaje Natural (PLN), sus áreas de conocimiento e investigación son el PLN enfocado a textos biomédicos, así como el aprendizaje máquina y técnicas de Big Data aplicadas a este campo. Realizó una estancia de investigación pre-doctoral en la University of Sheffield (Reino Unido), bajo la supervisión del Dr. Mark Stevenson. 

Es autor de varios artículos científicos publicados en revistas internacionales, como "Artificial Intelligence in Medicine", "Journal of Biomedical Informatics" o "Knowledge-Based Systems", así como en congresos nacionales e internacionales, y ha trabajado también como "Senior Data Scientist" en la industria.

e.mail: aduque@lsi.uned.es

Para cursar esta asignatura se recomienda tener los siguientes conocimientos previos:

• Conocimientos básicos de álgebra y cálculo
• Aprendizaje automático
• Lectura fluida en inglés
• Conocimientos de programación en Python, ya que las prácticas se harán en este lenguaje

Esta asignatura puede ser cursada aisladamente, aunque el estudiante se beneficiaría si hubiera cursado previamente la asignatura de Fundamentos del procesamiento lingüístico.

Las consultas sobre los contenidos o sobre el funcionamiento de la asignatura se plantearán preferentemente en el curso virtual, utilizando los foros públicos.

Andrés Duque Fernández

Atención al Estudiante: Jueves de 11:00 a 13:00 horas y de 15:00 a 17:00 horas

Tfno.: 91 398 6535

Despacho 2.13; E.T.S.I. Informática, UNED

C/ Juan del Rosal, 16

28040 Madrid

Álvaro Rodrigo Yuste

Atención al Estudiante: Jueves de 11:00 a 13:00 horas y de 15:00 a 17:00 horas.

Tfno.: 91 398 9693

Despacho 2.03; E.T.S.I. Informática, UNED

C/ Juan del Rosal, 16

28040 Madrid

COMPETENCIAS

COMPETENCIAS GENERALES

CPG1 - Adquirir capacidad de abstracción, análisis, síntesis y relación de ideas.

CPG2 - Adquirir capacidad crítica y de decisión

CPG3 - Adquirir capacidad de estudio y autoaprendizaje

CPG4 - Adquirir capacidad creativa y de investigación

COMPETENCIAS ESPECÍFICAS

CE1 - Adquirir capacidad de comprender y manejar de forma básica los aspectos más importantes relacionados con los lenguajes y sistemas informáticos en general y, de manera especial, en los siguientes ámbitos: Tecnologías del lenguaje y de acceso a la información en web.

CE3 - Adquirir capacidad de estudio de los sistemas y aproximaciones existentes para distinguir las aproximaciones más efectivas.

CE4 - Adquirir capacidad para detectar carencias en el estado actual de la ciencia y la tecnología.

CE5 - Adquirir capacidad para proponer nuevas aproximaciones que den solución a las carencias detectadas.

CE6 - Adquirir capacidad de especificar, diseñar, implementar y evaluar tanto cualitativa como cuantitativamente los modelos y sistemas propuestos.

CE7 - Adquirir capacidad para proponer y llevar a cabo experimentos con la metodología adecuada como para poder extraer conclusiones y determinar nuevas líneas de actuación e investigación.

El objetivo principal de la asignatura consiste en presentar de manera práctica al estudiante las principales técnicas de aprendizaje profundo aplicadas al procesamiento de texto, de modo que pueda seleccionar las más adecuadas para un determinado problema e implementar soluciones basadas en ellas. De acuerdo con esto, los resultados del aprendizaje son:

1. Conocer los fundamentos básicos de las redes neuronales, las distintas arquitecturas existentes y cómo se pueden aplicar al procesamiento de textos.
2. Conocer los diversos mecanismos que se han desarrollado para mejorar la eficacia de las redes neuronales en tareas relacionadas con el procesamiento del lenguaje natural, como los sistemas de memoria o atención.
3. Conocer las últimas tendencias dentro del aprendizaje profundo aplicado al procesamiento del lenguaje natural.
4. Entender y utilizar modelos contextuales de aprendizaje profundo pre-entrenados, y adaptarlos a tareas específicas.
5. Desarrollar aplicaciones para el procesamiento de texto basadas en aprendizaje profundo.
6. Desarrollar un hábito de lectura de artículos científicos y capacidad para buscar información que complemente el material propuesto inicialmente.
7. Desarrollar la capacidad de reflexión sobre el material estudiado, necesaria para poder realizar una síntesis de calidad.

La asignatura no tiene clases presenciales. Los contenidos teóricos se imparten a distancia y de acuerdo con las normas y estructuras de soporte telemático de la enseñanza en la UNED. El material docente incluye un resumen de los contenidos de cada tema y distintos tipos de actividades relacionadas con la consulta bibliográfica, la realización de ejercicios prácticos y, en ocasiones, la utilización de herramientas asociadas a las tecnologías y técnicas presentadas en el curso. Junto a las actividades y enlaces con fuentes de información externas, existe material didáctico propio preparado por el equipo docente con ejercicios que organizan las actividades prácticas del alumno.

Tratándose de un máster orientado a la investigación, las actividades de aprendizaje se estructuran alrededor del estado del arte en cada uno de los temas del curso y a la parte práctica que el alumno deberá realizar en cada sección. Se utilizarán los recursos de la UNED para las actividades complementarias que se propondrán a lo largo del curso, actividades de asistencia o visualización (on-line, off-line) de seminarios de temas avanzados, impartidos por investigadores de reconocido prestigio.

El plan de trabajo marcará unas pautas adecuadas para que el alumno alcance los objetivos al final del curso. Incluye una descripción ordenada y secuenciada de los contenidos de cada tema y orientaciones sobre las actividades a realizar, tanto de estudio teórico como práctico. Los ejercicios prácticos correspondientes a cada tema, así como la práctica final, son para apoyo y refuerzo del aprendizaje, y su realización es obligatoria para superar la asignatura.

Las actividades pueden ser de los siguientes tipos:

1. L: Lectura y estudio del material correspondiente
2. P: Ejercicios prácticos de entrega obligatoria (exige una entrega en el aula virtual)
3. PF: Tarea relacionada con la práctica final obligatoria (exige al menos una entrega en el aula virtual)

La bibliografía básica será proporcionada al estudiante dentro del curso virtual, estará compuesta por materiales teórico-prácticos realizados por el equipo docente.

Gran parte de la bibliografía, así como los recursos proporcionados al estudiante en el curso virtual pueden estar únicamente en inglés, debido a la novedad de algunos de los contenidos propuestos para la asignatura.

La bibliografía complementaria de la asignatura se puede encontrar en la sección de "Libros electrónicos" de la biblioteca de la UNED, desde donde se tiene acceso a gran cantidad de recursos online, como puede ser "Safari Books" (O`Reilly), que dispone de una herramienta de búsqueda muy potente para acceder a contenidos online.

Los/as estudiantes dispondrán de los siguientes recursos de apoyo al estudio:

• Guía de la asignatura. Incluye el plan de trabajo y orientaciones para su desarrollo. Esta guía será accesible desde el curso virtual.
• Curso virtual. A través de esta plataforma los/as estudiantes tienen la posibilidad de consultar información de la asignatura, realizar consultas al Equipo Docente a través de los foros correspondientes, consultar e intercambiar información con el resto de los compañeros/as.
• Documentación de la asignatura. El equipo docente publicará recursos adicionales que faciliten o profundicen los contenidos desarrollados en la asignatura, además de los contenidos ya ofrecidos.
• Biblioteca. El estudiante tendrá acceso tanto a las bibliotecas de los Centros Asociados como a la biblioteca de la Sede Central, en ellas podrá encontrar un entorno adecuado para el estudio, así como de distinta bibliografía que podrá serle de utilidad durante el proceso de aprendizaje.