Glosario NLP

Algoritmo para calcular gradientes en redes neuronales, propagando el error desde la salida hacia las capas anteriores.

Representación de texto que ignora el orden de las palabras y solo considera su frecuencia. Simple pero pierde contexto.

Algoritmo de búsqueda que mantiene los k mejores candidatos en cada paso de generación. Equilibra calidad y eficiencia.

Bidirectional Encoder Representations from Transformers. Modelo preentrenado de Google que reordenó el campo del PLN al procesar texto bidireccionalmente.

Métrica de evaluación que compara textos usando embeddings contextuales de BERT en lugar de coincidencias exactas de n-gramas. Captura similitud semántica que BLEU y ROUGE pasan por alto.

Bilingual Evaluation Understudy. Métrica para evaluar traducciones automáticas comparando n-gramas con referencias humanas.

Algoritmo de tokenización que fusiona iterativamente los pares de caracteres más frecuentes. Usado en GPT y otros modelos.