Glosario NLP

Corriente fundada por Saussure que analiza el lenguaje como un sistema de signos interrelacionados.

Representación vectorial densa de palabras, oraciones o documentos en un espacio continuo donde elementos similares están cerca.

Componente del Transformer que procesa la entrada completa bidireccionalmente. BERT usa solo encoders.

Arquitectura neuronal con dos componentes: encoder procesa la entrada completa en representaciones contextuales, y decoder genera la salida token por token. Base de traducción automática, resumen y tareas seq2seq.

Elemento del mundo real mencionado en un texto: persona, lugar, organización, fecha, cantidad, etc.

Medidas para cuantificar el rendimiento de modelos: accuracy, F1, BLEU, ROUGE, perplexity, etc.