# Google DevFest Ourense 2025 - LLM Workshop — Data

来源：https://www.kaggle.com/competitions/google-dev-fest-ourense-2025-llm-workshop/data

采集时间：2026-10-20T03:04:36Z

TinyShakespeare es un corpus de ~40.000 líneas de obras de William Shakespeare en texto plano, popularizado por los tutoriales de modelos de lenguaje a nivel carácter de Andrej Karpathy; su tamaño total ronda 1–1.1 MB, lo que permite entrenar prototipos de nanoGPT rápidamente en CPU/GPU modestas. Suele distribuirse como un único archivo input.txt con el texto completo, y muchas implementaciones lo exponen en tres “splits” simbólicos (train/validation/test) con una única entrada por split que contiene todo el texto.​

Contenido y formato​
El archivo incluye diálogos y acotaciones de múltiples obras, con nombres de personajes seguidos de sus líneas y saltos de línea que preservan estructura teatral; un ejemplo inicial es “First Citizen:\nBefore we proceed any further, hear me …”. El dataset se entrega como una columna “text” de tipo string, sin etiquetas adicionales, pensado para modelado autoregresivo de siguiente carácter o siguiente token tras tokenización.​

Tareas recomendadas​

Modelado a nivel carácter: dividir el texto en secuencias y entrenar a predecir el siguiente carácter, lo que simplifica vocabulario y facilita prototipos educativos.​

Modelado a nivel subpalabra/palabra: aplicar un tokenizador BPE o similar para entrenar un GPT pequeño con bloques de contexto fijos y evaluación por perplexity en validación.​

Tamaño y splits​
El tamaño de descarga y del dataset es aproximadamente 1.06–1.11 MB, con un total ocupado en disco cercano a 2.23 MB en algunos empaquetados. En catálogos comunes se ofrece con tres splits (train/validation/test), cada uno con una única “ejemplo” que contiene todo el texto, práctica que facilita pipelines simples de corte en ventanas.​

Ventajas para la hackathon​

Ciclos rápidos: su tamaño pequeño permite iterar hiperparámetros, arquitecturas y regularización con entrenos de minutos, ideal para comparar runs en un leaderboard.​

Reproducibilidad: al ser un estándar de facto en demos de nanoGPT/char-rnn, existen scripts y repositorios de referencia que facilitan baselines y comparaciones justas.​

Limitaciones y buenas prácticas​

Escala y diversidad: el corpus es pequeño y estilísticamente homogéneo (inglés isabelino), por lo que conviene evitar conclusiones generales sobre escalado o capacidades fuera del dominio.​

Evaluación: usar un split de validación consistente y registrar la perplexity de validación y el gap val−train para medir generalización; documentar cómo se cuentan tokens si se emplea tokenización subpalabra.​