varokhian/tfg-alo

Othello Game Theory & AlphaZero Datasets and Pretrained Models

Trabajo de Fin de Grado en Matemáticas
Autor: Álvaro León Ojeda
Repositorio GitHub: tfg-alo (varokhian)

---

📌 Resumen del Conjunto de Datos y Modelos

Este repositorio de Hugging Face alberga los conjuntos de datos experimentales y los checkpoints de redes neuronales desarrollados en el marco del Trabajo de Fin de Grado (TFG) en Matemáticas: Introducción a la Inteligencia Artificial: Búsqueda con adversario.

Contiene:

1. dataset_othello_8x8_6_horas.csv: Conjunto de datos masivo generado mediante 6 horas continuas de auto-juego (Self-Play) entre motores Minimax heurísticos ($\alpha$-$\beta$ con política $\epsilon$-greedy y aperturas aleatorias) en Othello $8 \times 8$. Contiene más de 22.000 estados de juego etiquetados con el resultado final.
2. benchmark_othello_estadistico.csv: Registro exhaustivo partida a partida de las 280 partidas del torneo experimental clásico del Capítulo 5 (8 agentes, 28 cruces, 10 partidas por cruce con alternancia de color).
3. benchmark_global_8x8_resultados.csv y benchmark_global_4x4_resultados.csv: Resultados de los torneos multiramas del Capítulo 6 comparando MCTS Neuronal frente a Minimax y agentes Tabula Rasa.
4. mejor_red_valor_8x8.pth: Pesos de la Red Convolucional de Valor (RedDeValorCNN, 2.3 MB) entrenada bajo marco canónico con PyTorch y optimizador AdamW, alcanzando el mínimo error cuadrático medio (MSE) de validación.
5. tabula_rasa_4x4.pth: Pesos de la red dual (política y valor, 95 KB) entrenada sin conocimiento humano previo mediante refuerzo Tabula Rasa en Othello $4 \times 4$.

---

📐 Estructura de Datos y Enmarcado Canónico

Cada fila del conjunto de datos dataset_othello_8x8_6_horas.csv representa una tupla $(\mathbf{s}, a, z)$ con la siguiente estructura de columnas:

Columna	Tipo	Descripción
ID_Partida	int	Identificador único secuencial de la partida.
Numero_Turno	int	Turno de la partida en el que se produjo el estado.
Turno_Actual	str	Pieza a la que le corresponde jugar ('N' para Negras, 'B' para Blancas).
Algoritmo	str	Identificador del motor que tomó la decisión (ej. `alfa_beta_pesos
Tablero	str	Cadena lineal de 64 caracteres (' ', 'N', 'B') representando el estado matricial $8 \times 8$.
Ganador_Final	float	Resultado terminal de la partida ($\pm 1.0$ o $0.0$).

Representación Canónica en PyTorch (2 Canales Espaciales)

Para garantizar la invariancia del modelo respecto al color de las piezas asignado en cada partida, cada estado de 64 casillas se transforma en un tensor de PyTorch de dimensión $(2, 8, 8)$ tipo torch.float32:

• Canal 0 ($8 \times 8$): Matriz binaria indicando las casillas ocupadas por el jugador activo (Turno_Actual).
• Canal 1 ($8 \times 8$): Matriz binaria indicando las casillas ocupadas por el rival.
• Alineación del Objetivo ($z$): $$z = \begin{cases} +1.0 & \text{si el jugador activo del Canal 0 gana la partida} \ -1.0 & \text{si el jugador activo del Canal 0 pierde la partida} \ 0.0 & \text{en caso de tablas / empate} \end{cases}$$

---

🧠 Arquitectura de la Red de Valor (RedDeValorCNN)

La red implementada en PyTorch procesa tensores de entrada $(B, 2, 8, 8)$:

1. Conv2D(in=2, out=32, kernel=3, pad=1) + BatchNorm2d + ReLU
2. Conv2D(in=32, out=64, kernel=3, pad=1) + BatchNorm2d + ReLU
3. Conv2D(in=64, out=64, kernel=3, pad=1) + BatchNorm2d + ReLU
4. Flatten $\to$ Linear(64 * 8 * 8, 128) + ReLU + Dropout(p=0.3)
5. Linear(128, 1) + Tanh $\implies v(\mathbf{s}) \in [-1.0, 1.0]$

---

💻 Ejemplo Rápido de Uso en Python

import torch
import pandas as pd
from cargar_dataset_hf import cargar_modelo_8x8, estado_a_tensor

# 1. Cargar el modelo pre-entrenado
dispositivo = "cuda" if torch.cuda.is_available() else "cpu"
modelo = cargar_modelo_8x8("modelos/mejor_red_valor_8x8.pth", dispositivo=dispositivo)

# 2. Cargar un ejemplo del dataset
df = pd.read_csv("datos/dataset_othello_8x8_6_horas.csv")
ejemplo = df.iloc[0]

# 3. Transformar tablero a tensor canónico (1, 2, 8, 8)
tensor = estado_a_tensor(ejemplo["Tablero"], ejemplo["Turno_Actual"]).to(dispositivo)

# 4. Inferencia del valor esperado
with torch.no_grad():
    valor_predicho = modelo(tensor).item()

print(f"Turno: {ejemplo['Turno_Actual']}")
print(f"Valor estimado por la CNN v(s): {valor_predicho:.4f} (Rango [-1, 1])")
print(f"Resultado real de la partida (Target z): {ejemplo['Ganador_Final']}")

---