Skip to content

Commit a176cf9

Browse files
juandmg020407giulianpeterecheguate
committed
chore: utilidad validate_dataset + gitignore para datasets operativos
- `src/validate_dataset.py`: smoke test reutilizable para cualquier CSV de pedidos. Reporta columnas obligatorias, filas descartadas y razones, distribución de pesos/prioridades/ventanas, y balance de carga vs capacidad de flota (factible / ajustado / sobrecargado). Útil antes de meter un dataset propio al e2e. python src/validate_dataset.py data/pedidos_empresa.csv - `.gitignore`: excluir patrones de datasets con datos reales para que un `git add .` accidental no suba PII al repo público. El dataset sintético `pedidos_ejemplo.csv` sí se versiona (no es PII). Co-Authored-By: Giulian Peterlecean <giulian.peterlecean@gmail.com> Co-Authored-By: Samuel Parra <parrasamuel453@gmail.com>
1 parent e7124fd commit a176cf9

2 files changed

Lines changed: 122 additions & 0 deletions

File tree

.gitignore

Lines changed: 8 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -278,3 +278,11 @@ desktop.ini
278278
.claude/
279279
CLAUDE.md
280280
data/DATASET_SCHEMA.md
281+
282+
# Datasets reales / operativos (NO subir datos de clientes)
283+
# El dataset sintético `pedidos_ejemplo.csv` sí se versiona (no es PII).
284+
data/pedidos_empresa*.csv
285+
data/pedidos_real*.csv
286+
data/pedidos_*_anonimizado.csv
287+
data/raw/
288+

src/validate_dataset.py

Lines changed: 114 additions & 0 deletions
Original file line numberDiff line numberDiff line change
@@ -0,0 +1,114 @@
1+
"""Valida un CSV de pedidos contra el contrato del motor y reporta señales útiles.
2+
3+
Uso:
4+
python src/validate_dataset.py data/pedidos_empresa.csv
5+
python src/validate_dataset.py data/pedidos_empresa.csv --vehicles data/vehiculos_config.json
6+
7+
Comprueba:
8+
- Que el CSV se carga (columnas obligatorias presentes, tipos correctos).
9+
- Cuántas filas se descartan y por qué (coords fuera de rango, valores nulos).
10+
- Distribución de pesos, prioridades y ventanas horarias.
11+
- Si la demanda total cabe en la flota (factible para OR-Tools) o si está
12+
sobrecargada (caerá a fallback heurístico).
13+
- Si hay pedidos con ventana imposible (inicio > fin).
14+
15+
No ejecuta optimización — solo valida. Ideal antes de meter el CSV al e2e.
16+
"""
17+
18+
import argparse
19+
import json
20+
import os
21+
import sys
22+
23+
import pandas as pd
24+
25+
HERE = os.path.dirname(os.path.abspath(__file__))
26+
if HERE not in sys.path:
27+
sys.path.insert(0, HERE)
28+
29+
from data_processor import DataProcessor
30+
31+
REQUIRED_COLS = [
32+
"id_pedido", "cliente", "lat", "lon", "prioridad",
33+
"peso_kg", "franja_inicio", "franja_fin",
34+
]
35+
36+
37+
def main():
38+
parser = argparse.ArgumentParser(description="Valida un CSV de pedidos OpenRoute.")
39+
parser.add_argument("csv_path", help="Ruta al CSV de pedidos")
40+
parser.add_argument("--vehicles", default=os.path.join(HERE, "..", "data", "vehiculos_config.json"),
41+
help="Ruta al JSON de vehículos (para balance de carga)")
42+
args = parser.parse_args()
43+
44+
if not os.path.exists(args.csv_path):
45+
print(f"[ERROR] No existe: {args.csv_path}")
46+
sys.exit(1)
47+
48+
print(f"\n=== Validación de {args.csv_path} ===\n")
49+
50+
# 1. Carga cruda (sin filtros).
51+
raw = pd.read_csv(args.csv_path)
52+
print(f"[INFO] Filas en el CSV crudo: {len(raw)}")
53+
print(f"[INFO] Columnas: {list(raw.columns)}")
54+
55+
missing = [c for c in REQUIRED_COLS if c not in raw.columns]
56+
if missing:
57+
print(f"[FAIL] Faltan columnas obligatorias: {missing}")
58+
sys.exit(1)
59+
print("[OK] Todas las columnas obligatorias presentes")
60+
61+
# 2. Carga procesada (con validaciones del DataProcessor).
62+
try:
63+
df = DataProcessor().load_orders(args.csv_path)
64+
except Exception as e:
65+
print(f"[FAIL] DataProcessor rechazó el CSV: {e}")
66+
sys.exit(1)
67+
68+
descartadas = len(raw) - len(df)
69+
print(f"[INFO] Filas válidas: {len(df)} | descartadas: {descartadas}")
70+
if descartadas > 0:
71+
print(" Causas posibles: lat/lon fuera de [37.5–39.5, -1.5–0.5] (Alicante/Elche)")
72+
print(" o columnas obligatorias nulas. Edita data_processor.py:43 si trabajas otra zona.")
73+
74+
# 3. Distribución de pesos.
75+
print(f"\n--- Pesos (kg) ---")
76+
print(f" min={df['peso_kg'].min():.1f} max={df['peso_kg'].max():.1f} "
77+
f"media={df['peso_kg'].mean():.1f} total={df['peso_kg'].sum():.1f}")
78+
79+
# 4. Distribución de prioridades.
80+
print(f"\n--- Prioridades (3=alta, 2=media, 1=baja) ---")
81+
print(df["prioridad"].value_counts().sort_index().to_string())
82+
83+
# 5. Ventanas horarias.
84+
print(f"\n--- Ventanas horarias ---")
85+
df["duracion_min"] = df["minutos_fin"] - df["minutos_inicio"]
86+
print(f" duración media: {df['duracion_min'].mean():.0f} min | "
87+
f"mínima: {df['duracion_min'].min()} min | máxima: {df['duracion_min'].max()} min")
88+
estrechas = (df["duracion_min"] < 120).sum()
89+
if estrechas > 0:
90+
print(f" [WARN] {estrechas} pedidos con ventana < 2h — pueden forzar fallback de OR-Tools")
91+
92+
# 6. Balance de carga vs flota.
93+
if os.path.exists(args.vehicles):
94+
with open(args.vehicles, encoding="utf-8") as f:
95+
vehicles = json.load(f)
96+
cap_total = sum(v["capacidad_kg"] for v in vehicles)
97+
demanda = df["peso_kg"].sum()
98+
print(f"\n--- Balance flota ({args.vehicles}) ---")
99+
print(f" capacidad total flota: {cap_total:.0f} kg")
100+
print(f" demanda total CSV: {demanda:.1f} kg")
101+
ratio = demanda / cap_total
102+
if ratio <= 0.7:
103+
print(f" [OK] carga al {ratio*100:.0f}% — OR-Tools tiene margen, factible")
104+
elif ratio <= 1.0:
105+
print(f" [WARN] carga al {ratio*100:.0f}% — ajustado, posible fallback con ventanas estrictas")
106+
else:
107+
print(f" [FAIL] carga al {ratio*100:.0f}% — flota sobrecargada, OR-Tools caerá a fallback heurístico")
108+
print(f" sube las capacidades en {args.vehicles} o reduce el dataset")
109+
110+
print(f"\n=== Validación completa ===\n")
111+
112+
113+
if __name__ == "__main__":
114+
main()

0 commit comments

Comments
 (0)