Entrenar un modelo pequeño para que imite a uno grande.

Reducir la precisión numérica de los pesos y activaciones.

Aumentar el número de parámetros para mejorar la precisión.

Eliminar conexiones o neuronas que aportan poco al modelo.