El número óptimo de neuronas en la capa oculta depende de múltiples factores y no puede determinarse sin antes entrenar varias redes. Demasiadas o pocas neuronas ocultas pueden dar lugar a underfitting u overfitting. Algunas reglas empíricas sugieren que el número de neuronas ocultas sea aproximadamente dos tercios del número de entradas, pero el método más efectivo es probar varias configuraciones y seleccionar la que minimice el error de generalización.