Existen diferentes tipos de métodos de conjunto, que incluyen:
- Empaquetado (agregación Bootstrap): El embolsado es un método de conjunto que crea múltiples muestras de arranque a partir de los datos de entrenamiento. Cada muestra de arranque se utiliza para entrenar un modelo base y luego se promedian las predicciones de los modelos base para hacer la predicción final.
- Impulso (impulso adaptativo): El impulso es un método conjunto que entrena modelos base de forma secuencial. Cada modelo base se entrena con los mismos datos de entrenamiento, pero los datos se vuelven a ponderar después de entrenar cada modelo. A los puntos de datos que el modelo anterior clasifica erróneamente se les asigna una mayor ponderación, de modo que los modelos posteriores se centran en estos puntos de datos.
- Bosques aleatorios: Los bosques aleatorios son un método de conjunto que construye un conjunto de árboles de decisión. Cada árbol de decisión se entrena con un subconjunto diferente de datos de entrenamiento y la predicción final se realiza por mayoría de votos o promediando las predicciones de los árboles de decisión individuales.
Los métodos de conjunto suelen ser más precisos que los modelos individuales, ya que pueden ayudar a reducir la varianza y el sesgo del modelo. También se pueden utilizar para mejorar la solidez del modelo, ya que pueden ayudar a evitar que el modelo se sobreajuste a los datos de entrenamiento.