Acerca de Copilotauto model selection

Overview

Más que solo un selector de modelos, auto model selection es un sistema inteligente que ofrece resultados de alta calidad, una mejor confiabilidad y una decisión menos para tomar a medida que el panorama del modelo evoluciona rápidamente.

Automático con optimización de tareas

Auto model selection con la optimización de tareas combina dos sistemas para proporcionar resultados de alta calidad y una mejor confiabilidad. Un sistema realiza un seguimiento del estado y la disponibilidad del sistema en tiempo real, mientras que el otro evalúa la complejidad de las tareas. Al combinar estos elementos, auto model selection dirige la tarea al modelo más adecuado.

El enrutamiento se realiza siguiendo los límites naturales de la caché y las grandes variaciones en la complejidad de la conversación, para evitar costes adicionales relacionados con la caché sin que ello suponga mejoras en la calidad.

Esto le ayuda a obtener más valor de Copilot, ya que asigna cada tarea al modelo que puede resolverla de la forma más eficaz. Esto significa reservar modelos de razonamiento de mayor costo para los problemas que realmente lo necesitan, al tiempo que se enrutan tareas sencillas a modelos más rápidos y de menor costo que siguen proporcionando excelentes resultados.

Estas son algunas ventajas de usar auto model selection:

• Hacer coincidir cada tarea con el modelo que puede resolverlo de forma más eficaz.
• Elección del modelo en función del estado y la disponibilidad del sistema en tiempo real.
• Invariancia lingüística: las decisiones de enrutamiento dependen de lo que intentas hacer, no del idioma en el que lo plantees.
• Mejora de la eficiencia de costos debido al enrutamiento inteligente de tareas.

Opciones de nivel automático

Cuando se usa auto con optimización de tareas, hay tres niveles disponibles. Utiliza estos niveles para ajustar cómo auto model selection dirige prioritariamente los modelos para cada prompt.

Nivel	Priority	Uso típico
Eficiencia	Cost	Adecuado para tareas rápidas y sencillas.
Saldo	Equilibra el costo, la calidad y la latencia.	Una buena opción para el trabajo diario.
Inteligencia	Quality	Diseñado para tareas complejas.

Con los niveles, auto model selection sigue teniendo en cuenta el prompt de cada tarea. Los mismos modelos siguen estando disponibles en cada nivel, pero el enrutamiento en capas cambia cómo se seleccionan los modelos preferidos para cada tarea. Ejemplos de cada nivel:

• Eficiencia: todas las solicitudes se dirigen al modelo más rentable y con la capacidad adecuada para la tarea.
• Equilibrio: para cada solicitud, el modelo se selecciona considerando el costo, la calidad y la latencia, para proporcionar un rendimiento rentable y eficaz adecuado a la complejidad de cada solicitud.
• Inteligencia: los prompts se evalúan para determinar qué modelo proporcionaría la respuesta de mayor calidad. Todavía se puede enrutar un mensaje simple a un modelo más pequeño, mientras que un mensaje complejo se enruta al modelo más capaz de esa tarea.

El uso se sigue cobrando en función del modelo seleccionado automáticamente, independientemente del nivel, y se aplica además el descuento del 10 % para los usuarios con planes de pago. Consulte Descuento para la selección automática del modelo.

Optimizado automáticamente para la confiabilidad y disponibilidad del modelo

Experimente una limitación de velocidad menor al permitir auto model selection elegir el mejor modelo disponible en su nombre.

Auto model selection, optimizado para la confiabilidad y disponibilidad del modelo, elige de forma inteligente los modelos en función del estado del sistema en tiempo real y el rendimiento del modelo. Se beneficia de:

• Limitación de velocidad reducida
• Menor latencia y errores

Directivas y disponibilidad

Al seleccionar Automático, auto model selection elige entre los modelos admitidos, sujeto a las directivas y el tipo de suscripción. Los modelos disponibles pueden cambiar con el tiempo. Consulte Modelos de IA admitidos en GitHub Copilot.

Auto model selection no incluirá estos modelos:

• Los modelos no están disponibles en el plan.
• Modelos excluidos por directivas de administrador. Consulte Configuración del acceso a los modelos de inteligencia artificial en GitHub Copilot.
• Modelos excluidos por directivas que restringen Copilot a modelos con residencia de datos o compatibles con FedRAMP.
• Los modelos excluidos por directivas que restringen los modelos de evaluación.

Deshabilitación de modelos de evaluación en auto model selection

Auto model selection puede ofrecer modelos de evaluación a los usuarios de los planes Copilot individuales. Las personas pueden deshabilitar el uso de estos modelos en cualquier momento. Consulte Modelos de IA admitidos en GitHub Copilot.

Descuento por usar auto model selection

Si está en un plan de pago Copilot , califica para un descuento de 10% en los costos del modelo mientras usa auto model selection en Copilot Chat, Copilot CLI, GitHub Copilot appo Copilot cloud agent.

Auto model selection en Copilot

Auto model selection, con optimización de tareas, está disponible con carácter general en estos Copilot productos:

• Copilot Chat, en el sitio web GitHub y en los IDE admitidos
• Copilot CLI
• GitHub Copilot app
• Copilot cloud agent

Copilot Chat en entornos de desarrollo integrados

Auto model selection, con optimización de tareas, está disponible con carácter general en los siguientes IDE:

• VS Code
• IDEs de JetBrains

Auto model selection, optimizado para la confiabilidad y disponibilidad del modelo, está disponible con carácter general en los siguientes IDE:

• Eclipse
• Xcode
• Visual Studio