Este documento descreve como usar o otimizador de comandos da Vertex AI para otimizar automaticamente a performance de comandos melhorando as instruções do sistema para um conjunto de comandos.
O otimizador de comandos da Vertex AI pode ajudar você a melhorar seus comandos rapidamente em grande escala, sem precisar reescrever manualmente instruções do sistema ou comandos individuais. Isso é especialmente útil quando você quer usar instruções e comandos do sistema que foram escritas para um modelo com um modelo diferente.
Oferecemos duas abordagens para otimizar comandos:
- O otimizador de aprendizado sem exemplos é um otimizador de baixa latência em tempo real que melhora um único modelo de comando ou instrução do sistema. Ele é rápido e não exige nenhuma configuração adicional além de fornecer o comando ou a instrução do sistema original.
- O otimizador iterativo de tarefas em lote baseado em dados melhora os comandos avaliando a resposta do modelo a comandos de amostra rotulados com base em métricas de avaliação especificadas para o modelo de destino selecionado. É para uma otimização mais avançada que permite configurar os parâmetros de otimização e fornecer algumas amostras rotuladas.
Esses métodos estão disponíveis para os usuários na interface do usuário (UI) ou no SDK da Vertex AI.
Modelos de destino compatíveis para otimização
O otimizador zero-shot é independente do modelo e pode melhorar os comandos para qualquer modelo do Google.
O otimizador baseado em dados só é compatível com a otimização de modelos do Gemini em disponibilidade geral.
A seguir
Saiba mais sobre o otimizador de aprendizado sem exemplos.
Saiba mais sobre o otimizador baseado em dados.