Modelos#

A tela Modelos é destinada ao gerenciamento de Modelos e Instâncias de modelos disponíveis no Sherpa AI Server.

Os usuários podem escolher entre um Modelo local ou na nuvem, desde que tenham os tokens necessários para acesso. Também é possível integrar um Modelo hospedado em servidores de terceiros dentro da rede local (mas não no mesmo servidor onde o Sherpa AI Server está localizado).

№ p/p	Elemento da interface	Descrição
1.	bloco "Modelos"	Área superior da tela, onde é exibida a lista de Modelos registrados no sistema.
1.1.	botão "Criar"	Abre o formulário para criar um novo Modelo.
1.2.	botão "Atualizar"	Atualiza a lista de Modelos.
1.3.	botão "Excluir selecionados"	Permite excluir os Modelos selecionados.
1.4.	botão "Exportar para CSV"	Exporta a lista de Modelos para um arquivo no formato CSV.
1.5.	botão "Exportar para XLSX"	Exporta a lista de Modelos para um arquivo no formato XLSX.
1.6.	checkbox de seleção de modelo	Permite selecionar um ou mais Modelos para realizar ações em grupo.
1.7.	coluna "Nome"	Exibe o nome do Modelo.
1.8.	coluna "Descrição"	Exibe a descrição do Modelo, se fornecida.
1.9.	coluna "Tipo de modelo"	Define para que tipo de tarefas o Modelo é destinado. Possíveis opções: Texto — Modelo para processamento de solicitações textuais: geração de respostas, análise de texto, trabalho em Chats e Assistentes; Multimodal — Modelo para trabalhar com vários tipos de dados, como texto e imagens; OCR — Modelo para reconhecimento de texto em imagens ou documentos; Indexação — Modelo usado no processamento e preparação de dados para busca; Re-ranqueador — Modelo para reclassificação de resultados de busca; Transcrição — Modelo para conversão de áudio em texto.
1.10.	coluna "Destinos"	Mostra em quais cenários do sistema o Modelo pode ser utilizado. Possíveis opções: Chat — uso do Modelo para diálogos e Assistentes; OCR / Visão — uso para tarefas de reconhecimento ou processamento de imagens; Indexação — uso no processamento e preparação de dados para busca; Re-ranqueador — uso para reclassificação de resultados de busca; Transcrição — uso para conversão de áudio em texto.
1.11.	coluna "Parâmetro de geração"	Perfil de configuração de geração de resposta selecionado. Possíveis opções: Pensando · geral (chat) — perfil para cenário de chat geral com modo de raciocínio; Pensando · codificação (código) — perfil para tarefas relacionadas à programação e trabalho com código; Instruir (sem pensar) — perfil para instruções sem modo de raciocínio.
1.12.	coluna "Pasta de acesso"	Exibe a Pasta de acesso à qual o Modelo pertence.
1.13.	coluna "Criado"	Exibe a data e hora de criação do Modelo.
1.14.	coluna "Alterado"	Exibe a data e hora da última alteração do Modelo.
1.15.	botão de edição	Permite abrir o Modelo selecionado para alterar os parâmetros.
1.16.	botão de exclusão	Permite excluir um Modelo específico.
2.	bloco "Instâncias de modelos"	Área inferior da tela, onde são exibidas as instâncias do Modelo selecionado.
2.1.	checkbox de seleção de instância	Permite selecionar uma ou mais Instâncias de modelos para realizar ações em grupo.
2.1.	botão "Criar"	Abre o formulário para criar uma nova Instância de modelo.
2.2.	botão "Atualizar"	Atualiza a lista de Instâncias de modelos.
2.3.	botão "Excluir selecionados"	Permite excluir as Instâncias de modelos selecionadas. O botão está desativado se nenhuma instância for selecionada.
2.4.	botão "Exportar para CSV"	Exporta a lista de Instâncias de modelos para um arquivo no formato CSV. O botão está desativado se nenhuma instância for selecionada.
2.5.	botão "Exportar para XLSX"	Exporta a lista de Instâncias de modelos para um arquivo no formato XLSX. O botão está desativado se nenhuma instância for selecionada.
2.6.	coluna "Nome"	Exibe o nome da Instância de modelo.
2.7.	coluna "Tipo"	Exibe o tipo da Instância de modelo, por exemplo local.
2.8.	coluna "Localização"	Exibe o endereço ou localização da Instância de modelo, por exemplo aiserver-llm-server:8000.
2.9.	coluna "Criado"	Exibe a data e hora de criação da Instância de modelo.
2.10.	coluna "Alterado"	Exibe a data e hora da última alteração da Instância de modelo.
2.12.	botão de edição	Permite abrir a Instância de modelo selecionada para alterar os parâmetros.
2.13.	botão de exclusão	Permite excluir uma Instância de modelo específica.
3.		Permite especificar quantos registros serão exibidos na tabela em uma única página.
4.		Mostra o intervalo de registros exibidos na página atual e o número total de registros na tabela.
5.		Permite navegar entre as páginas da tabela: para a primeira página, para a página anterior, para a próxima página, para a última página.

Seleção de Modelo em outras telas do Sherpa AI Server#

Chat#

O campo "Modelo" na janela "Configurações de chat padrão" permite selecionar o Modelo que será usado por padrão para processar mensagens no Chat. O Modelo selecionado determina como o Sherpa AI Server irá formular respostas para o Usuário, executar instruções da mensagem do sistema e operar no modo definido.

Assistentes#

O campo "Modelo" na janela "Editar assistente" permite selecionar o Modelo que será usado pelo Assistente para formular respostas ao Usuário. O campo é obrigatório e é aplicado quando a opção "Responde o modelo" é selecionada no bloco "Fonte da resposta à pergunta do usuário".

Criar Modelo#

A janela pop-up "Criar modelo" é aberta após clicar no botão "Criar" acima da tabela "Modelos" e é destinada a adicionar um novo Modelo ao Sherpa AI Server.

Criar Exemplar do modelo#

A janela pop-up "Criar exemplar" é destinada a adicionar um novo Exemplar do modelo no Sherpa AI Server.

Editar Modelo#

Para visualizar/editar as propriedades do grupo de Modelos, é necessário selecionar o grupo desejado na lista e clicar no botão . Após isso, abrirá um formulário com as configurações do Modelo, onde podem ser feitas as alterações necessárias. Não há novos campos no Modelo criado anteriormente.

Editar Instância do modelo#

Para visualizar/editar as propriedades da Instância do modelo, é necessário selecionar a instância desejada na lista e clicar no botão . Após isso, abrirá um formulário com as configurações da Instância do modelo, onde podem ser feitas as alterações necessárias. Não há novos campos na Instância do modelo criada anteriormente.

Se o agente reportar excesso de contexto#

O contexto inclui o histórico do chat, fragmentos de documentos e descrições de ferramentas. Parte da janela do modelo é reservada para a resposta. Portanto, uma pergunta curta pode ser acompanhada por uma solicitação grande.

Em compilações com correção de contagem exata, o agente verifica o tamanho da grande solicitação no tokenizador do modelo local antes de reduzir o contexto ou recusar. Se o tokenizador não estiver disponível, uma estimativa cautelosa é utilizada.

Se o erro persistir, tente um novo thread com uma pergunta curta e um pequeno documento. Para uma solicitação realmente grande, reduza os dados de entrada ou escolha um modelo com uma janela maior. Se o erro ocorrer imediatamente em um novo thread, informe ao administrador o horário, a versão do servidor, o modelo escolhido, o modo e o identificador do thread. O administrador verifica a disponibilidade do tokenizador e o tamanho real da solicitação, incluindo as ferramentas.

O campo "Comprimento do contexto (tokens)" deve corresponder às capacidades da instância do modelo em funcionamento. Aumentar esse campo por si só não expande a janela do mecanismo.