Modelos#

La pantalla Modelos está destinada a la gestión de Modelos y Ejemplares de modelos disponibles en Sherpa AI Server.

Los usuarios pueden elegir entre un Modelo local o en la nube, si tienen los tokens necesarios para el acceso. También es posible integrar un Modelo alojado en servidores externos dentro de la red local (pero no en el mismo servidor donde se encuentra Sherpa AI Server).

№ p/p	Elemento de interfaz	Descripción
1.	bloque "Modelos"	Área superior de la pantalla donde se muestra la lista de Modelos registrados en el sistema.
1.1.	botón "Crear"	Abre el formulario para crear un nuevo Modelo.
1.2.	botón "Actualizar"	Actualiza la lista de Modelos.
1.3.	botón "Eliminar seleccionado"	Permite eliminar los Modelos seleccionados.
1.4.	botón "Exportar a CSV"	Exporta la lista de Modelos a un archivo en formato CSV.
1.5.	botón "Exportar a XLSX"	Exporta la lista de Modelos a un archivo en formato XLSX.
1.6.	checkbox de selección de modelo	Permite seleccionar uno o varios Modelos para realizar acciones grupales.
1.7.	columna "Nombre"	Muestra el nombre del Modelo.
1.8.	columna "Descripción"	Muestra la descripción del Modelo, si está especificada.
1.9.	columna "Tipo de modelo"	Define para qué tipo de tareas está destinado el Modelo. Opciones posibles: Texto — Modelo para procesar solicitudes de texto: generación de respuestas, análisis de texto, trabajo en Chats y Asistentes; Multimodal — Modelo para trabajar con varios tipos de datos, por ejemplo, con texto e imágenes; OCR — Modelo para el reconocimiento de texto en imágenes o documentos; Indexación — Modelo utilizado en el procesamiento y preparación de datos para búsqueda; Re-ranker — Modelo para reordenar los resultados de búsqueda; Transcripción — Modelo para convertir audio en texto.
1.10.	columna "Destinos"	Muestra en qué escenarios del sistema puede utilizarse el Modelo. Opciones posibles: Chat — uso del Modelo para diálogos y Asistentes; OCR / Vision — uso para tareas de reconocimiento o procesamiento de imágenes; Indexación — uso en el procesamiento y preparación de datos para búsqueda; Re-ranker — uso para reordenar los resultados de búsqueda; Transcripción — uso para convertir audio en texto.
1.11.	columna "Parámetro de generación"	Perfil de configuración de generación de respuesta seleccionado. Opciones posibles: Thinking · general (chat) — perfil para un escenario de chat general con modo de razonamiento; Thinking · coding (código) — perfil para tareas relacionadas con programación y trabajo con código; Instruct (sin thinking) — perfil para instrucciones sin modo de razonamiento.
1.12.	columna "Carpeta de acceso"	Muestra la Carpeta de acceso a la que pertenece el Modelo.
1.13.	columna "Creado"	Muestra la fecha y hora de creación del Modelo.
1.14.	columna "Modificado"	Muestra la fecha y hora de la última modificación del Modelo.
1.15.	botón de edición	Permite abrir el Modelo seleccionado para modificar parámetros.
1.16.	botón de eliminación	Permite eliminar un Modelo específico.
2.	bloque "Ejemplares de modelos"	Área inferior de la pantalla donde se muestran los ejemplares del Modelo seleccionado.
2.1.	checkbox de selección de ejemplar	Permite seleccionar uno o varios Ejemplares de modelos para realizar acciones grupales.
2.1.	botón "Crear"	Abre el formulario para crear un nuevo Ejemplar de modelo.
2.2.	botón "Actualizar"	Actualiza la lista de Ejemplares de modelos.
2.3.	botón "Eliminar seleccionado"	Permite eliminar los Ejemplares de modelos seleccionados. El botón está inactivo si no se seleccionan ejemplares.
2.4.	botón "Exportar a CSV"	Exporta la lista de Ejemplares de modelos a un archivo en formato CSV. El botón está inactivo si no se seleccionan ejemplares.
2.5.	botón "Exportar a XLSX"	Exporta la lista de Ejemplares de modelos a un archivo en formato XLSX. El botón está inactivo si no se seleccionan ejemplares.
2.6.	columna "Nombre"	Muestra el nombre del Ejemplar de modelo.
2.7.	columna "Tipo"	Muestra el tipo de Ejemplar de modelo, por ejemplo local.
2.8.	columna "Ubicación"	Muestra la dirección o ubicación del Ejemplar de modelo, por ejemplo aiserver-llm-server:8000.
2.9.	columna "Creado"	Muestra la fecha y hora de creación del Ejemplar de modelo.
2.10.	columna "Modificado"	Muestra la fecha y hora de la última modificación del Ejemplar de modelo.
2.12.	botón de edición	Permite abrir el Ejemplar de modelo seleccionado para modificar parámetros.
2.13.	botón de eliminación	Permite eliminar un Ejemplar de modelo específico.
3.		Permite especificar cuántos registros se mostrarán en la tabla en una página.
4.		Muestra el rango de registros que se muestran en la página actual y el número total de registros en la tabla.
5.		Permite navegar entre las páginas de la tabla: a la primera página, a la página anterior, a la siguiente página, a la última página.

Selección de Modelo en otras pantallas de Sherpa AI Server#

Chat#

El campo "Modelo" en la ventana "Configuración de chat por defecto" permite seleccionar el Modelo que se utilizará por defecto para procesar mensajes en el Chat. El Modelo seleccionado determina cómo Sherpa AI Server generará respuestas al Usuario, ejecutará instrucciones del mensaje del sistema y trabajará en el modo especificado.

Asistentes#

El campo "Modelo" en la ventana "Editar asistente" permite seleccionar el Modelo que utilizará el Asistente para generar respuestas al Usuario. Este campo es obligatorio y se aplica cuando en el bloque "Fuente de respuesta a la pregunta del usuario" se selecciona la opción "Responde el modelo".

Crear Modelo#

La ventana emergente "Crear modelo" se abre después de hacer clic en el botón "Crear" sobre la tabla "Modelos" y está destinada a agregar un nuevo Modelo en Sherpa AI Server.

Crear Ejemplar del modelo#

La ventana emergente "Crear ejemplar" está destinada a agregar un nuevo Ejemplar del modelo en Sherpa AI Server.

Editar Modelo#

Para ver/editar las propiedades del grupo de Modelos, es necesario seleccionar el grupo deseado en la lista y presionar el botón . Después de esto, se abrirá un formulario con la configuración del Modelo, en el que se pueden realizar los cambios necesarios. No hay nuevos campos en el Modelo creado anteriormente.

Editar Instancia del modelo#

Para ver/editar las propiedades de la Instancia del modelo, es necesario seleccionar la instancia deseada en la lista y presionar el botón . Después de esto, se abrirá un formulario con la configuración de la Instancia del modelo, en el que se pueden realizar los cambios necesarios. No hay nuevos campos en la Instancia del modelo creada anteriormente.

Si el agente informa sobre un exceso de contexto#

El contexto incluye el historial de chat, fragmentos de documentos y descripciones de herramientas. Parte de la ventana del modelo se reserva para la respuesta. Por lo tanto, una pregunta corta puede acompañarse de una gran solicitud.

En las compilaciones con corrección de conteo preciso, el agente aclara el tamaño de la gran solicitud al tokenizador del modelo local antes de reducir el contexto o rechazar. Si el tokenizador no está disponible, se utiliza una estimación aproximada cautelosa.

Si el error se repite, intente un nuevo hilo con una pregunta corta y un pequeño documento. Para una solicitud realmente grande, reduzca los datos de entrada o elija un modelo con una ventana más grande. Si el error ocurre de inmediato en un nuevo hilo, informe al administrador el tiempo, la versión del servidor, el modelo seleccionado, el modo y el identificador del hilo. El administrador verifica la disponibilidad del tokenizador y el tamaño real de la solicitud, incluidas las herramientas.

El campo "Longitud del contexto (tokens)" debe corresponder a las capacidades de la instancia del modelo en funcionamiento. Aumentar este campo por sí solo no amplía la ventana del motor.