Watsonx

Descrição: Aba destinada a configuração de acesso ao modelo de IA do Watsonx.

Como acessar: Configurações > Watsonx

O usuário deverá preencher as informações necessárias e clicar em salvar, para que as informações sejam gravadas ou acessar as outras opções de configuração e salvar ao término das edições de toda a configuração.

As opções de configurações disponíveis nesta aba são:

URL Get Token: Campo destinado a informar a URL da API do WatsonX para recuperação do token de acesso aos modelos de IA;

URL Payload Token: Campo destinado a estrutura de requisiçãod a API de recuperação do token de acesso no Watsonx;

Token ApiKey: Campo destinado a informar a Api Key para autenticação na API de recuperação do token de acesso no Watsonx;

URL Jobs: Campo destinado à definição da URL do modelo do Watsonx a ser utilizado no MD2 Interactive Intelligence. Cada modelo no Watsonx utiliza uma URL diferente;

Template para o payload JSON: Campo destinado a informar os parâmetros de requisição do modelo de IA no Watsonx via API, conforme opções abaixo:

- Método: pode ser greedy ou amostragem. No modo greedy, a próxima palavra gerada pelo modelo é a de maior probabilidade. Enquanto que no modo de amostragem, a próxima palavra é escolhida de forma aleatória entre um determinado grupo de possíveis palavras, gerando variabilidade.
- Temperatura (habilitado somente para o modo de amostragem): varia entre 0 e 2. Quanto maior o valor, maior será a variabilidade ou criatividade da resposta.
- Top K (habilitado somente para o modo de amostragem): varia entre 1 e 100. Seleciona as Top K palavras mais prováveis de uma lista de palavras possíveis ordenadas em ordem decrescente de probabilidade.
- Top P (habilitado somente para o modo de amostragem): varia entre 0 e 1. Escolhe a próxima palavra com base em uma probabilidade acumulada de uma amostra de palavras ordenadas da maior para menor probabilidade e um valor de corte (Top P). A escolha da palavra entre as selecionadas na amostra é aleatório.
- Valor inicial aleatório (habilitado somente para o modo de amostragem): varia entre 1 e 4294967295.
- Penalidade de repetição: varia entre 1 e 2. Faz com que o modelo evite usar as mesmas palavras. Quanto maior o valor, maior a penalidade para a repetição.
- Sequências de parada: string que quando encontrada, faz com que o output pare de ser gerado. A string em si será obrigatoriamente incluída no output.
- Mínimo de tokens: número mínimo de tokens no output.
- Máximo de tokens: número máximo de tokens no output.

Parâmetros post na solicitação: Campo destinado a informar a versão do modelo de IA;