OpenAI

Descrição: Aba destinada a configuração de acesso ao modelo de IA da OpenAI.

Como acessar: Configuração > OpenAI

O usuário deverá preencher as informações necessárias e clicar em salvar, para que as informações sejam gravadas ou acessar as outras opções de configuração e salvar ao término das edições de toda a configuração.

As opções de configurações disponíveis nesta aba são:

• URL: Campo destinado a URL da API do modelo de LLM da Open AI a ser utilizado no MD2 Interactive Intelligence;
• Modelo: Campo destinado à seleção do modelo da OpenAI a ser utilizado no MD2 Interactive Intelligence;
• Api Key: Campo destinado para informar a API KEY criada na conta da OpenAI;
• Temperatura: Campo destinado para informar a temperatura do modelo, ou seja, o quão "criativo" o modelo será com suas respostas. Quanto mais próximo de zero o modelo será menos "criativo";
• Utilizar reposta em stream: Campo destinado a indicar se a resposta do modelo será transmitida em fluxo contínuo, ou seja, enviada progressivamente logo após a pergunta do usuário. Se selecionado a resposta em stream está Habilitada e se não selecionado a resposta em stream está Desabilitada.

Alguns provedores de LLM's (Large Language Models) utilizam o mesmo padrão no mecanismo de autenticação e na estrutura da mensagem de envio e de resposta que a OpenAI. Desta forma, podemos utilizar esta aba para poder conectar a outros provedores de modelos LLM além da OpenAI.  

Exemplo Together.ai: Informe na URL https://api.together.xyz/v1/chat/completions , selecione o nome do modelo (previamente cadastrado no Cadastro de Models) e informe a Api Key.

Exemplo Groq: Informe na URL https://api.groq.com/openai/v1/chat/completions ,selecione o nome do modelo (previamente cadastrado no Cadastro de Models) e informe a Api Key.