Exploração das configurações
Configurar o MD2 Interactive Intelligence é essencial para calibrar e obter os melhores resultados dos modelos de IA. Neste módulo , iremos explorar o caso de uso anterior, com ajustes específicos nas configurações para ilustrar situações cotidianas.
Para consultar os dados de um cliente, acesse o prompt e insira a mensagem 'Quais são os dados desse cliente'.
Observe que a resposta está em uma sequência textual, sem uma formatação específica. . Na aba Parâmetros Básicos temos a opção de definir o formato das mensagens de respostas na propriedade Instruções ao modelo de IA.
Para que a resposta fique mais amigável é necessário adicionar instruções mais complexas ao modelo LLM, como 'Retorne os dados em formato HTML'.
O objetivo da aplicação é responder exclusivamente as perguntas que sejam relevantes ao contexto de negócio do cliente. Portanto, é essencial incluir instruções ao modelo de IA que restrinja o assistente a responder apenas questões pertinentes ao caso de uso. Deve-se configurar o assistente para nunca responder perguntas fora do escopo dos dados do dataset. Caso uma pergunta fora do escopo seja feita, o assistente deve se desculpar e informar que foi programado para responder apenas perguntas relacionadas ao caso de uso, com a exceção de perguntas do tipo 'Quem você é?', onde uma resposta pode ser fornecida.
Em alguns casos, mesmo que a pergunta seja feita em outro idioma, é necessário que o assistente responda em português. Portanto, a instrução para restringir a resposta a um idioma específico torna-se essencial.
Na aba OpenAI, API IA - Databricks e Watsonx temos a opção de Utilizar resposta em stream permitindo ajustar a forma como a resposta é retornada.
Quando esta opção está ativada, o assistente gera a resposta gradualmente, letra por letra, até a sua conclusão. Quando a opção está desativada, a resposta é apresentada uma única vez, com o conteúdo completo.
O assistente permite interação por comando de voz para perguntas e respostas. Para configurar essa funcionalidade, acesse a aba Parâmetros Básicos, selecione as opções 'Texto e áudio' nas seções Padrão de Solicitação ao Modelo de IA e Padrão de Resposta ao Modelo de IA.
Desta forma, as interações com o assistente poderão ocorrer via texto ou áudio, conforme a definição do usuário.
Para permitir o uso do histórico de perguntas ao formular novas consultas, acesse a aba de Parâmetros Básicos e ajuste a opção Número de mensagens na memória do chat, definindo a quantidade desejada de mensagens a serem mantidas no histórico.
Habilitando a opção de histórico, podemos fazer perguntas em cima de interações passadas (de acordo com o número de mensagens definido no parâmetro Número de mensagens na memória do chat)
