El nuevo modelo de OpenAI que anunció el pasado 1 de marzo: gpt-3.5-turbo te permite enviarle por parámetro el histórico de una conversación, por lo tanto ahora ya pasamos de hacer consultas de texto a la API de OpenAI a tener conversaciones con memoria.
Esta sería una llamada básica al nuevo módelo que simplemente se le hace una consulta, la API Key que muestro está dada de baja.
Los parámetros que recibe son:
max_tokens: cuanto mayor sea su valor más compleja y detallada será la llamada y la respuesta. Para GPT3 el valor máximo es de 2048 tokens por llamada a la API, en mis pruebas lo llamo con 1024.
temperature: valor entre 0 y 1, 0 para respuestas más conservadoras y 1 para respuestas más creativas. en el ejemplo uso 0.5
Frecuency & Presence penalty: un valor más alto penalizará la frecuencua y repetición de determinadas palabras o frases.
Role: este parámetro es nuevo del modelo Turbo, puede tener 3 valores:
User: se le indica que el mensaje es del usuario que interactúa con el chatbot, como hacíamos con Davinci
System:le dices el tono que tiene que tomar en la conversación, en el ejemplo que vamos a ver debajo le he pedido que actúe como un asistente personal de moda
Assistant:le indicas que el mensaje ha sido generado por el propio chatbot
Por lo tanto, ya podemos mantener una conversación con memoria, en esta demo le muestro mi interés por zara y luego le pido la url sin mencionar la tienda, él sabe que le estoy hablando de zara y me la devuelve. Con Davinci esto no hubiera sido posible.
Ejemplo de llamada con histórico
Aquí el vídeo de la demo que he probado:
En este enlace el código JavaScript con la llamada y una interfaz muy básica de HTML, solo habría que meter tu API Key de OpenAI. Voy guardando en un array los valores de preguntas y respuestas que el api me va dando para poder enviárselo por parámetro.