Comment construire un chabot avec GPT-3

Introduction

Il y a quelque chose d’immensément impressionnant dans la création d’un agent conversationnel, alias chatbot, avec seulement quelques lignes de code via Python ou CURL. Et, les seules données de formation sont une phrase ou deux sur la personnalité et le ton du chatbot, et rien d’autre.

Lorsque vous discutez avec le chatbot d’OpenAI, il n’y a pas de prolifération de secours, et vous pouvez faire une digression, et la conversation ne reste pas bloquée sur l’ambiguïté. De plus, pour le novice, il y a un sentiment d’accomplissement à l’idée d’avoir créé un chatbot. La génération du langage naturel (NLG) à égalité avec une conversation humaine ; il n’y a pas cette sensation inhabituelle généralement associée à la NLG.

Depuis qu’OpenAI a rendu le traitement de texte disponible avec GPT-3 , la question a été posée, est-ce l’ultime et la seule interface dont vous aurez besoin pour créer une interface d’IA conversationnelle, ou chatbot ?

Pourquoi s’embêter encore avec d’autres frameworks et environnements ?

Oui, il existe des cas où GPT-3 peut être utilisé en mode autonome. Par exemple; un chatbot d’humeur à la couleur, un chatbot amusant et sarcastique, un ami comme le chat-bot etc.

Cependant, actuellement, GPT-3 a une capacité minimale pour soutenir des projets de réglage fin.

GPT-3 travaille à la création d’un point de terminaison de réglage fin en libre-service qui rendra cette fonctionnalité accessible à tous les utilisateurs, mais aucun calendrier concret n’est disponible.

Pour l’instant, dans la plupart des implémentations de production et d’entreprise, GPT-3 jouera un rôle de support… mais voyons dans quelle mesure l’API OpenAI peut être formée et adaptée avec des informations personnalisées.

Chatbot conversationnel GPT-3 de base

Cette interface accepte une invite d’entrée de l’utilisateur, et le modèle renvoie une ou plusieurs réponses ou achèvements prédits. En plus de cela, une question de suivi possible est également présentée. Cette éventuelle question de suivi peut être présentée à l’utilisateur, car vous voudrez peut-être également en savoir plus sur…

Humain : Humain : Qu'est-ce qu'un compilateur ?IA : Un compilateur est un programme informatique qui traduit le code source écrit dans un langage de programmation vers un autre langage informatique. 
Humain : À quoi sert un compilateur ?

Étant donné une invite, le modèle renverra un ou plusieurs achèvements prédits et peut également renvoyer les probabilités de jetons alternatifs à chaque position.

L’image ci-dessus est un extrait du terrain de jeu avec la description du bot affichée et la conversation que j’ai eue avec le bot. Le personnage du bot peut également être décrit en détail, par exemple :

“ Eric est un chatbot qui répond à contrecœur aux questions .”

Pour un exemple plus pratique et technique, l’assistant IA est présenté ici dans un cahier écrit en Python. Vous devrez exécuter la commande :

pip installer openai

À partir de là, vous pouvez démarrer votre code Python avec :

importer os 
importer openai

Comme vous pouvez le voir, il y a 17 lignes de code qui composent le chatbot.

Positives

Il y a quelques capacités vraiment spéciales exposées ici qui peuvent facilement être manquées.

Il y a quelques éléments où GPT-3 est tourné vers l’avenir. Ceux-ci incluent l’utilisation de NLG. Ils utilisent également une implémentation de formation de bout en bout, également appelée dépréciation d’intention ou implémentation sans intention. Les entités sont également gérées de manière transparente.

• Le Natural Language General (NLG) est stellaire; Souvent, NLG a une sensation inconnue. Pas avec GPT-3. Pas étonnant que l’API excelle dans la rédaction de textes, la synthèse et d’autres tâches de traitement de texte.
• Il n’y a pas de prolifération de secours, l’interface du chatbot reste debout et répond avec des réponses diverses pour faire avancer le dialogue.
• Il n’y a aucun obstacle à la digression.
• Apparemment, le contexte est assez bien maintenu.
• Les entrées ambiguës sont également bien gérées.

Pas si positif

GPT-3 n’est pas un framework de développement de chatbot. Le réglage fin n’existe pas actuellement pour des éléments tels que :

• Stratégies
• Remplissage de créneaux / Formulaires
• Gestion des dialogues
• Plus grands ensembles de données d’entraînement
• Extraction d’intention et d’entité

En raison de la nature avant-gardiste de GPT-3, il sera intéressant de voir comment OpenAI introduira une mesure de gestion des dialogues, ou affinera le chatbot avec des données de formation, etc.

Comme mentionné dans un article précédent , GPT-3 possède quelques API qui sont bien adaptées pour augmenter et prendre en charge une implémentation de chatbot existante. L’API conversationnelle GPT-3 est idéale pour une conversation générale, des questions-réponses, des robots d’amitié, etc.

Mais, il ne répond pas aux exigences d’un chatbot d’entreprise spécifique à un domaine.

Personnalisation du chatbot GPT-3

Il existe une certaine mesure de personnalisation qui est possible via l’API, mais il y a des limites. Voici quelques-unes des fonctionnalités disponibles pour utiliser vos propres données.

Ces options pourraient donner un aperçu de ce qui nous attend pour GPT-3.

Créer un classement

Dans le code Python, vous pouvez voir la requête :

query="Il semble que je doive d'abord aller plus lentement et m'assurer :(",

Avec la requête, des exemples étiquetés sont fournis :

examples=[ 
["Vous pouvez traverser l'intersection en voiture.", "Vert"], 
["Ralentissez pour vérifier l'intersection", "Orange"], 
["Vous devez vous arrêter à l'intersection..", "Rouge"] 
],

Compte tenu de la requête et de l’ensemble d’exemples étiquetés, le modèle prédira l’étiquette la plus probable pour la requête. Cela peut servir à classer du texte ou à étiqueter des phrases.

Ce qui est intéressant, c’est que les exemples de données sont inclus dans la requête. J’ai d’abord pensé que la même approche aurait été adoptée qu’IBM Watson. Où vous soumettez les données de formation, puis les référencez ultérieurement à partir de la requête avec un ID.

Créer des réponses aux questions

Répond à la question spécifiée à l’aide des documents et des exemples fournis.

L’API recherche d’abord les documents ou fichiers téléchargés pour trouver le contexte pertinent. Le contexte pertinent est combiné avec les exemples et la question fournis, pour créer l’invite de complétion.

Une deuxième requête basée sur la même entrée.

Créer une recherche

Le point de terminaison de recherche calcule les scores de similarité entre la requête fournie et les documents. Les documents peuvent être transmis directement à l’API.

Trois continents sont répertoriés et une ville. Le continent auquel appartient la ville est rendu.

Conclusion

Il y a des éléments de GPT-3 qui sont époustouflants, les tâches liées au texte sont super utiles ; résumé, simplification, thématisation, extraction de mots clés etc.

Parler à l’API du chatbot est surréaliste. Le NLG et la conscience contextuelle sont stupéfiants. Ce n’est qu’une fois que vous commencez à penser à créer une solution d’entreprise spécifique à un domaine, à la mise à l’échelle et à l’abstraction, que le défi commence.