Comment implémenter GPT-3 dans votre chatbot
Introduction
Depuis qu’Open AI a rendu le traitement de texte disponible avec GPT-3 , la question a été posée, est-ce l’ultime et la seule interface dont vous avez besoin pour créer une interface d’IA conversationnelle, ou chatbot ? Pourquoi s’embêter encore avec d’autres frameworks et environnements ?
Oui, il existe des cas où GPT-3 peut être utilisé en mode autonome. Par exemple; un chatbot d’humeur à la couleur, un chatbot amusant et sarcastique, un chatbot ami, etc.
Actuellement, GPT-3 a une capacité minimale pour soutenir des projets de réglage fin. GPT-3 travaille à la création d’un point de terminaison de réglage fin en libre-service qui le rendra accessible à tous les utilisateurs, mais aucun calendrier concret n’est disponible.
Pour l’instant, dans la plupart des implémentations de production et d’entreprise, GPT-3 jouera un rôle de support…

Architecture des chatbots 101
Traditionnellement, l’architecture du chatbot peut être divisée en deux parties, la compréhension du langage naturel ( NLU ) et la gestion du dialogue .

NLU est utilisé pour extraire les intentions (verbes) et les entités (noms) de l’entrée de l’utilisateur. La partie dialogue gère les réponses du bot et l’état du dialogue.
Actuellement, GPT-3 ne peut pas complètement remplacer cette structure, ce n’est pas un cadre de développement de chatbot. Cependant, une implémentation idéale de GPT-3 sera là où il est utilisé pour augmenter et améliorer un chatbot existant.

D’après la documentation Open AI, il est clairement indiqué que GPT-3 fournit une interface à usage général, pour les procédures d’entrée et de sortie de texte.
Il est donc idéal pour effectuer pratiquement n’importe quelle tâche de texte de langue. Et c’est là que réside leur différentiateur.
La plupart des API sont conçues pour effectuer une tâche de langage unique. Tels que le sentiment, l’extraction d’intention, les droits nommés, etc. Vous trouverez ci-dessous quelques exemples de la façon dont GPT-3 peut prendre en charge et augmenter une implémentation actuelle de chatbot.

Cas d’utilisation pratiques pour GPT-3
Correction grammaticale


Il existe des API de correction de la grammaire et de l’orthographe. Mais, souvent, ces mécanismes ne suffisent pas. Dans les cas où une intention et des entités ne peuvent pas être détectées, l’énoncé de l’utilisateur peut être exécuté via l’ API de correction de grammaire . Comme vous pouvez le voir dans les exemples ci-dessus, les phrases fournies sont largement corrigées.

Résumé de texte
Le résumé de texte est un outil auxiliaire pratique pour plusieurs raisons… La première étant de raccourcir la saisie de l’utilisateur. L’autre option consiste à raccourcir les réponses, en particulier lorsqu’une base de connaissances est interrogée et que la réponse doit être raccourcie à une longueur spécifique en fonction du support.

Une autre utilisation du résumé de texte consiste à présenter à l’utilisateur une boîte de dialogue de résumé automatique, avec une option de lecture supplémentaire , qui peut ensuite se développer dans la version plus longue non résumée.

Mots clés
Les mots clés peuvent être extraits d’un bloc de texte. Vous pouvez configurer l’environnement pour qu’il soit conservateur et sélectionner uniquement des mots-clés dans le texte. Ou une température plus élevée peut être définie à l’endroit où les mots ou mots-clés associés sont générés.

Ceci est très utile pour catégoriser le texte et créer un index de recherche. Dans l’image ci-dessus, un extrait sur le football a été tiré de Wikipedia. GPT-3 a converti ce paragraphe assez volumineux en six mots clés ou thèmes.

Analyser des données non structurées
Créez des tableaux à partir de texte long en spécifiant une structure et en fournissant des exemples.

Ici, vous pouvez voir que la première entrée est directement liée à la phrase. Les entrées suivantes sont en quelque sorte liées et toujours pertinentes et applicables.

Classification
Classez les éléments en catégories via des exemples d’entrées. Les entreprises sont nommées avec des catégories définies. Une nouvelle entreprise peut être mentionnée et classée automatiquement.


Extraire les informations de contact
Extraire les coordonnées d’un bloc de texte. Dans ce cas, une adresse.


Résumer pour un élève de deuxième année
Cette fonctionnalité prend une pièce complexe et relativement longue, la résume et la simplifie en une phrase ou deux.


Conclusion
Il existe certainement de bonnes opportunités de mise en œuvre pour l’aspect IA conversationnelle de GPT-3.

En tant qu’API de support où le texte peut être traité pour assister la fonctionnalité NLU existante, il existe un cas d’utilisation très réel.
Comme mentionné, GPT-3 peut être d’une grande aide dans le prétraitement des entrées utilisateur en tant qu’aide pour le moteur NLU. Le défi est que GPT-3 semble très bien placé pour rédiger des critiques, compiler des questions et avoir une conversation générale. Cela pourrait entraîner une prolifération de bots écrivant des avis, des annonces en ligne et des tâches générales de rédaction.

Cette automatisation n’a pas besoin d’être malveillante en principe. Open AI fait apparemment tout son possible pour garantir une utilisation responsable des API.
Le fait qu’une formation approfondie ne soit pas nécessaire et que quelques mots ou phrases clés puissent orienter l’API dans la bonne direction est stupéfiant.
Il existe cependant des alternatives open source pour la plupart des fonctionnalités disponibles.

Positives
- GPT-3 a pas mal de fonctionnalités qui peuvent servir à augmenter un chatbot actuel.
- Le dialogue peut être diversifié avec la capacité NLG.
- Un bavardage général peut facilement être créé.
- La rédaction est facilitée pour les slogans, les titres, les critiques, etc.
- Transformation de texte
- Génération de texte
- Création d’un bot à usage général avec lequel discuter.
- Avec leur puissance de traitement et leurs données sous-jacentes, la création d’histoires d’apprentissage automatique flexibles devrait être un bon choix.

Pas si positifs
- L’API est hébergée dans le cloud
- Coût
- Génération de contenu de bot de médias sociaux
- Pas un cadre pour une mise à l’échelle durable des chatbots ; encore .
- Sur et sous-direction possibles avec des données d’entraînement.