Apprendre l’invite 101 : Cours d’ingénierie rapide et défis
Introduction
Les capacités et l’accessibilité des grands modèles de langage (LLM) progressent rapidement, conduisant à une adoption généralisée et à une interaction homme-IA croissante. Reuters a récemment rapporté une étude estimant que ChatGPT d’OpenAI avait déjà atteint 100 millions d’utilisateurs mensuels en janvier, deux mois seulement après son lancement ! Cela soulève l’importance de la question; comment parler à des modèles tels que ChatGPT et comment en tirer le meilleur parti ? Il s’agit d’une ingénierie rapide. Bien que nous nous attendions à ce que le sens et les méthodes évoluent, nous pensons que cela pourrait devenir une compétence clé et pourrait même devenir un titre de poste autonome commun à mesure que l’IA, l’apprentissage automatique et les LLM s’intègrent de plus en plus dans les tâches quotidiennes.
Cet article explorera ce qu’est l’ingénierie rapide, son importance et ses défis, et fournira un examen approfondi du cours Learn Prompting conçu pour l’application pratique de l’incitation pour les apprenants de tous niveaux (une connaissance minimale de l’apprentissage automatique est attendue !).
Learn Prompting est un cours interactif open source dirigé par @SanderSchulhoff et auquel Towards AI et des tonnes de généreux contributeurs ont contribué. Towards AI s’associe également à Learn Prompting pour lancer le concours HackAPrompt, le tout premier concours de piratage rapide. Les participants n’ont pas besoin de connaissances techniques et seront mis au défi de pirater plusieurs invites de plus en plus sécurisées. Restez à l’écoute de notre communauté Learn AI Discord ou de la communauté Learn Prompting’s Discord pour tous les détails et informations sur les prix et les dates !
Qu’est-ce que l’invite ?
Les modèles d’IA générative interagissent principalement avec l’utilisateur via une saisie textuelle. Les utilisateurs peuvent instruire le modèle sur la tâche en fournissant une description textuelle. Ce que les utilisateurs demandent au modèle de faire au sens large est une « invite ». Le » prompting » est la façon dont les humains peuvent parler à l’intelligence artificielle (IA). C’est une façon de dire à un agent IA ce que nous voulons et comment nous le voulons en utilisant un langage humain adapté. Un ingénieur rapide traduira votre idée de votre langage de conversation habituel en instructions plus claires et optimisées pour l’IA.
La sortie générée par les modèles d’IA varie considérablement en fonction de l’invite conçue. Le but de l’ingénierie des invites est de concevoir des invites qui suscitent la réponse la plus pertinente et la plus souhaitée d’un grand modèle de langage (LLM). Cela implique de comprendre les capacités du modèle et de créer des invites qui les utiliseront efficacement.
Par exemple, dans le cas de modèles de génération d’images, tels que Stable Diffusion , l’invite est principalement une description de l’image que vous souhaitez générer. Et la précision de cette invite aura un impact direct sur la qualité de l’image générée. Plus l’invite est bonne, meilleure est la sortie.
Pourquoi l’invite est-elle importante ?
L’invite sert de pont entre les humains et l’IA, nous permettant de communiquer et de générer des résultats qui correspondent à des besoins spécifiques . Pour utiliser pleinement les capacités de l’IA générative, il est essentiel de savoir quoi demander et comment le demander. Voici pourquoi l’incitation est importante :
En fournissant une invite spécifique, il est possible de guider le modèle pour générer la sortie la plus pertinente et cohérente dans le contexte.
L’invite permet aux utilisateurs d’interpréter le texte généré de manière plus significative.
L’invite est une technique puissante d’IA générative qui peut améliorer la qualité et la diversité du texte généré.
L’invite augmente le contrôle et l’interprétabilité, et réduit les biais potentiels.
Différents modèles répondront différemment à la même incitation, et la compréhension du modèle spécifique peut générer des résultats précis avec la bonne incitation.
Les modèles génératifs peuvent halluciner des connaissances qui ne sont pas factuelles ou incorrectes. L’invite peut guider le modèle dans la bonne direction en l’invitant à citer les bonnes sources.
L’invite permet d’expérimenter divers types de données et différentes manières de présenter ces données au modèle de langage.
L’invite permet de déterminer à quoi devraient ressembler les bons et les mauvais résultats en incorporant l’objectif dans l’invite.
L’invite améliore la sécurité du modèle et aide à se défendre contre le piratage rapide (les utilisateurs envoient des invites pour produire des comportements indésirables à partir du modèle).
Dans l’exemple suivant, vous pouvez observer l’impact des invites sur la sortie et la manière dont les modèles génératifs répondent aux différentes invites. Ici, le modèle DALLE a été chargé de créer un astronaute, une fusée et un ordinateur de style low-poly. C’était la première invite pour chaque image :
Fusée low poly blanche et bleue tirant sur la lune devant un pré vert clairsemé
Ordinateur low poly blanc et bleu assis dans un pré vert clairsemé
Astronaute low poly blanc et bleu assis dans un pré vert clairsemé avec des montagnes low poly en arrière-plan
Cette image a été générée par l’invite ci-dessus :
Bien que les résultats soient corrects, le style n’était tout simplement pas cohérent. Cependant, après avoir optimisé les invites pour :
Un monde low poly, avec une fusée blanche et bleue décollant d’un pré vert clairsemé avec des montagnes low poly en arrière-plan. Très détaillé, isométrique, 4K.
Un monde low poly, avec une pierre précieuse bleue brillante flottant comme par magie au milieu de l’écran au-dessus d’une prairie verte clairsemée avec des montagnes low poly en arrière-plan. Très détaillé, isométrique, 4K.
Un monde low poly, avec un astronaute en costume blanc et visière bleue, est assis dans un pré vert clairsemé avec des montagnes low poly en arrière-plan. Très détaillé, isométrique, 4K.
Cette image a été générée par l’invite ci-dessus :
Ces images sont plus cohérentes dans le style, et le principal point à retenir est que l’incitation est très itérative et nécessite beaucoup de recherche. Il est important de modifier les attentes et les idées à mesure que vous continuez à expérimenter différentes invites et modèles.
Voici un autre exemple (sur un modèle de texte, en particulier avec ChatGPT) de la façon dont l’invite peut optimiser les résultats et vous aider à générer des résultats précis.
Défis et problèmes de sécurité liés aux invites
Bien que l’invite permette une utilisation efficace de l’IA générative, son utilisation correcte pour un résultat optimal est confrontée à divers défis et met en évidence plusieurs problèmes de sécurité.
L’invite pour les grands modèles de langage peut présenter plusieurs défis, tels que :
Atteindre les résultats souhaités du premier coup.
Trouver un point de départ approprié pour une invite.
S’assurer que la sortie a un minimum de biais.
Contrôler le niveau de créativité ou de nouveauté du résultat.
Comprendre et évaluer le raisonnement derrière les réponses générées.
Mauvaise interprétation du sens voulu de l’invite.
Manque d’équilibre entre fournir suffisamment d’informations dans l’invite pour guider le modèle et laisser de la place pour des réponses nouvelles ou créatives.
La montée en puissance des invites a conduit à la découverte de vulnérabilités de sécurité, telles que :
Injection d’invite, où un attaquant peut manipuler l’invite pour générer une sortie malveillante ou nuisible.
Fuite des informations sensibles via la sortie générée.
Jailbreaker le modèle, où un attaquant pourrait obtenir un accès non autorisé aux états et paramètres internes du modèle.
Générer des informations fausses ou trompeuses.
La capacité du modèle à perpétuer les biais sociétaux s’il n’est pas formé sur des données diverses et peu biaisées.
Générez un texte réaliste et convaincant qui peut être utilisé à des fins malveillantes ou trompeuses.
Le modèle peut générer des réponses qui violent les lois ou les réglementations.
Invite d’apprentissage : détails du cours
À mesure que la technologie progresse, la capacité de communiquer efficacement avec les systèmes d’intelligence artificielle (IA) est devenue de plus en plus importante. Il est possible d’automatiser un large éventail de tâches qui consomment actuellement beaucoup de temps et d’efforts avec l’IA. L’IA peut compléter ou fournir un point de départ solide pour toutes les tâches, de la rédaction d’e-mails et de rapports au codage. Cette ressource est conçue pour fournir aux apprenants non techniques et aux ingénieurs avancés les compétences pratiques nécessaires pour communiquer efficacement avec les systèmes d’IA générative.
À propos du cours
Learn Prompting est un cours open source et interactif avec des techniques et des concepts appliqués d’ingénierie d’invite. Il est conçu pour les débutants et les professionnels expérimentés qui cherchent à élargir leurs compétences et à s’adapter aux technologies émergentes de l’IA. Le cours est fréquemment mis à jour pour inclure de nouvelles techniques, garantissant que les apprenants restent au courant des derniers développements dans le domaine.
Outre des applications et des exemples concrets, le cours propose des démonstrations interactives pour faciliter l’apprentissage pratique. L’une des caractéristiques uniques de Learn Prompting est sa structure non linéaire, qui permet aux apprenants de se plonger dans les sujets qui les intéressent le plus. Ces articles sont classés par difficulté et étiquetés pour faciliter l’apprentissage, ce qui permet de trouver facilement le bon niveau de contenu. La progression progressive du matériel le rend également accessible à ceux qui ont peu ou pas de connaissances techniques, leur permettant de comprendre même les concepts avancés d’ingénierie rapide.
Learn Prompting est le cours idéal pour tous ceux qui cherchent à acquérir des techniques pratiques et immédiatement applicables pour leurs propres projets.
Faits saillants du cours
Le cours Learn Prompting offre une expérience d’apprentissage unique axée sur des techniques pratiques que les apprenants peuvent appliquer immédiatement. Le cours comprend :
Articles approfondis sur les concepts de base et l’ingénierie rapide appliquée (PE)
Chapitres d’apprentissage spécialisés pour les techniques d’EP avancées
Un aperçu de l’incitation appliquée à l’aide de modèles d’IA génératifs
Un cours inclusif et open source pour les apprenants non techniques et avancés
Un modèle d’apprentissage à votre rythme avec des démonstrations interactives d’éducation physique appliquée
Un modèle d’apprentissage non linéaire conçu pour rendre l’apprentissage pertinent, concis et agréable
Articles classés par niveau de difficulté pour faciliter l’apprentissage
Exemples concrets et ressources supplémentaires pour l’apprentissage continu
Invite d’apprentissage : résumé du chapitre
Voici un résumé rapide de chaque chapitre :
1.Bases Il s’agit d’une leçon d’introduction pour les apprenants non familiarisés avec l’apprentissage automatique (ML). Il couvre des concepts de base tels que l’intelligence artificielle (IA), les invites, les terminologies clés, l’instruction de l’IA et les types d’invites.
2. Intermédiaire Ce chapitre se concentre sur les différentes méthodes d’incitation. Il aborde plus en détail les invites avec différents formats et niveaux de complexité, tels que la chaîne de pensée, l’incitation à la chaîne de pensée Zero-Shot et l’approche des connaissances générées.
3. Invite appliquée Ce chapitre couvre le processus d’ingénierie d’invite de bout en bout avec des démonstrations interactives, des exemples pratiques utilisant des outils tels que ChatGPT et la résolution de questions de discussion avec l’IA générative. Ce chapitre permet aux apprenants d’expérimenter ces outils, de tester différentes approches d’incitation, de comparer les résultats générés et d’identifier des modèles.
4. Applications avancées Cette leçon couvre certaines applications avancées d’incitation qui peuvent s’attaquer à des tâches de raisonnement complexes en recherchant des informations sur Internet ou d’autres sources externes.
5. Fiabilité Ce chapitre traite des techniques permettant de rendre les complétions plus fiables et de mettre en œuvre des contrôles pour s’assurer que les résultats sont exacts. Il explique des méthodes simples pour débiaiser les invites, telles que l’utilisation de diverses invites, l’auto-évaluation des modèles de langage et l’étalonnage des modèles de langage.
6. Invite d’image Ce guide explore les bases des techniques d’invite d’image et fournit des ressources externes supplémentaires pour un apprentissage plus approfondi. Il se penche sur les concepts fondamentaux de l’incitation à l’image, tels que les modificateurs de style, les boosters de qualité et les méthodes d’incitation comme la répétition.
7. Piratage rapide Ce chapitre couvre des concepts tels que l’injection rapide et la fuite rapide et examine les mesures potentielles pour empêcher de telles fuites. Il souligne l’importance de comprendre ces concepts pour assurer la sécurité et la confidentialité des données générées par les modèles de langage.
8. Invites IDE Ce chapitre fournit une liste complète de divers outils d’ingénierie d’invite, tels que GPT-3 Playground, Dyno, Dream Studio, etc. Il approfondit les caractéristiques et les fonctions de chaque outil, donnant aux apprenants une compréhension des capacités et limites de chacun.
9. Ressources Le cours propose des ressources pédagogiques complètes pour un apprentissage ultérieur, y compris des liens vers des articles, des blogs, des exemples pratiques et des tâches d’ingénierie rapide, des experts pertinents à suivre et une plate-forme pour contribuer au cours et poser des questions.
Comment naviguer
Le cours Learn Prompting propose un modèle d’apprentissage non linéaire pour rendre l’apprentissage pratique, pertinent et amusant. Vous pouvez lire les chapitres dans n’importe quel ordre et approfondir les sujets qui vous intéressent le plus.
Si vous êtes un novice complet, commencez par la section Bases. Vous pouvez commencer par la section Intermédiaire si vous avez une formation en ML.
Les articles sont classés par niveau de difficulté et sont étiquetés :
🟢 Très simple : aucune programmation nécessaire
🟡 Facile : programmation simple requise, mais aucune expertise dans le domaine n’est requise
🔴 Moyen : programmation requise et une certaine expertise dans le domaine est nécessaire pour mettre en œuvre les techniques discutées (comme le calcul de la probabilité du journal)
🟣 Difficile : programmation requise, et une solide expertise du domaine est nécessaire pour mettre en œuvre les techniques discutées (comme les approches d’apprentissage par renforcement)
Remarque : Même si l’expertise du domaine est utile pour les articles moyens et durs, vous serez toujours en mesure de la comprendre.
L’avenir du cours
Nous prévoyons de maintenir ce cours à jour avec Sander et tous les collaborateurs (peut-être vous ?). Plus précisément, nous voulons continuer à ajouter des sections pertinentes pour les nouvelles techniques d’incitation mais aussi pour les nouveaux modèles, tels que ChatGPT, DALLE, etc., en partageant les meilleurs conseils et pratiques pour utiliser ces puissants nouveaux modèles. Pourtant, tout cela ne serait pas possible sans VOTRE aide…
Contribuer au cours
L’idée d’apprendre prospère en grandissant les uns avec les autres en tant que communauté. Nous accueillons les contributions et encourageons les individus à partager leurs connaissances via cette plateforme.
En plus des contributions, vos commentaires sont également essentiels au succès de ce cours. Si vous avez des questions ou des suggestions, veuillez contacter Learn Prompting. Vous pouvez créer un problème ici, envoyer un e-mail ou vous connecter avec nous sur notre serveur communautaire Discord.
Concours HackAPrompt : Un pas vers une meilleure sécurité des prompts
Les avancées récentes dans les grands modèles de langage (LLM) ont permis une interaction facile avec l’IA via des invites. Cependant, cela a également conduit à l’émergence de vulnérabilités de sécurité, telles que le piratage rapide, l’injection rapide, les fuites et le jailbreak.
La créativité humaine a généralement déjoué les efforts pour atténuer le piratage rapide. Pour résoudre ce problème, nous aidons Learn Prompting à organiser le tout premier concours de piratage rapide. Les participants seront mis au défi de pirater plusieurs invites progressivement sécurisées. L’ingénierie rapide est une activité non technique, ce qui signifie que des personnes diversifiées peuvent la pratiquer, des professeurs d’anglais aux scientifiques de l’IA. Ce concours vise à motiver les utilisateurs à essayer de pirater un ensemble d’invites afin de rassembler un ensemble de données open source complet pour la recherche sur la sécurité. Nous prévoyons de collecter divers ensembles d’attaques humaines créatives pouvant être utilisées dans la recherche sur la sécurité de l’IA.
L’ingénierie rapide devient une compétence de plus en plus importante pour les individus dans tous les domaines. Le cours Learn Prompting met l’accent sur l’aspect pratique et l’application immédiate. L’un des aspects passionnants de ce cours est que nous l’apprenons collectivement et que nous ne pouvons pleinement comprendre les techniques que par l’exploration.
Alors que nous continuons à expérimenter l’IA générative, nous devons donner la priorité à la sécurité pour nous assurer que les avantages de l’IA sont accessibles à tous. Le concours HackAPrompt est une étape vers l’amélioration de la sécurité rapide, car il vise à créer un vaste ensemble de données open source d’entrées contradictoires pour la recherche sur la sécurité de l’IA.
