#13 | Un assistant IA sur sa propre interface : tutoriel pas à pas
Hello à tous, bienvenue sur cette 13ᵉ édition ! 🎉
La semaine dernière, je vous ai présenté en détails les GPTs. Pour les utiliser sur votre site, il sera nécessaire de les transformer en Assistants. C’est ce que je vous présente aujourd’hui.
Au programme :
📝 Cas concret : créer un assistant sur OpenAI
👣 Retour d’expérience : changement de format de la newletter
Pour ceux qui découvrent la newsletter, voici d’autres éditions intéressantes :
Liste des outils IA : +400 outils pour gagner en productivité
Agent Vocal IA: démo complète
Cas concret : Créer un assistant IA sur OpenAI
Introduction
Brièvement, un assistant OpenAI est similaire à un GPT en termes de fonctionnalité, la différence est que l’outil est utilisable par API.
Voici un tableau de présentation et comparaison entre les GPTs et les assistants :
L’assistant est paramétrable avec les fonctionnalités suivantes :
instructions personnalisées
documents à disposition (file_search)
exécuter du code (code_interpreter)
actions (function_calling)
Le modèle décide ensuite comment il doit répondre à la requête de l’utilisateur, s’il doit utiliser certaines actions, accéder aux documents, etc
Les assistants apportent beaucoup plus de flexibilité et personnalisation.
Par exemple, il est possible de :
changer la structuration des documents partagés (le découpage peut se personnaliser)
ajouter un plus grand nombre de documents (jusqu’à 10 000 par assistant)
garder l’historique des messages et les tronquer si la conversation est très longue pour garder les éléments pertinents.
Sur ce dernier point - la partie Thread -, l’assistant est très puissant, car il garde en mémoire les informations et il est aussi possible de réinjecter une conversation précédente dans une nouvelle conversion.
Je trouve ce graphique assez exhaustif sur les fonctionnalités et les interactions de l’assistant Open AI
Lorsque vous construisez votre assistant, le mieux est de commencer directement sur le playground pour effectuer les premiers paramétrages et le tester facilement.
OpenAI partage régulièrement des exemples d’utilisations pertinentes en entreprise sur ce lien.
Par exemple, il est possible de créer une assistance juridique avec l’assistant d'OpenAI, qui aide les avocats à rédiger des contrats ou trouver des réponses précises à leurs questions. Dans 90% des cas, l’assistant est plus performant que le modèle généraliste.
L'assistant a été entraîné sur un grand corpus de documents juridiques pour comprendre le jargon et la structure des contrats. (jusqu’à 10 000 documents)
Quid des alternatives ?
Pour utiliser un modèle aussi puissant et avec autant de fonctionnalités (recherche web, base de connaissance, fonctions, …), cela peut être compliqué à développer.
Un assistant fait donc gagner beaucoup de temps ! Je vous montre comment en faire un facilement sur votre interface.
Intégrer l’assistant Open AI sur un site
On va prendre l’exemple d’un assistant IA en Recherche et spécialisé sur un domaine précis (l’IA). On m’avait partagé récemment en commentaire de ma chaine YouTube, un use case pour guider les élèves dans l’aide à la création d’une thèse en s’appuyant sur des travaux de recherche existants.
Pour configurer cet assistant en local, on va utiliser streamlit pour l’interface et l’assistant API d’OpenAI.
Dans la création d’un assistant, on a 3 grosses étapes :
la partie prompting
la partie knowledge
la partie custom functions
Prompting d’instructions
Voici une structure pertinente pour la création des instructions :
Ces instructions serviront de base pour notre assistant IA.
Knowledge
Dans cette partie, vous pouvez partager tous les documents qui vous semblent pertinents et sur lesquels l’assistant pourra s’appuyer pour formuler une réponse.
L’assistant réalise une simple recherche pour trouver une information pertinente.
Il est possible d’affiner le découpage du document en réglant les chunk size et overlap.
Les documents sont stockés par OpenAI dans une base de données vectorielles que vous pouvez choisir, pas besoin de les avoir en local.
Tools et actions
Une action permet de faire un appel API à d’autres outils, j’en avais parlé de la dernière édition en vous partageant des exemples (scraper des informations, remplir un document).
Dans notre cas, les actions nous permettront simplement d’envoyer une notification et de sauvegarder des informations sur notre drive.
Notre script fera aussi appel à arxiv pour extraire des papiers de recherche pertinents par rapport à la demande utilisateur.
Démo du résultat
Voici quelques liens d’application en accès libre avec streamlit et l’assistant :
Des exemples d’assistants
📝 Créer un assistant sur vos abonnements newsletters
Vous pouvez échanger avec l’assistant pour trouver des informations précises sur vos newsletters et obtenir des réponses précises sur certains sujets.
📽️ Échanger avec un assistant sur des vidéos YouTube
L’assistant transforme les URLs YouTube en contenu et vous pouvez poser vos questions sur la vidéo.
🗞️ Avoir un rédacteur SEO avec votre propre style
Dans une précédente newsletter, je vous avais partagé comme créer un article de blog avec l’IA. J’avais créé un assistant pour l’occasion. On pourrait facilement l’intégrer dans une interface pour qu’il nous aide à générer des articles de qualité, respectant notre style d’écriture, et bien sûr optimisé en SEO.
Bilan
Créer un assistant peut être très intéressant si vous avez besoin d’intégrer une version personnalisée de chatGPT sur votre interface.
Même si cela demande quand même une complexité plus forte que la création simple d’un GPT.
L’une des problématiques est l’estimation du coût sur un assistant. En théorie, le calcul se fait sur :
le stockage des données
un prix fixe par appel API
plus l'utilisation des tokens
Mais à chaque appel, si vous utilisez la fonction de recherche d’informations sur les documents, vous allez effectuer des transferts de données qui sont également facturés.
Cela gonfle forcément les coûts par requête. Attention donc aux coûts cachés et surveillez votre utilisation dans l’onglet Usage.
Personnellement, je trouve que les assistants sont plus complexes à mettre en place que les GPTs sans apporter une grosse plus-value, un de flexibilité supplémentaire sur la gestion des documents (et forcément sur la partie Interface). Alors oui, on peut faire beaucoup plus de choses parce qu’on sort de l’interface d’OpenAI mais ce n’est pas l’assistant en lui-même qui permet de faire ces actions.
→ L’utilisation du module actions des GPTs permet déjà de faire pas mal de choses.
Pour avoir passé beaucoup de temps sur le sujet, je n’ai pas vu énormément de cas d’applications réels pour l’instant.
Ce type d’assistant est aussi disponible sur Anthropic avec Claude-3 depuis le 30 mai 2024.
Retour d’expérience 👣
À partir de la semaine prochaine, je vais changer de format sur cette newsletter pour être plus complet et droit au but sur l’IA au travail.
Voici le nouveau format avec de courtes parties impactantes :
IA au travail : impact, nouveautés, …
Productivité : outils, fonctionnalités
Actualités : news, à lire absolument, …
Q&A de la communauté : les questions que vous vous posez
Dossier de la semaine : cas concret ou concepts
Cette newsletter est faite pour vous si vous êtes aligné avec :
🎯 Un format complet pour gagner en productivité au travail avec l’IA
👫 À destination des entrepreneurs (dans l’âme), orienté sales, marketing et opérations.
⏱️ Tous les vendredis à 9h
⏳ 5 à 10 min de lecture
Je souhaite combler le vide qu’il y a sur l’utilisation concrète et simple de l’IA au travail.
Très preneur de votre retour sur ce format ! ❤️ (qui pourra toujours évoluer)
J’espère que vous avez apprécié cette édition 😄, n’hésitez pas à liker pour soutenir la newsletter et à partager votre retour en commentaires.
À très vite !