Phi-3 Mini with Ollama
Phi-3 Mini est un modèle ouvert léger et à la pointe, avec 3,8 milliards de paramètres, développé par Microsoft. Dans ce guide, nous utilisons Ollama, une application de bureau qui vous permet de télécharger et d’exécuter localement des modèles.
Lancez l’application Ollama ou exécutez la commande pour démarrer le serveur depuis un terminal.
Fenêtre de terminal ollama serve(optionnel) Récupérez votre modèle depuis le serveur Ollama (voir la liste des modèles). GenAIScript tentera automatiquement de le récupérer s’il est absent.
Fenêtre de terminal ollama pull phi3Mettez à jour votre script pour utiliser le modèle
ollama:phi3
.summarize-phi3.genai.mjs script({model: "ollama:phi3",title: "summarize with phi3",system: ["system"],})const file = def("FILE", env.files)$`Summarize ${file} in a single paragraph.`Appliquez ce script aux fichiers que vous souhaitez résumer !