Aller au contenu

Phi-3 Mini with Ollama

AI generated translation.

Phi-3 Mini est un modèle ouvert léger et à la pointe, avec 3,8 milliards de paramètres, développé par Microsoft. Dans ce guide, nous utilisons Ollama, une application de bureau qui vous permet de télécharger et d’exécuter localement des modèles.

  1. Lancez l’application Ollama ou exécutez la commande pour démarrer le serveur depuis un terminal.

    Fenêtre de terminal
    ollama serve
  2. (optionnel) Récupérez votre modèle depuis le serveur Ollama (voir la liste des modèles). GenAIScript tentera automatiquement de le récupérer s’il est absent.

    Fenêtre de terminal
    ollama pull phi3
  3. Mettez à jour votre script pour utiliser le modèle ollama:phi3.

    summarize-phi3.genai.mjs
    script({
    model: "ollama:phi3",
    title: "summarize with phi3",
    system: ["system"],
    })
    const file = def("FILE", env.files)
    $`Summarize ${file} in a single paragraph.`
  4. Appliquez ce script aux fichiers que vous souhaitez résumer !