物联网app开发 Llama3土产货部署及API接口土产货调试，15分钟处分最新Meta AI开源大模子土产货Windows电脑部署

发布日期：2024-11-20 17:31    点击次数：87

著述目次 设想操作难度品级15分钟土产货Windows电脑部署Llama3 开源大模子1、下载安设Ollama2、使用Ollama的号令下载Llama3模子文献3、使用Llama3聊天对话功能4、土产货Llama3 API接口调用 设想

你知谈国内大模子若干是基于Llama2改动的，你就知谈Llama模子有多锐利了，那么当今Llama3刚出来，搞自媒体的飞速蹭Llama3的流量，搞工夫的技艺员飞速收拢研究一下，看能否工夫变现一下，尤其搞工夫的，再不动到时年纪大了被裁人了不要天怒人怨的！

操作难度品级

非技艺员的凡俗东谈主及居品司理皆不错按此著回报来土产货部署

15分钟土产货Windows电脑部署Llama3 开源大模子 1、下载安设Ollama

看望https://ollama.com，下载Ollama客户端，下载Windows版块，要是你的电脑是MacOs,下载对应的版块即可。

安设完成后，掀开Windows号令窗口，物联网软件开发与定制输入ollama，出现如下指示，证实安设得胜，不错使用了：

图片物联网app开发

2、使用Ollama的号令下载Llama3模子文献

在ollama号令窗口输入：

小程序开发

ollama run llama3

按回车后就运转自动下载Llama3模子文献，默许下载最新的8B版块，模子文献大小4.7G。

恭候5到10分钟即可下载完成（下载文献途中不错去上个茅厕不详善良一下我的账号）

图片

3、使用Llama3聊天对话功能

下载完成后出现send a message指示时，就不错径直与它进行对话了。望望我和它的对话：

图片

4、土产货Llama3 API接口调用

ollama会自动生成Llama3的API接口看望地址，API文档地址：https://github.com/ollama/ollama/blob/main/docs/api.md

苦求地址：

主攻（5人）：布萨、洛佐、拉佐维奇、米伦科维奇、乌泽拉奇

curl http://localhost:11434/api/chat -d '{
  'model': 'llama3',
  'messages': [
    {
      'role': 'user',
      'content': 'why is the sky blue?'
    }
  ],
  'stream': false
}'

不会写代码的，使用Postman去调试：

图片

本站仅提供存储劳动，整个本色均由用户发布，如发现存害或侵权本色，请点击举报。

• 物联网app开发
• 土产
• 部署
• Llama3
• API