当前位置: 首页 > news >正文

盛泽做网站的百度一下就知道手机版

盛泽做网站的,百度一下就知道手机版,怎么做简单的网站首页,杭州pc网站开发公司有哪些网上有很多大模型,很多都是远程在线调用ChatGPT的api来实现的,自己本地是没有大模型的,这里和大家分享一个大模型平台,可以实现本地快速部署大模型。 Ollama是一个开源项目,它提供了一个平台和工具集,用于部…

网上有很多大模型,很多都是远程在线调用ChatGPT的api来实现的,自己本地是没有大模型的,这里和大家分享一个大模型平台,可以实现本地快速部署大模型。
Ollama是一个开源项目,它提供了一个平台和工具集,用于部署和运行各种大型语言模型(LLM,Large Language Model)。Ollama简化了在本地机器上运行这些模型的过程,使得用户不需要深入的机器学习知识就可以利用先进的语言模型进行自然语言处理任务,如对话生成、文本补全等。Ollama的官方网站是 https://ollama.com/ ,用户可以通过简单的命令行指令在本地运行模型,例如Llama 2等大模型。这为开发者和研究人员提供了一个便捷的途径来实验和应用最先进的语言模型技术,而无需依赖云端服务,从而降低了延迟并增强了隐私保护。Ollama的核心功能包括模型管理和运行环境的封装,使得用户可以轻松地拉取模型、运行模型并与其交互。此外,Ollama还支持多种模型格式和架构,使其成为一个灵活的平台,适用于广泛的自然语言处理应用。

判断是否有Nvidia显卡

lspci | grep -i nvidia

有显卡结果

部署Docker

建议docker部署,直接部署很容易超时。Docker在centos上的安装网上教程很多,不再叙述。但是Docker也建议使用配置一下加速源

sudo mkdir -p /etc/docker
sudo tee /etc/docker/daemon.json <<-'EOF'

然后输入下面内容

{"registry-mirrors": ["https://dockerproxy.com","https://mirror.baidubce.com","https://docker.m.daocloud.io","https://docker.nju.edu.cn","https://docker.mirrors.sjtug.sjtu.edu.cn"]
}
EOF

然后重启docker服务

sudo systemctl daemon-reload
sudo systemctl restart docker

拉取Ollama镜像

docker run -d --gpus=all -v ollama:/home/Ollama/.ollama -p 11434:11434 --name ollama ollama/ollama

首次需要从仓卡拉取,有点慢
拉取镜像

启动大模型

启动本地大模型,这里以llama2为例,第一次会下载模型:

docker exec -it ollama ollama run llama2

下载模型
执行完毕后,会进入交互模式,输入内容,即可在线对话
使用语言模型
Ollama 还支持很多市面上其他开源大模型(大模型列表 ollama.com/library),下面是一些列子:
在这里插入图片描述

以API的方式调用模型

curl http://localhost:11434/api/chat -d '{"model": "llama2","messages": [{ "role": "user", "content": "why is the sky blue?" }]
}'

api调用
API文档可以参考
https://github.com/ollama/ollama/blob/main/docs/api.md

http://www.fp688.cn/news/154008.html

相关文章:

  • flashfxp链接网站好123上网主页
  • 武汉城市建设学院招生网站线上销售水果营销方案
  • 沈阳有资质做网站的公司seo网站推广平台
  • 贵阳网站建设是什么如何建立一个自己的网站?
  • 红衫中国网站建设最好用的免费建站
  • 纯JSP网站开发百度官网认证
  • seo优化方法有哪些抖音seo招商
  • 网站负责人核验照互联网营销模式有哪些
  • 英文网站模板优化大师app下载
  • 传奇私服网站空间在哪里买怎么建立自己的企业网站
  • 大网络公司做网站sem 优化软件
  • 北京做网站一般多少钱如何提高网站排名
  • 合肥做网站mdyun网址查询域名解析
  • 上海商城网站建设公司广州番禺发布
  • 网站建设新手百度云在线登录
  • 怎么看网站关键词密度百度大全免费下载
  • 香港做指数的网站seo代码优化包括哪些
  • 苏州外发加工网seo推广外包企业
  • 网站搭建的流程及费用是多少?怎样做网站
  • 做app的网站有哪些淘宝搜索关键词查询工具
  • 国际营销网站建设企业邮箱注册
  • 哪个市文化和旅游网站做的好seo工作内容有哪些
  • asp网站免费模板下载百度快速排名工具
  • 流量劫持网站怎么做百度网盘提取码入口
  • 美国电子商务网站排名东莞做网页建站公司
  • 用prestashop做网站广告网站大全
  • 破解版WordPress主题天津seo优化公司哪家好
  • 网站优化要怎么做才会做到最佳seo排名优化是什么意思
  • 把照片做册子的网站网销怎么做
  • 网站建设方案有哪几种seort什么意思