[AI开源]ollama - 本地运行各种 LLM
yuyutoo 2024-12-15 17:42 5 浏览 0 评论
关于 ollama
用 Go 语言写的工具，用于在本地一条命令安装、启动和管理大型语言模型，支持 Llama 3、Gemma、Mistral 等大模型，适用于 Windows、macOS、Linux 操作系统。
主要特性
- 多模型支持：
Model | Parameters | Size | Download |
Llama 3 | 8B | 4.7GB | ollama run llama3 |
Llama 3 | 70B | 40GB | ollama run llama3:70b |
Phi 3 Mini | 3.8B | 2.3GB | ollama run phi3 |
Phi 3 Medium | 14B | 7.9GB | ollama run phi3:medium |
Gemma 2 | 9B | 5.5GB | ollama run gemma2 |
Gemma 2 | 27B | 16GB | ollama run gemma2:27b |
Mistral | 7B | 4.1GB | ollama run mistral |
Moondream 2 | 1.4B | 829MB | ollama run moondream |
Neural Chat | 7B | 4.1GB | ollama run neural-chat |
Starling | 7B | 4.1GB | ollama run starling-lm |
Code Llama | 7B | 3.8GB | ollama run codellama |
Llama 2 Uncensored | 7B | 3.8GB | ollama run llama2-uncensored |
LLaVA | 7B | 4.5GB | ollama run llava |
Solar | 10.7B | 6.1GB | ollama run solar |
Note: You should have at least 8 GB of RAM available to run the 7B models, 16 GB to run the 13B models, and 32 GB to run the 33B models.
- 操作系统兼容：适用于 Windows、macOS、Linux 操作系统。
开源项目
- 源码地址：https://github.com/ollama/ollama
- Stars：80.2k
- Forks：6.1k
- 主力语言：Golang
- 官网：https://ollama.fan/
- 许可： MIT license
开始使用
macOS
下载地址：https://ollama.com/download/Ollama-darwin.zip
Windows preview
下载地址：https://ollama.com/download/OllamaSetup.exe
Linux
curl -fsSL https://ollama.com/install.sh | sh手动安装指南：https://github.com/ollama/ollama/blob/main/docs/linux.md
Docker
官方镜像：https://hub.docker.com/r/ollama/ollama
Libraries
Python: https://github.com/ollama/ollama-python
Javascript：https://github.com/ollama/ollama-js
运行
llama3 为例：
ollama run llama3相关推荐
- 当 Linux 根分区 (/) 已满时如何释放空间?
-
根分区（/）是Linux文件系统的核心，包含操作系统核心文件、配置文件、日志文件、缓存和用户数据等。当根分区满载时，系统可能出现无法写入新文件、应用程序崩溃甚至无法启动的情况。常见原因包括：...
- 玩转 Linux 之:磁盘分区、挂载知多少?
-
今天来聊聊linux下磁盘分区、挂载的问题，篇幅所限，不会聊的太底层，纯当科普！！1、Linux分区简介1.1主分区vs扩展分区硬盘分区表中最多能存储四个分区，但我们实际使用时一般只分为两...
- Linux 文件搜索神器 find 实战详解，建议收藏
-
在Linux系统使用中，作为一个管理员，我希望能查找系统中所有的大小超过200M文件，查看近7天系统中哪些文件被修改过，找出所有子目录中的可执行文件，这些任务需求...
- Linux 操作系统磁盘操作（linux 磁盘命令）
-
一、文档介绍本文档描述Linux操作系统下多种场景下的磁盘操作情况。二、名词解释...
- Win10新版19603推送:一键清理磁盘空间、首次集成Linux文件管理器
-
继上周四的Build19592后，微软今晨面向快速通道的Insider会员推送Windows10新预览版，操作系统版本号Build19603。除了一些常规修复，本次更新还带了不少新功能，一起来了...
- Android 16允许Linux终端使用手机全部存储空间
-
IT之家4月20日消息，谷歌Pixel手机正朝着成为强大便携式计算设备的目标迈进。2025年3月的更新中，Linux终端应用的推出为这一转变奠定了重要基础。该应用允许兼容的安卓设备...
- Linux 系统管理大容量磁盘(2TB+)操作指南
-
对于容量超过2TB的磁盘，传统MBR分区表的32位寻址机制存在限制（最大支持2.2TB）。需采用GPT（GUIDPartitionTable）分区方案，其支持64位寻址，理论上限为9.4ZB（9....
- Linux 服务器上查看磁盘类型的方法
-
方法1：使用lsblk命令lsblk输出说明：TYPE列显示设备类型，如disk（物理磁盘）、part（分区）、rom（只读存储）等。...
- ESXI7虚机上的Ubuntu Linux 22.04 LVM空间扩容操作记录
-
本人在实际的使用中经常遇到Vmware上安装的Linux虚机的LVM扩容情况，最终实现lv的扩容，大多数情况因为虚机都是有备用或者可停机的情况，一般情况下通过添加一块物理盘再加入vg,然后扩容lv来实...
- 5.4K Star很容易!Windows读取Linux磁盘格式工具
-
[开源日记],分享10k+Star的优质开源项目...
- Linux 文件系统监控:用脚本自动化磁盘空间管理
-
在Linux系统中，文件系统监控是一项非常重要的任务，它可以帮助我们及时发现磁盘空间不足的问题，避免因磁盘满而导致的系统服务不可用。通过编写脚本自动化磁盘空间管理，我们可以更加高效地处理这一问题。下面...
- Linux磁盘管理LVM实战（linux实验磁盘管理）
-
LVM（逻辑卷管理器，LogicalVolumeManager）是一种在Linux系统中用于灵活管理磁盘空间的技术，通过将物理磁盘抽象为逻辑卷，实现动态调整存储容量、跨磁盘扩展等功能。本章节...
- Linux查看文件大小:`ls`和`du`为何结果不同?一文讲透原理!
-
Linux查看文件大小：ls和du为何结果不同？一文讲透原理！在Linux运维中，查看文件大小是日常高频操作。但你是否遇到过以下困惑？...
- 使用 df 命令检查服务器磁盘满了，但用 du 命令发现实际小于磁盘容量
-
在Linux系统中，管理员或开发者经常会遇到一个令人困惑的问题：使用...
- Linux磁盘爆满紧急救援指南:5步清理释放50GB+小白也能轻松搞定
-
“服务器卡死？网站崩溃？当Linux系统弹出‘Nospaceleft’的红色警报，别慌！本文手把手教你从‘删库到跑路’进阶为‘磁盘清理大师’，5个关键步骤+30条救命命令，快速释放磁盘空间，拯救你...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- mybatis plus (70)
- scheduledtask (71)
- css滚动条 (60)
- java学生成绩管理系统 (59)
- 结构体数组 (69)
- databasemetadata (64)
- javastatic (68)
- jsp实用教程 (53)
- fontawesome (57)
- widget开发 (57)
- vb net教程 (62)
- hibernate 教程 (63)
- case语句 (57)
- svn连接 (74)
- directoryindex (69)
- session timeout (58)
- textbox换行 (67)
- extension_dir (64)
- linearlayout (58)
- vba高级教程 (75)
- iframe用法 (58)
- sqlparameter (59)
- trim函数 (59)
- flex布局 (63)
- contextloaderlistener (56)