Перайсці да змесціва

Ollama

ПраграмаOllama

Таксама называецца ollama windows, ollama.exe

OllamaПрадукцыйнасць

Лакальнае асяроддзе запуску мадэлей. Працэс у Windows - ollama.exe. Файлы мадэлей маюць вялікі памер. Гэта не праграма ChatGPT для працоўнага стала.

Што вам трэба ведаць

Ollama запускае мадэлі на гэтым ПК. ChatGPT.exe - гэта воблачны кліент.

ollama.exe выконвае мадэлі лакальна. Файлы мадэлей маюць вялікі памер. ChatGPT для ПК звяртаецца да OpenAI. Claude для ПК звяртаецца да Anthropic. LM Studio - гэта іншы лакальны графічны інтэрфейс для файлаў GGUF.

Што гэта такое?
Лакальнае асяроддзе запуску мадэлей
Тое ж самае, што і ChatGPT?
Не. Гэта працуе лакальна на вашым ПК
Ці маюць мадэлі малы памер?
Не. Файлы маюць вялікі памер
Feex паведамляе
Калі ollama.exe спажывае аператыўную памяць, я правяраю, якая мадэль загружана. Гэтыя вагі захоўваюцца на дыску і ў памяці. Закрыццё ChatGPT.exe не вызваліць гэтую памяць. Гэта іншы прадукт ад іншага распрацоўшчыка.

Што такое Ollama?

Ollama запускае лакальныя мадэлі праз ollama.exe. Гэта не ChatGPT для ПК, не Claude для ПК і не графічны інтэрфейс LM Studio.

Калі вы ніколі ім не карысталіся

Калі вы хочаце запускаць мадэль лакальна на гэтым ПК, Ollama з'яўляецца папулярным інструментам. Спампуйце праграму з ollama.com/download. ollama.exe уключае службу і інтэрфейс каманднага радка. Файлы мадэлей маюць вялікі памер і захоўваюцца ў вашым профілі карыстальніка. ChatGPT.exe працуе з воблакам OpenAI. Укладка браўзера на chatgpt.com не звязана з гэтым exe-файлам.

Для чаго ён выкарыстоўваецца?

Спампоўка і запуск мадэлі

ollama run llama3.2. Працэс ChatGPT.exe не будзе спампоўваць гэты файл у .ollama.

Лакальны API на localhost

Праграмы падключаюцца да порта Ollama. Воблачны API OpenAI знаходзіцца па іншым адрасе.

Праца службы ў трэі

ollama.exe застаецца актыўным для загрузкі мадэлей. LM Studio - гэта асобны прадукт з графічным інтэрфейсам.

Для каго ён прызначаны?

  • Карыстальнікі, якім патрэбна лакальная мадэль без уліковага запісу ChatGPT
  • Распрацоўшчыкі, якія падключаюць праграму да localhost
  • Усе, хто памылкова лічыў ChatGPT для ПК лакальнай мадэллю

Бягучы стан

Ollama (2023) - гэта сучаснае асяроддзе запуску лакальных мадэлей ад Ollama. Распрацоўшчык па-ранейшаму накіроўвае карыстальнікаў Windows на https://ollama.com/download.

Колькі яму гадоў?

Ollama запушчана ў 2023 годзе як памочнік для працы з лакальнымі мадэлямі. Яна належыць да таго ж пакалення, што і LM Studio, і з'явілася пазней за вэб-версію ChatGPT. Сучасныя зборкі для Windows рэгулярна абнаўляюцца. Архіў 2022 года толькі з llama.cpp - гэта іншы спосаб распаўсюджвання.

Версіі

Спачатку асноўныя каналы. Дакладныя нумары зборак не ўсе правераны тут.

Ollama для Windows

Сістэмныя патрабаванні

Значэнні адпавядаюць адкрытым указанням выдаўца. Нагрузка ўсё яшчэ змяняе рэальную патрэбу.

Мінімум

Мінімальныя сістэмныя патрабаванні
Аперацыйная сістэма Бягучы 64-разрадны рэліз Windows 10 або Windows 11, паводле звестак Ollama
Аператыўная памяць Выканаўчы модуль невялікі. Загружаная мадэль можа патрабаваць ад некалькіх адзінак да некалькіх дзясяткаў ГБ

Профіль выкарыстання рэсурсаў

Патрабаванні да працэсара
Залежыць ад таго, што вы адкрываеце ў праграме
Патрабаванні да аператыўнай памяці
Залежыць ад дакументаў, укладак альбо бібліятэк

Усталяваныя працэсы

Гэтыя выканальныя файлы належаць гэтаму прадукту, калі ён усталяваны.

Усталяваныя працэсы
ollama.exe Служба і CLI Ollama

Кампаненты аўтазагрузкі

Ollama можа запускаць службу або значок у трэі пры ўваходзе ў сістэму для гатоўнасці API. Гэта не тое ж самае, што пераключальнік аўтазапуску ў ChatGPT.

Размяшчэнне файлаў

Звычайныя месцы размяшчэння Ollama
Тыповая ўстаноўка C:\Users\<you>\AppData\Local\Programs\Ollama\

Фарматы файлаў

Мадэльныя блобы GGUF і Ollama

Распаўсюджаныя праблемы

Нечаканы недахоп месца на дыску пасля ollama pull

Мадэлі займаюць шмат гігабайтаў. Гэта нармальна. ChatGPT для працоўнага стала не захоўвае гэтыя вагі лакальна.

Відэакарта не выкарыстоўваецца

Ollama дакументуе падтрымліваемыя бэкэнды GPU. Запуск толькі на працэсары адбываецца павольна. Гэта тычыцца дадзенай праграмы, а не ўкладкі ў Edge.

Вырашэнне праблем

Усталюйце з ollama.com/download

Ollama размяшчае афіцыйны ўсталёўшчык для Windows. Выпадковы файл ollama.exe у папцы Downloads варта праверыць.

ollama list і папка .ollama\models

Праверце, што менавіта было спампавана. LM Studio захоўвае мадэлі ў іншым кэшы.

Закрыйце праграму ў трэі, калі трэба спыніць службу

Завяршэнне ChatGPT.exe не спыніць працэс ollama.exe.

Альтэрнатывы

LM Studio падыдзе, калі патрэбен графічны інтэрфейс для GGUF. ChatGPT або Claude падыдуць, калі патрэбна воблачная мадэль. llama.cpp сама па сабе - гэта рашэнне больш нізкага ўзроўню.

Афіцыйная дапамога і спампоўкі

Пачынайце з распрацоўшчыка. Выпадковыя сайты з exe не з'яўляюцца каналам падтрымкі.

Афіцыйныя кантакты
Спампаваць ollama.com/download Афіцыйны ўсталёўшчык альбо старонка вытворцы
Даведка github.com/ollama/ollama/tree/main/docs Падтрымка ад вытворцы
Афіцыйны сайт ollama.com/ Пачынайце адсюль, а не з выпадковага хостынгу exe
Дакументацыя Ollama на GitHub github.com/ollama/ollama/tree/main/docs Заўвагі па CLI, мадэлях і GPU

Звязанае абсталяванне

Аб'ём аператыўнай памяці і дыска вызначае, якія мадэлі змесцяцца. Падтрымліваемы графічны працэсар паскарае працу. Гэта лакальныя вылічэнні, а не чат у браўзеры.

Тэхнічныя падрабязнасці

Тэхнічныя падрабязнасці

Нумары версій вытворцы змяняюцца. Гэты артыкул не замацоўвае пэўную зборку.

Крыніцы і праверка

Зафіксаваная пазнака крыніцы: жнівень 2026. Гэтая пазнака не пацвярджае незалежную праверку. Як мы даследуем.

Ці быў гэты артыкул карысным?

Дастаткова адказаць "так" або "не". Выберыце прычыну, калі хочаце, або дадайце кароткую нататку.

Ці быў гэты артыкул карысным?