The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]

Подборка открытых больших языковых моделей для локального использования

11 Feb 2025
Подборка открытых больших языковых моделей для локального использования
Открытые большие языковые модели для запуска на своём сервере:
  • DeepSeek-R1 -китайская модель, охватывает 671 миллиард параметров и учитывает контекст в 128 тысяч токенов.
  • Granite - модель от IBM, 8 миллиардов параметров.
  • InternVL - модель, способная обрабатывать визуальную информацию. 5-78 млрд параметров.
  • OLMo 2 - полностью открытая модель, 7 и 13 млрд параметров.
  • Phi-4 - модель от Microsoft, нацеленная на решение логических задач. 15 млрд параметров.
  • Qwen - китайская модель, 72 млрд параметров, 128 тысяч токенов. Есть вариант для обработки визуальной информации.
  • SmolLM2 - легковесные модели (135 млн, 360 млн и 1.7 млрд параметров), рассчитанные на резюмирование информации и обработку текста.
  • all-MiniLM-L6-v2, 23 млн параметров, подходит для встраивания в приложения.

Движки для исполнения больших языковых моделей: llama.cpp, ollama, koboldcpp.

https://github.com/suncloudsmoon/awesome-open-source-ai
Машинное обучение

 Добавить ссылку
 
 Поиск ссылки (regex):
 

Последние заметки
<< Предыдущие 15 записей
- 21.02.2020 Использование SSH-ключей в Gitlab CI
- 20.02.2020 Как отбить простой DDoS в nginx
- 19.02.2020 Аудит системных пользователей (можно через Ansible)
- 18.02.2020 Просмотр зависимостей пакета и принадлежности файла пакету в Linux
- 05.01.2020 Решение проблемы с зависанием графической подсистемы на компьютерах с APU AMD
- 04.01.2020 Проверка правописания в Telegram Desktop для Linux
- 03.01.2020 Простое устройство для защиты данных в случае кражи ноутбука
- 18.11.2019 Обход блокировки сотовыми операторами использования смартфона в качестве точки доступа
- 09.09.2019 Включение DNS-over-HTTPS в Chrome
- 01.09.2019 Улучшение безопасности sources.list в дистрибутивах, использующих APT
- 28.08.2019 Сравнение работающих в пространстве пользователя обработчиков нехватки памяти
- 27.08.2019 Изменение скорости движения указателя мыши через xinput
- 23.08.2019 Установка Anbox для запуска Android-приложений в Fedora 30
- 02.07.2019 Прокси сервер Squid c E2guardian и Clamav
- 07.05.2019 Монтирование корневой ФС в RO-режиме при загрузке в свежих версиях Fedora
Следующие 15 записей >>




Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру