Программирование

Hugging Face стал синонимом современных моделей машинного обучения, особенно в области обработки естественного языка. С другой стороны, формат файлов GGUF, хотя и менее известен, служит для конкретных целей, требующих преобразования …

В переводе: Пошаговое объединение моделей и матричное квантование GGUF 9 марта 2025 г.· K4YT3X 0. Что такое слияние моделей 1. Настройте среду 2. Объединение моделей с помощью mergekit 3. Преобразуйте …

Для смешивания моделей используем mergekit.  Его установка — запустим консоль (git должен уже быть установлен): git clone https://github.com/arcee-ai/mergekit.git Создадим виртуальное окружение, чтобы небыло несовместимости с версиями модулей уже установленных в …

Конвертация нейросетевой модели LLM c HuggingFace в формат GGUF. Для этого требуется установка llama.cpp: откроем консоль, в ней выполним комманду (git должен быть ранее установлен): git clone https://github.com/ggerganov/llama.cpp.git Создадим виртуальную …

Получить значение времени можно через модуль time import time Допустим, что хотим узнать время выполнения функции def f1(a,b): return a**b Запомним значение времени перед началом выполнения функции: start_time = time.time() …