|
|
|
|
Железный канал: «Нейросети» |
|
|
|
Paranid Parazite
 550 EGP
  
Рейтинг канала: 1(6)
Репутация: 131
Сообщения: 1676
Зарегистрирован: 04.10.2003
   |
|
Читал пару статеек с Хабра о запуске речевых моделей локально
типа такого
Я так понимаю, та же Альпака может быть запущена локально и даже имеет неплохую базу знаний, но её надо обучать под свои нужды.
Какие есть способы для реального в домашних условиях и с (около)нулевым бюджетом для обучения чатбота нужным мне запросам? Например, есть глобальные задачи натаскать нейросеть отвечать на определённый перечень вопросов текстом; или сделать её больше ориетированной на пошаговые инструкции по Excel или ещё какая-то специфическая задача?
Ну и про Альпаку. Единственная ли это нейросеть, доступная для запуска локально за счёт ОЗУ (например, имею ноутбук, где много оперативки, но не самое мозное видео)?
Также интересуют примеры реального применения в работе или в быту нейросетей-чатботов, чисто как готовых проектов (не только для генерации воды для научных работ). Что интересного удавалось реализовать путём собственноручного обучения сети? Что до вас никто не додумывался делать с помощью того же ГоПоТы?
У меня-то есть и конкретные задачи, но может, мне что-то даже не приходит в голову делать с помозью нейросети...
_________________
I load lead inside my engine—lead and alcohol © Vacuum |
|
|
|
AlexYar
 1976 EGP
        
Рейтинг канала: 3(49)
Репутация: 324
Сообщения: 33477
Зарегистрирован: 26.10.2003
|
|
Сбросил биос в дефолт, соот-но отключился режим "разгона" проца, и частота оперативы с 3600 упала до 2666.
И скорость загрузки моделей в нейросетку увеличилась процентов на 30-40 
Это чего за прикол такой? На 3600 частоте память медленнее работает чтоль?
добавлено спустя 3 минуты:
В SD модели грузятся одновременно и в видео и в оперативную память (1-для непосредственно работы, 2-для кеша, чтобы потом грузилась быстрее в видеопамять, если потребуется снова после переключения на другие модели).
Последний раз редактировалось: AlexYar (22:42 09-12-2025), всего редактировалось 1 раз |
|
|
|
Grebomet
 1471 EGP
   
Рейтинг канала: 8(765)
Репутация: 261
Сообщения: 4797
Откуда: Питербурх
Зарегистрирован: 06.01.2003
|
|
| AlexYar : |
|
Это чего за прикол такой? На 3600 частоте память медленнее работает чтоль?
|
Так надо тайминги смотреть, а не только частоты. Все вот эти CL, RAS и что там еще. А то частоту работы памяти ты поднял на одну треть, а тайминги при этом выросли, например, в два раза. И получается, что процессор ждет в два раза дольше, пока память станет готова, а потом на 1/3 быстрее получает из нее данные.
Для нейросеток производительность памяти важна, там же ж вычислительные операции относительно простые. Зато объемы данных большие.
_________________
Классическая ошибка, которую совершают проектировщики абсолютно надежных систем, – недооценка изобретательности клинических идиотов.
Последний раз редактировалось: Grebomet (13:39 06-02-2026), всего редактировалось 1 раз |
|
|
|
OLCHA
 810 EGP
  
Рейтинг канала: 2(24)
Репутация: 188
Сообщения: 1816
Откуда: Krasnodar&Moskva
Зарегистрирован: 27.02.2001
|
|
| Grebomet : |
| AlexYar : |
|
Это чего за прикол такой? На 3600 частоте память медленнее работает чтоль?
|
Так надо тайминги смотреть...
|
я там разве не эксенпи профили рулят?
Я имею в виду когда на автомате сбрасываются в дефолт.
Ручками, понятно, можно много чего поджать в зависимости от самих модулей.
_________________
С ув. Ольха.
=================================
каждый в своем направлении,каждый в своё время...
Из прошлого надо брать огонь, а не пепел... |
|
|
|
|
|
|
|
|
Железный канал: «Нейросети» |
|
|
