tiphareth: устанавливая на него Stable Diffusion

Настроение:	sick
Музыка:	godspeed you black emperor! - slow riot for new zero kanada E.P
Entry tags:	ai, linux

устанавливая на него Stable Diffusion
Накатил gentoo на новый комп, и вчера весь день
игрался, устанавливая на него Stable Diffusion. Преуспел
по минимуму, ибо без видеокарты Nvidia она требует
по полгода на каждое телодвижение. В итоге я получил
пачку картин в духе Матисса, с фигурами без деталей,
мощно закрашенных в яркие цвета, и заказал на
mercadolivre.com.br карту Nvidia, которую и приткну.
Развитие искусственного интеллекта это смысл
существования цивилизации, определенно.

Radeon, в принципе, тоже работает, через систему Shark,
https://github.com/nod-ai/SHARK/issues/1444
но она какая-то кривая и написана в основном под винду.
Кроме того, она хочет драйвера не старее, чем 23.2.1, а
для моей карты самое новое это 15 с чем-то.

Привет

(Читать комментарии) - (Добавить комментарий)

	tiphareth 2024-01-23 03:53 (ссылка)
	Placa De Video Soyo Geforce Rtx 2060 Super 8gb Gddr6 ориентировался чисто на цену, ибо если не пойдет, то не жалко будет (Ответить) (Уровень выше) (Ветвь дискуссии)

(Анонимно)
2024-01-23 04:56 (ссылка)

12 терафлопсов с 8 гигами. Не густо.

Peak FP16 Tensor TFLOPS (FP16 Accumulate): 57.4

448 GB/s

Основным ограничением будет 8 гигов памяти.

>то не жалко будет

У вас же самая высокая зарплата среди математиков в Бразилии. Я думал вам и на H100 не жалко должно быть.

(Ответить) (Уровень выше) (Ветвь дискуссии)

sometimes
2024-01-23 09:11 (ссылка)

H100 хорошая карта, но ее все же как игрушку для ребенка может позволить себе только бизнес средней руки типа Шалунова. Ну и будет тупо, если через несколько лет выкатят нейрочип с аналогичным компьютом за сто баксов.

А для диффузии 8G вполне хватит, зря только имо вторую серию, она от первой отличается только RT, а это для нейросетей не нада

(Ответить) (Уровень выше) (Ветвь дискуссии)

	(Анонимно) 2024-01-23 13:46 (ссылка)
	>она от первой отличается только RT чо чо чо ? tensor cores(операции на матрицах) тоже во второй добавили, ими все нейросети и делают. (Ответить) (Уровень выше) (Ветвь дискуссии)

sometimes
2024-01-23 20:03 (ссылка)

Действительно, неправда моя, начиная с вольты (это мне знакомый говорил, что 2080 ti не стоит покупать, лучше 1080 ti давным-давно, а я тогда совсем в этом не разбирался; она в 1.5 раза быстрее на самом деле, а он видимо имел в виду, что памяти столько же, а цена выше)

(Ответить) (Уровень выше)

	(Анонимно) 2024-01-23 14:33 (ссылка)
	Математик в Бразилии это типа шута, самая высокая зарплата - копейки по сравнению даже с зарплатами в РФ (Ответить) (Уровень выше)

	(Анонимно) 2024-01-23 06:01 (ссылка)
	должна быть норм, я дома на 1060 4gb рендерил (Ответить) (Уровень выше)

(Анонимно)
2024-01-23 16:05 (ссылка)

Для использования готовых моделек пойдет, а если захочешь дотренировать на своих картинках, то скорее всего не хватит. Мне своей 2080Ti не хватает, пользуюсь runpod.io; за карточку 4090 24gb где-то 0.7 доллара в час получается

(Ответить) (Уровень выше) (Ветвь дискуссии)

	sometimes 2024-01-23 20:05 (ссылка)
	Ага, то есть она всего за 80-100 дней обучения окупается? (Ответить) (Уровень выше)

	(Анонимно) 2024-02-23 12:59 (ссылка)
	Вообще, нищеебство какое-то. Начальный уровень для нейронок (даже для inference задач) это NVIDIA GeForce RTX 3060 and the like. (Ответить) (Уровень выше)

(Читать комментарии) -