пол-дня потратил, но запустил.
там еще нужно 1 строчку закомментировать чтобы работало.
кстати вопрос, оно все равно лезет к провайдеру за языковой моделью,
тоесть по факту это только "система управления", без "базы данных" самой,
т.е. файл языковой модели негде достать, только можно подключиться к провайдеру : бингу, опненаишному, еще разным..
вот бы саму модель скачать. это было бы дело

(Reply to this) (Parent) (Thread)

Молодец.

Для локального запуска нужна опен сорсная модель. ГПТ-4 нет и не будет, она лицензирована микрософту. Из предыдущих общедоступных всё равно нужно будет много видеокарт в кластере, чтобы запустить. Опенсорсный прогресс в АИ только в порнокартинках сейчас идёт, на остальном все бизнес пытаются строить и не публикуют.

Из тех, что локальные я баловался с этой - https://huggingface.co/facebook/bart-large-cnn для задач саммаризации. Но результат гораздо хуже получается. См. т. на том хабе всякие опенсорсные модели.

(Reply to this) (Parent) (Thread)

да, я тоже докопался до huggingface предобученной модели.
ключевой вопрос заключается в том, сколько нужно видеокарт-часов,
чтобы получить гпт-3.5 и гпт-4.0 языковую модель.

еще вопрос где найти опенсорсные исходники генераторов ИИ-изображений и звуков/песен

(Reply to this) (Parent)