Сниппет как юзать АПИ GPT. Бэклинк - http://lj.rossia.org/users/astass/15980.html

# adapted from https://github.com/xtekky/gpt4free

import sys
import tkinter

import g4f


model = g4f.Model.gpt_35_turbo
#model = g4f.Model.gpt_4
provider = g4f.Provider.DeepAi
#provider = g4f.Provider.Bing

if len(sys.argv) < 2:
    text = tkinter.Tk().clipboard_get()
else:
    with open(sys.argv[1], 'r') as file:
        text = file.read()

# --> prepend text with your prompt

answer = g4f.ChatCompletion.create(model, [{"role": "user", "content": text}], provider)
print(answer.strip())

(Reply to this) (Thread)

ага. спасибо.

значит библиотека называется g4f.

наверное, ее можно подрубить и к с++, если сделать дллку из питоновского скрипта. интересно, а модель гпт-4 доступна? она там закоментирована в сниппете.

ну и, видимо, майкрософт, как всегда, ничего сделать не может (только испоганить) -- дык чтобы привлечь клиентуру выкупает и делает доступными бесплатно критичные плюшки. в данном случае четвертый гпт

(Reply to this) (Parent) (Thread)

Усё там - на гитхабе см.

В данной истории опенАИ хуже, чем МС. Сначала обещали "опен" АИ, но как только нарисовались большие деньги на горизонте, - обосрались жадностью.

(Reply to this) (Parent) (Thread)

пол-дня потратил, но запустил.
там еще нужно 1 строчку закомментировать чтобы работало.
кстати вопрос, оно все равно лезет к провайдеру за языковой моделью,
тоесть по факту это только "система управления", без "базы данных" самой,
т.е. файл языковой модели негде достать, только можно подключиться к провайдеру : бингу, опненаишному, еще разным..
вот бы саму модель скачать. это было бы дело

(Reply to this) (Parent) (Thread)

Молодец.

Для локального запуска нужна опен сорсная модель. ГПТ-4 нет и не будет, она лицензирована микрософту. Из предыдущих общедоступных всё равно нужно будет много видеокарт в кластере, чтобы запустить. Опенсорсный прогресс в АИ только в порнокартинках сейчас идёт, на остальном все бизнес пытаются строить и не публикуют.

Из тех, что локальные я баловался с этой - https://huggingface.co/facebook/bart-large-cnn для задач саммаризации. Но результат гораздо хуже получается. См. т. на том хабе всякие опенсорсные модели.

(Reply to this) (Parent) (Thread)

да, я тоже докопался до huggingface предобученной модели.
ключевой вопрос заключается в том, сколько нужно видеокарт-часов,
чтобы получить гпт-3.5 и гпт-4.0 языковую модель.

еще вопрос где найти опенсорсные исходники генераторов ИИ-изображений и звуков/песен

(Reply to this) (Parent)