1.3 🔑 API ключ курса или от OpenAI?

📚🔍 Что будет в этом уроке?

🎮💻 Сейчас мы расскажем о трех методах, с помощью которых ты сможешь начать играться с LLM и разберешься, как запускать ноутбуки с курса. 

  • 1️⃣ Получение от команды курса ключ-токена для доступа к ChatGPT. Узнаешь, как получить специальный токен, который даст тебе доступ к языковой модели, расположенной на сервере курса.
  • 2️⃣ Получение ключ-токена OpenAI и использование множества моделей, включая gpt-3.5, которая является базой для ChatGPT. Познакомишься с процессом получения токена от OpenAI и узнаешь, как использовать различные модели для решения задач.
  • 3️⃣ Получение ключ-токена HuggingFace и использование LLM моделей на своем железе. Узнаешь, как получить токен от HuggingFace, чтобы использовать языковые модели на своем компьютере или сервере.
  • Попутно мы разберем как делать запросы к разным API сервисам с LLM моделями.

 

Каким способом ты будешь пользоваться при прохождении курса? Опиши в комментариях к этому степу, какой из трех методов больше всего привлекает тебя и почему. 💭💡


Хочется разобраться во всех способах, но в начале буду использовать LLM курса. Потом интересно развернуть чат на своём ПК.

@Виктор_Воробьев, глянь ollama'у, офигенный инструмент, я простестировал несколько llm на обычном ноуте 

Начну с LLM курса. Но и другие способы обязательно протестирую.

все методы - 2, 1, 3

Вначале API, пока оно будет не дороже, чем арендованный сервер 

Интересен Вариант 1, т.к. Вариант 2 требует vpn, а Вариант 3 требует ресурсы

Сначала изучу все 3, потом разверну на своем ПК.

Все 3 способа

Буду разбирать три метода

LM Studio. Есть возможность запускать модели локально, но имитировать API от OpenAI. Советую как ещё один вариант.

Как вариант, можно воспользоваться халявными токенами от Сбера на GigaChain.

Они сейчас после регистрации дают 1 000 000 токенов.

Уже немного потестил в данном задании, где описал результаты.