Как подключить LLM через Python

OpenAI API — самый простой старт

import openai

openai.api_key = 'ваш-ключ'
response = openai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    messages=[{"role": "user", "content": "Привет!"}]
)

• Получите API-ключ на platform.openai.com
• Установите библиотеку: pip install openai
• Следите за расходами — каждый запрос тарифицируется

Anthropic Claude — достойная альтернатива

import anthropic

client = anthropic.Anthropic(api_key="ваш-ключ")
message = client.messages.create(
    model="claude-3-opus-20240229",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Объясни квантовую физику"}]
)

Claude отлично справляется с длинными контекстами и аналитическими задачами.

🔧 Локальные модели через Ollama

import ollama

response = ollama.chat(
    model='llama2',
    messages=[{'role': 'user', 'content': 'Напиши код'}]
)

Преимущества:

• Полная конфиденциальность данных
• Нет ограничений по запросам
• Работает офлайн

Минусы: требуется мощное железо (минимум 8GB RAM)

LangChain — фреймворк для сложных задач 💡

from langchain.llms import OpenAI
from langchain.chains import ConversationChain

llm = OpenAI(temperature=0.7)
conversation = ConversationChain(llm=llm)
conversation.predict(input="Расскажи о себе")

LangChain умеет:

• Создавать цепочки запросов
• Работать с векторными базами
• Управлять контекстом диалога
• Интегрировать разные источники данных

Hugging Face Transformers — для энтузиастов

from transformers import pipeline

generator = pipeline('text-generation', model='gpt2')
result = generator("Искусственный интеллект", max_length=50)

Идеально для fine-tuning и экспериментов с открытыми моделями.

⚡ Лайфхаки для продакшена

Обработка ошибок:

try:
    response = openai.ChatCompletion.create(...)
except openai.error.RateLimitError:
    # Превышен лимит запросов
    time.sleep(60)

Оптимизация затрат:

• Кешируйте повторяющиеся запросы
• Используйте streaming для длинных ответов
• Выбирайте модель под задачу (не всегда нужен GPT-4)

Безопасность:

• Храните API-ключи в переменных окружения
• Никогда не коммитьте ключи в Git
• Используйте rate limiting

Какой способ выбрать?

• 🎯 Новичкам — OpenAI API (простота + качество)
• 🎯 Для бизнеса — Claude (баланс цены и качества)
• 🎯 Для экспериментов — Ollama (бесплатно и локально)
• 🎯 Для сложных систем — LangChain (гибкость)