from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained("ai-forever/rugpt3large_based_on_gpt2")
tokenizer = AutoTokenizer.from_pretrained("ai-forever/rugpt3large_based_on_gpt2")
text = "Искусственный интеллект — это"
input_ids = tokenizer.encode(text, return_tensors="pt")
output = model.generate(input_ids, max_length=100)
print(tokenizer.decode(output[0]))Полностью открытый код
Легкое дообучение
Доступно на HF Hub
Оптимизирован для RU
ruGPT-3.5 — это семейство открытых языковых моделей, специально обученных на русскоязычных текстах. Модель доступна в нескольких размерах и может использоваться для: - Генерации текста - Суммаризации - Ответов на вопросы - Классификации - Fine-tuning под специфические задачи