← Все термины

Токен: что это такое

Токен — маленький кусочек, на которые языковая модель делит текст: слово, часть слова или знак. Модели «читают» и пишут текст токенами, и цена ИИ-сервисов часто считается по числу токенов. Узбекский текст обычно делится на больше токенов, чем английский.

Полезные страницы

📰 НовостиHacker News

Связанные термины

Большая языковая модель (LLM) · Контекстное окно · API (программный интерфейс)

Это общая информация, не юридическая консультация. Точные правила проверяйте в официальных источниках.