Назад к моделям

Amazon Titan Text Embeddings V2

amazonamazon/titan-embed-v2

Lightweight, efficient embedding model for high accuracy retrieval tasks. Supports flexible embedding sizes (1024, 512, 256) and 100+ languages.

Amazon Titan Text Embeddings V2 — это второе поколение текстовых эмбеддинг‑моделей Amazon, оптимизированных под workflows на основе RAG (Retrieval‑Augmented Generation). Релиз состоялся в апреле 2024 г.; модель преобразует естественный текст в многомерные векторы с настраиваемой размерностью (256, 512 или 1024), позволяя гибко балансировать между точностью, стоимостями хранения и задержками поиска.

Как управляемый эмбеддинг‑сервис в Amazon Bedrock, Titan V2 полностью serverless — не требует инсталлации инфраструктуры или рутинного обслуживания. Модель предобучена на более чем 100 языках, обеспечивает нормализацию векторов‑единиц для улучшенной точности по косинусной близости и стоит $0.02 за миллион входных токенов — цена снижена в пять раз по сравнению с V1, при сохранении более 97% ретривельной точности при размерности 256.

Когда выбирать
  • • RAG‑пайплайны, где настраиваемая размерность векторов позволяет компенсировать точность и объём хранения
  • • Многоязычный семантический поиск по 100+ языкам в едином векторном пространстве
  • • Бюджет‑чувствительные workflows документ‑эмбеддинга, где меньшие размерности (256, 512) сокраща��т объём хранения на 75‑50% по сравнению с 1024
  • • Корпоративные нагрузки, требующие управляемых, serverless эмбеддингов с единой AWS‑биллингой и compliance‑ограничениями
Когда не выбирать
  • • Анализ кода на основе эмбеддингов — лучше использовать специализированные модели для кода, такие как OpenAI text‑embedding‑3‑large
  • • On‑premises‑/self‑hosted‑деплойменты, где модели должны работать вне инфраструктуры Amazon
  • • Мультимодальные входы (изображения + текст) — Titan V2 только текстовый; подойдут Cohere embed‑v4 или варианты OpenAI CLIP
  • • Real‑time инференс с требованием P99 <50 мс — сначала оцените векторные БД, но throttle по RPM у Titan может ограничить пропускную способность

Чем обслуживание в TheRouter отличается от вендорского

Как её эксплуатирует вендор

AWS обслуживает Titan Text Embeddings V2 на Bedrock bedrock-runtime endpoint через Invoke: text input, embedding output, лимит 8K tokens / 50,000 characters, model id amazon.titan-embed-text-v2:0, и без cross-region inference profile в текущей model card.

На TheRouter

TheRouter отдаёт ту же embedding model как amazon/titan-embed-v2 через /v1/embeddings с OpenAI-compatible client syntax. Operational price, context, modality и supported-parameter поля берутся из live catalog TheRouter; curated page фиксирует AWS source-of-truth behavior и оставляет snippets capped до operator-funded verification run.

Размер контекста
8K
Максимальный вывод
--
Цена Входза 1M токенов
$0.0216за 1 млн токенов

Модальности

Текст→embedding

Разбивка цен

ТипСтавка
Вход$0.0216 за 1 млн токенов

Поддерживаемые параметры

dimensionsnormalize

Характеристики

Дата релиза2024‑04‑30Amazon Bedrock docs ↗проверено
Размерность выхода256, 512, 1024 (настраивается)docs.aws.amazon.com ↗проверено
Нормализация векторовДа (вектор‑единиц), поддерживается опциональноdocs.aws.amazon.com ↗проверено
Поддерживаемые языкиОптимизирована для английского, 100+ языков в preview; межъязыковые запросы субоптимальныdocs.aws.amazon.com ↗проверено
Макс. символов на входе50 000docs.aws.amazon.com ↗проверено
Дата отсечения обучающих данныхНе раскрытонеизвестно
Соотношение токен‑символ (английский)≈4.7 симв./токенdocs.aws.amazon.com ↗проверено

Бенчмарки

BenchmarkDistributionScoreSource
MTEB (Massive Text Embedding Benchmark) weighted average
60.37scoreAWS ML blog ↗
MTEB reranking
57.5scoreaws.amazon.com ↗
MIRACL multilingual
55scoreaws.amazon.com ↗

Примеры API

Для новых интеграций используйте глобальный endpoint api.therouter.ai из примеров ниже; старый China accelerated endpoint выведен из эксплуатации.

cURL
curl https://api.therouter.ai/v1/chat/completions   -H "Content-Type: application/json"   -H "Authorization: Bearer $THE_ROUTER_API_KEY"   -d '{
    "model": "amazon/titan-embed-v2",
    "messages": [
      {"role": "user", "content": "Summarize the key points from this input."}
    ]
  }'

Запрос эмбеддинга

Создание эмбеддингов для текстового входа с настраиваемой размерностью и опциональной нормализацией. TheRouter прозрачно маршрутизирует запрос в Amazon Bedrock с полностью совместимым OpenAI синтаксисом.

cURL
curl https://api.therouter.ai/v1/embeddings \
  -H "Authorization: Bearer $THEROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "amazon/titan-embed-v2",
    "input": "Your text to embed here.",
    "dimensions": 256,
    "encoding_format": "float"
  }'

Ещё от amazon

Похожие модели

Аналоги в других провайдерах

Новости и изменения

2024-05-06

Amazon Titan Text Embeddings V2 теперь в Amazon Bedrock

AWS анонсирует GA Titan V2 с настраиваемой размерностью (256, 512, 1024), нормализацией вектора‑единиц и поддержкой 100+ языков — цена $0.02 за миллион токенов, снижение в 5 раз против V1.

переработано TheRouterAWS News Blog ↗
2024-10-07

Начинаем работу с Amazon Titan Text Embeddings V2: новая SOTA модель эмбеддингов на Amazon Bedrock

Команда AWS ML публикует развернутое руководство по Titan V2 с оценками MTEB (взв. среднее 60.37), мультиязычной производительностью и преимуществами для RAG‑оптимизации.

переработано TheRouterAWS Machine Learning Blog ↗

Частые вопросы

Какие практические компромиссы точность–объём хранения между размерностями 256, 512 и 1024?

Amazon измерил, что векторы размерности 512 сохраняют ~99% ретривельной точности по сравнению с полными 1024‑мерными выходами, а векторы 256 размерности удерживают >97% точности. Это означает, что можно сократить объём хранения векторов на 75% (256→1024) или 50% (512→1024), пожертвовав лишь незначительным качеством извлечения. Для большинства RAG‑нагрузок размерность 256 обеспечивает оптимальный баланс стоимости и точности.

переработано TheRouteraws.amazon.com ↗
Поддерживает ли Titan V2 кросс‑языковой поиск (например, запрос на немецком против корпуса на корейском)?

Хотя предобучение охватывает 100+ языков, AWS прямо отмечает, что кросс‑языковые запросы дадут 'неоптимальные результаты'. Модель превосходно работает в рамках одного языка из своего тренировочного набора; для надежного межъязыкового поиска рассмотрите OpenAI text‑embedding‑3‑large или Cohere embed‑v4, созданные для таких случаев.

переработано TheRouterdocs.aws.amazon.com ↗
Почему Bedrock ограничивает эмбеддинг‑модели по RPM, а не по TPM? Каковы последствия для производительности?

Эмбеддинг‑модели обрабатывают относительно короткие тексты (≤8192 токенов) за запрос, поэтому пропускная способность ограничивается накладными расходами вычислений на запрос, а не capacity токен‑стриминга. Квоты RPM обеспечивают честное использование среди арендаторов. Для объёмного индексирования запросите увеличение квоты через AWS Support или используйте Bedrock Batch для оптимизированной по пропускной способности пачки эмбеддингов.

переработано TheRouterdocs.aws.amazon.com ↗
Чем отличается Titan V2 от своего предшественника Titan G1 (V1)?

Titan V2 предлагает три основных улучшения: (1) настраиваемая размерность (256/512/1024) против фиксирован��ой 1536 у G1; (2) нормализация вектора‑единиц для улучшенной точности косинусной близости, особенно в RAG; (3) поддержка 100+ языков (предобучение) против 25+ у G1. Кроме того, цена за токен снижена в 5 раз ($0.02 против $0.10 на миллион) и при размерности 256 сохраняется >97% точности извлечения G1.

переработано TheRouteraws.amazon.com ↗
Реестр фактов — каждая утверждаемая величина имеет источник
источникURLполучено
Дата релизаAmazon Bedrock docs ↗2026-08-23проверено
Размерность выходаdocs.aws.amazon.com ↗2026-08-23проверено
Нормализация векторовdocs.aws.amazon.com ↗2026-08-23проверено
Поддерживаемые языкиdocs.aws.amazon.com ↗2026-08-23проверено
Макс. символов на входеdocs.aws.amazon.com ↗2026-08-23проверено
Дата отсечения обучающих данных——неизвестно
Соотношение токен‑символ (английский)docs.aws.amazon.com ↗2026-08-23проверено
MTEB (Massive Text Embedding Benchmark) weighted averageAWS ML blog ↗2026-08-23проверено
MTEB rerankingaws.amazon.com ↗2026-08-23проверено
MIRACL multilingualaws.amazon.com ↗2026-08-23проверено
Amazon Titan Text Embeddings V2 теперь в Amazon BedrockAWS News Blog ↗2026-08-23проверено
Начинаем работу с Amazon Titan Text Embeddings V2: новая SOTA модель эмбеддингов на Amazon BedrockAWS Machine Learning Blog ↗2026-08-23проверено
Какие практические компромиссы точность–объём хранения между размерностями 256, 512 и 1024?aws.amazon.com ↗2026-08-23к проверке
Поддерживает ли Titan V2 кросс‑языковой поиск (например, запрос на немецком против корпуса на корейском)?docs.aws.amazon.com ↗2026-08-23к проверке
Почему Bedrock ограничивает эмбеддинг‑модели по RPM, а не по TPM? Каковы последствия для производительности?docs.aws.amazon.com ↗2026-08-23к проверке
Чем отличается Titan V2 от своего предшественника Titan G1 (V1)?aws.amazon.com ↗2026-08-23к проверке
Помощь и контакты