Amazon Titan Text Embeddings V2 теперь в Amazon Bedrock
AWS анонсирует GA Titan V2 с настраиваемой размерностью (256, 512, 1024), нормализацией вектора‑единиц и поддержкой 100+ языков — цена $0.02 за миллион токенов, снижение в 5 раз против V1.
Lightweight, efficient embedding model for high accuracy retrieval tasks. Supports flexible embedding sizes (1024, 512, 256) and 100+ languages.
Amazon Titan Text Embeddings V2 — это второе поколение текстовых эмбеддинг‑моделей Amazon, оптимизированных под workflows на основе RAG (Retrieval‑Augmented Generation). Релиз состоялся в апреле 2024 г.; модель преобразует естественный текст в многомерные векторы с настраиваемой размерностью (256, 512 или 1024), позволяя гибко балансировать между точностью, стоимостями хранения и задержками поиска.
Как управляемый эмбеддинг‑сервис в Amazon Bedrock, Titan V2 полностью serverless — не требует инсталлации инфраструктуры или рутинного обслуживания. Модель предобучена на более чем 100 языках, обеспечивает нормализацию векторов‑единиц для улучшенной точности по косинусной близости и стоит $0.02 за миллион входных токенов — цена снижена в пять раз по сравнению с V1, при сохранении более 97% ретривельной точности при размерности 256.
AWS обслуживает Titan Text Embeddings V2 на Bedrock bedrock-runtime endpoint через Invoke: text input, embedding output, лимит 8K tokens / 50,000 characters, model id amazon.titan-embed-text-v2:0, и без cross-region inference profile в текущей model card.
TheRouter отдаёт ту же embedding model как amazon/titan-embed-v2 через /v1/embeddings с OpenAI-compatible client syntax. Operational price, context, modality и supported-parameter поля берутся из live catalog TheRouter; curated page фиксирует AWS source-of-truth behavior и оставляет snippets capped до operator-funded verification run.
| Тип | Ставка |
|---|---|
| Вход | $0.0216 за 1 млн токенов |
| Дата релиза | 2024‑04‑30Amazon Bedrock docs ↗ | проверено |
| Размерность выхода | 256, 512, 1024 (настраивается)docs.aws.amazon.com ↗ | проверено |
| Нормализация векторов | Да (вектор‑единиц), поддерживается опциональноdocs.aws.amazon.com ↗ | проверено |
| Поддерживаемые языки | Оптимизирована для английского, 100+ языков в preview; межъязыковые запросы субоптимальныdocs.aws.amazon.com ↗ | проверено |
| Макс. символов на входе | 50 000docs.aws.amazon.com ↗ | проверено |
| Дата отсечения обучающих данных | Не раскрыто | неизвестно |
| Соотношение токен‑символ (английский) | ≈4.7 симв./токенdocs.aws.amazon.com ↗ | проверено |
| Benchmark | Distribution | Score | Source |
|---|---|---|---|
MTEB (Massive Text Embedding Benchmark) weighted average | 60.37score | AWS ML blog ↗ | |
MTEB reranking | 57.5score | aws.amazon.com ↗ | |
MIRACL multilingual | 55score | aws.amazon.com ↗ |
Для новых интеграций используйте глобальный endpoint api.therouter.ai из примеров ниже; старый China accelerated endpoint выведен из эксплуатации.
curl https://api.therouter.ai/v1/chat/completions -H "Content-Type: application/json" -H "Authorization: Bearer $THE_ROUTER_API_KEY" -d '{
"model": "amazon/titan-embed-v2",
"messages": [
{"role": "user", "content": "Summarize the key points from this input."}
]
}'Создание эмбеддингов для текстового входа с настраиваемой размерностью и опциональной нормализацией. TheRouter прозрачно маршрутизирует запрос в Amazon Bedrock с полностью совместимым OpenAI синтаксисом.
curl https://api.therouter.ai/v1/embeddings \
-H "Authorization: Bearer $THEROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "amazon/titan-embed-v2",
"input": "Your text to embed here.",
"dimensions": 256,
"encoding_format": "float"
}'AWS анонсирует GA Titan V2 с настраиваемой размерностью (256, 512, 1024), нормализацией вектора‑единиц и поддержкой 100+ языков — цена $0.02 за миллион токенов, снижение в 5 раз против V1.
Команда AWS ML публикует развернутое руководство по Titan V2 с оценками MTEB (взв. среднее 60.37), мультиязычной производительностью и преимуществами для RAG‑оптимизации.
Amazon измерил, что векторы размерности 512 сохраняют ~99% ретривельной точности по сравнению с полными 1024‑мерными выходами, а векторы 256 размерности удерживают >97% точности. Это означает, что можно сократить объём хранения векторов на 75% (256→1024) или 50% (512→1024), пожертвовав лишь незначительным качеством извлечения. Для большинства RAG‑нагрузок размерность 256 обеспечивает оптимальный баланс стоимости и точности.
Хотя предобучение охватывает 100+ языков, AWS прямо отмечает, что кросс‑языковые запросы дадут 'неоптимальные результаты'. Модель превосходно работает в рамках одного языка из своего тренировочного набора; для надежного межъязыкового поиска рассмотрите OpenAI text‑embedding‑3‑large или Cohere embed‑v4, созданные для таких случаев.
Эмбеддинг‑модели обрабатывают относительно короткие тексты (≤8192 токенов) за запрос, поэтому пропускная способность ограничивается накладными расходами вычислений на запрос, а не capacity токен‑стриминга. Квоты RPM обеспечивают честное использование среди арендаторов. Для объёмного индексирования запросите увеличение квоты через AWS Support или используйте Bedrock Batch для оптимизированной по пропускной способности пачки эмбеддингов.
Titan V2 предлагает три основных улучшения: (1) настраиваемая размерность (256/512/1024) против фиксирован��ой 1536 у G1; (2) нормализация вектора‑единиц для улучшенной точности косинусной близости, особенно в RAG; (3) поддержка 100+ языков (предобучение) против 25+ у G1. Кроме того, цена за токен снижена в 5 раз ($0.02 против $0.10 на миллион) и при размерности 256 сохраняется >97% точности извлечения G1.
| источник | URL | получено | |
|---|---|---|---|
| Дата релиза | Amazon Bedrock docs ↗ | 2026-08-23 | проверено |
| Размерность выхода | docs.aws.amazon.com ↗ | 2026-08-23 | проверено |
| Нормализация векторов | docs.aws.amazon.com ↗ | 2026-08-23 | проверено |
| Поддерживаемые языки | docs.aws.amazon.com ↗ | 2026-08-23 | проверено |
| Макс. символов на входе | docs.aws.amazon.com ↗ | 2026-08-23 | проверено |
| Дата отсечения обучающих данных | — | — | неизвестно |
| Соотношение токен‑символ (английский) | docs.aws.amazon.com ↗ | 2026-08-23 | проверено |
| MTEB (Massive Text Embedding Benchmark) weighted average | AWS ML blog ↗ | 2026-08-23 | проверено |
| MTEB reranking | aws.amazon.com ↗ | 2026-08-23 | проверено |
| MIRACL multilingual | aws.amazon.com ↗ | 2026-08-23 | проверено |
| Amazon Titan Text Embeddings V2 теперь в Amazon Bedrock | AWS News Blog ↗ | 2026-08-23 | проверено |
| Начинаем работу с Amazon Titan Text Embeddings V2: новая SOTA модель эмбеддингов на Amazon Bedrock | AWS Machine Learning Blog ↗ | 2026-08-23 | проверено |
| Какие практические компромиссы точность–объём хранения между размерностями 256, 512 и 1024? | aws.amazon.com ↗ | 2026-08-23 | к проверке |
| Поддерживает ли Titan V2 кросс‑языковой поиск (например, запрос на немецком против корпуса на корейском)? | docs.aws.amazon.com ↗ | 2026-08-23 | к проверке |
| Почему Bedrock ограничивает эмбеддинг‑модели по RPM, а не по TPM? Каковы последствия для производительности? | docs.aws.amazon.com ↗ | 2026-08-23 | к проверке |
| Чем отличается Titan V2 от своего предшественника Titan G1 (V1)? | aws.amazon.com ↗ | 2026-08-23 | к проверке |