Українські розробники представили LLM API – нову платформу, що дозволяє компаніям централізовано тестувати, порівнювати та керувати великими мовними моделями (такими як GPT, Claude, Gemini та іншими) в єдиному середовищі. Інструмент розроблений спеціально для стартапів, а також середнього і великого бізнесу з високим навантаженням на ШІ-системи.
Про це повідомляє DOU.
Головні можливості платформи
LLM API позиціюється як універсальна точка доступу, яка спрощує інтеграцію штучного інтелекту в корпоративні продукти та внутрішні процеси. На практиці це означає, що компанії отримують доступ до понад 400 моделей від різних провайдерів. Така можливість дозволить тестувати нові ШІ-рішення без необхідності вносити суттєві зміни у власну архітектуру чи інтеграції.
Платформа також дає змогу зручно керувати всіма API-ключами, доступами для команд та загальними витратами на ШІ. До того ж, завдяки підходу "LLM-as-judge" користувач зможе призначити одну преміальну ШІ-модель "суддею", яка автоматично оцінюватиме якість відповідей інших моделей за шкалою від 0 до 100.
Фінансова складова
Розробники LLM API наголошують на прозорості ціноутворення: сервіс не додає жодних прихованих комісій чи маржі поверх офіційних цін ШІ-провайдерів. Крім того, команда зазначає, що в окремих випадках може допомогти клієнтам отримати спеціальні цінові умови на використання моделей. Платформа вже доступна для користувачів на офіційному сайті.
Нагадаємо, раніше повідомлялося про запуск Lapathoniia – спеціалізованого сервісу для роботи з українськими великими мовними моделями. Його особливістю є те, що вся серверна інфраструктура фізично розміщена на території України – це важливий фактор для безпеки даних вітчизняного бізнесу.
