ФУНКЦІОНАЛЬНІ ОБОВ’ЯЗКИ
- проєктувати архітектуру LLM-, RAG- та агентних систем відповідно до вимог клієнтів з урахуванням якості, вартості, затримки (latency) та безпеки даних;
- обирати технологічний стек і моделі: API-провайдери або open-source-рішення, хмарну інфраструктуру або локальне розгортання (on-premise), обґрунтовуючи переваги й компроміси кожного підходу;
- оптимізувати LLM-рішення за допомогою fine-tuning, quantization, distillation, self-hosted inference та ефективного використання GPU-ресурсів;
- розробляти голосових асистентів реального часу з підтримкою streaming, barge-in і turn-taking, забезпечуючи мінімальну затримку — у межах сотень мілісекунд;
- вибудовувати процеси оцінювання якості (evals), моніторингу та впровадження механізмів безпеки (guardrails) для продакшн-рішень;
- оцінювати технічні задачі з урахуванням бізнес-потреб і презентувати технічні рішення бізнес-замовникам;
- менторити Middle- та Junior-фахівців, проводити код-рев’ю й технічні співбесіди.
ВИМОГИ ДО КАНДИДАТІВ
- від 5 років досвіду в розробці програмного забезпечення або машинному навчанні (ML), з яких щонайменше 2 роки — досвід роботи з LLM-системами в продакшн-середовищі;
- досвід реалізації кількох завершених RAG- або агентних проєктів, за архітектуру яких ви відповідали;
- практичний досвід оптимізації LLM-моделей і рішень на їхній основі;
- глибоке розуміння принципів роботи трансформерів, ембедингів, пошуку та ранжування;
- досвід проєктування масштабованих бекенд-систем, зокрема роботи з чергами повідомлень, кешуванням, observability та хмарною інфраструктурою;
- розуміння принципів безпеки LLM-систем, зокрема ризиків prompt injection і витоку даних;
- глибокі знання класичного машинного навчання (ML).
