Мнение Программного комитета о докладе
Вы тоже считаете, что использование LLM-моделей — дорогое удовольствие и требует штат выделенных специалистов? Галина расскажет, в какой части вы ошибаетесь и как можно оптимизировать затраты.
Доклад принят в программу конференции
Вы тоже считаете, что использование LLM-моделей — дорогое удовольствие и требует штат выделенных специалистов? Галина расскажет, в какой части вы ошибаетесь и как можно оптимизировать затраты.
Мы запускаем AI-ассистента для продавца в чатах на Авито, который отвечает на популярные вопросы покупателей за продавцов. Для ответа используются структурированные данные из объявления, а также поиск ответа в текстовом описании как раз через LLM.
Для каждой тематики, по которой обращается покупатель, нужно обучить LLM таким образом, чтобы ответы были релевантны и помогали принять покупателю решение о покупке. Пилотный запуск показал, что ответы по такой схеме действительно упрощают диалог и покупатели стали статзначимо больше покупать, поэтому решили перейти к масштабированию на большее количество кейсов.
Но был нюанс — первые модели мы учили квартал и нужно было кратно ускориться. Для этого мы отошли от первоначального процесса взаимодействия, в котором участвовал только продакт и LLM-инженер, выполняющий весь пайплайн обучения, к схеме, в которой продуктовая команда забрала на себя написание промптов и подготовку обучающего датасета.
В докладе я расскажу, как мы с нуля научились в команде готовить промпты и правильные датасеты и ускорили обучение моделей в несколько раз.
Product Unit Lead, Messenger&Bot automation, Avito.
Ex-Product Lead, VK. Запустила умного помощника «Марусю» в социальной сети ВКонтакте и почте Mail.ru.
7 лет в продукте и 5 в бизнес-анализе. Автор нескольких курсов по управлению продуктом, ментор для продактов.
Ведет канал про рост и развитие в больших IТ-компаниях https://t.me/poltora_producta
Передача знаний между отделами
Профессиональная конференция по управлению знаниями
Варианты участия
Офлайн-участие
Стоимость конференции постоянно растет — чем ближе к мероприятию, тем дороже.
Текущая стоимость билета — 37000 ₽
Онлайн-участие
Все потоки с докладами (но не потоки с митапами) будут транслироваться нами онлайн.
Текущая стоимость билета — 18500 ₽
Корпоративное участие (от 10 билетов)
Для заказа от 10 билетов на очное или онлайн-участие, свяжитесь с нами по partners@ontico.ru.
Передумали покупать?
Расскажите, почему
Благодарим вас за ответ!
Профессиональная конференция по управлению знаниями
Профессиональная конференция по управлению знаниями
Видео, доступные к покупке
Видео AiConf 2024
26 и 27 сентября 2024
37500 ₽
Видео FrontendConf 2024
30 сентября 2024 и 1 октября 2024
37500 ₽
Видео Industrial++ 2024
21 и 22 октября 2024
37500 ₽
Видео TeamLead Conf++ 2024
27 и 28 ноября 2024
37500 ₽
Видео HighLoad++ 2024
2 и 3 декабря 2024
45000 ₽
Видео DevOpsConf 2025
7 и 8 апреля 2025
52500 ₽