Проект
О проекте
О проекте
О проекте
Опыт и знания, которыми топовые специалисты делятся на IT-мероприятиях, часто остаются только в памяти слушателей или в виде многочасовых записей трансляций на YouTube. Если доклад не становится статьей, информация теряется, и найти её позже практически невозможно.
Чтобы бережно сохранять, популяризировать и делать доступным лучший контент в индустрии, ML-инженеры Doubletapp создали сервис, обученный на материалах агентских конференций. Он может ответить практически на любой вопрос из сферы управления, финансов, организации бизнес-процессов, маркетинга, продаж, основанный на мнениях признанных специалистов.
Как выстроить отдел маркетинга в IT-компании? Из каких специалистов состоит идеальный отдел продаж? Как CEO научиться делегировать задачи? Обо всем этом расскажет Диджитал Гуру.
Как работает бот?
Как работает бот?
Как работает бот?
1. Зарегистрируйтесь в боте.
2. Задайте вопрос и подождите несколько секунд.
3. На экране вы увидите текст ответа и ссылку на видео доклада, из которого извлечена информация.
4. Переходите по ссылке и смотрите доклад целиком.
Результат
Результат
Результат
Презентация проекта с успехом прошла на отраслевом IT-ивенте AGD в Екатеринбурге. Диджитал Гуру помогал участникам быстро находить информацию по темам текущих докладов с предыдущих конференций, знакомиться с более ранними докладами спикеров и повышать эффективность нетворкинга. Сервисом воспользовались 17,6% участников конференции, задали 121 вопрос.
Предлагая на конференциях свои ML-сервисы, мы стремимся повысить в отрасли интерес и осведомленность в сфере больших языковых моделей, а также продемонстрировать свою экспертность в этом направлении и ассоциироваться в индустрии с этим комплексом работ.
Development
Python
ChatGPT
Chroma DB
LangChain
Наша суперкоманда
ФёдорBackend
ПавелDesignРеализация
Реализация
Реализация
Решение представляет собой RAG-систему.
RAG – Retrieval augmented generation — технология, которая позволяет находить релевантную информацию в хранилище данных и генерировать текст с помощью языковой модели. Подробнее о RAG читайте здесь.
Как Диджитал Гуру находит ответы в своей базе знаний?
1. Мы собрали несколько сотен видеозаписей докладов за последние 2 года.
2. Доклады транскрибировали и нарезали на небольшие куски (чанки)
3. Чанки прогнали через модель, которая выделяет из них смысловые признаки и кладет в векторную базу данных. Такая модель называется эмбеддер, а вектор признаков — эмбеддинг.
4. Упаковали сервис в web-интерфейс и телеграм-бот.
5. Теперь пользователь может написать боту в чате свой вопрос.
6. Вопрос превращается в смысловой вектор (эмбеддинг).
7. Находим куски информации, которые близки к вектору вопроса.
8. Подбираем 5 докладов, в которых больше всего близких кусков.
9. Отправляем в LLM промпт, который в сильно упрощенном виде выглядит так: «Вот вопрос, вот контекст, где нужно найти ответ. Найди и напиши ответ».
10. Получаем ответ и отправляем его пользователю.
