Семь занятий по локальному RAG на Python от файла до ответа с источниками
Habr ·
Сделал бесплатный курс для тех кто хочет научиться создавать локальные ИИ приложения на Python. За семь занятий разберём помощника, который ищет по вашим документам, отвечает на вопросы и показывает исходные фрагменты для проверки. Чат с документами выглядит просто. Положили файлы в папку, задали вопрос, получили несколько складных предложений. Но стоит ответу разойтись с текстом — и хочется увидеть всю кухню: что нашёл поиск, что отправили модели и откуда она взяла последнюю фразу. В local‑docs‑ai вокруг этой цепочки собран короткий курс. Семь занятий, одна программа. Она читает Markdown и TXT, ищет подходящие фрагменты через локальную embedding‑модель, передаёт их языковой модели и показывает исходный текст с именами файлов и номерами строк. Есть терминальные команды и окно в браузере. Маршрут рассчитан на человека, которому знакомы функции, списки и словари Python. Сначала запускаем готовый пример. Затем разбираем его по частям, меняем документы и учимся различать два сбоя: поиск промахнулся или модель неверно пересказала найденное. В этой статье пройдём весь механизм; код и отдельные занятия лежат в одном репозитории. Читать далее
Сделал бесплатный курс для тех кто хочет научиться создавать локальные ИИ приложения на Python. За семь занятий разберём помощника, который ищет по вашим документам, отвечает на вопросы и показывает исходные фрагменты для проверки. Чат с документами выглядит просто. Положили файлы в папку, задали вопрос, получили несколько складных предложений. Но стоит ответу разойтись с текстом — и хочется увидеть всю кухню: что нашёл поиск, что отправили модели и откуда она взяла последнюю фразу. В local‑docs‑ai вокруг этой цепочки собран короткий курс. Семь занятий, одна программа. Она читает Markdown и TXT, ищет подходящие фрагменты через локальную embedding‑модель, передаёт их языковой модели и показывает исходный текст с именами файлов и номерами строк. Есть терминальные команды и окно в браузере. Маршрут рассчитан на человека, которому знакомы функции, списки и словари Python. Сначала запускаем готовый пример. Затем разбираем его по частям, меняем документы и учимся различать два сбоя: поиск промахнулся или модель неверно пересказала найденное. В этой статье пройдём весь механизм; код и отдельные занятия лежат в одном репозитории. Читать далее