Консультирование по проекту создания чата по документам на основе открытых языковых моделей (для личных целей)
Существует идея создать небольшой сервис для личного использования (предполагаю, что на основе PrivateGPT https://privategpt.dev/ или каких-то похожих по функционалу проектов с открытым кодом), которые должны уметь вести диалог на основании данных из предварительно загруженных документов, прежде всего научных статей, выдавая при ответе ссылки на документы из которых была получена информация для соответствующего ответа. В качестве языковой модели планируется локальное использование какой-либо модели с открытым исходным кодом, например llama3. Читать дальше...