model_LLM(saiga_mistral_7b)_wikipedia

Used Libraries

Instructions

Installation of Dependencies

You can install the required dependencies either manually or using the requirements.txt file.

Install Manually

pip install torch
pip install numpy
pip install gradio
pip install huggingface-hub
pip install llama_index
pip install llama-index-llms-huggingface
pip install llama-index-embeddings-huggingface
pip install llama-index-embeddings-langchain
pip install llama-index-readers-wikipedia
pip install transformers
pip install sentencepiece
pip install bitsandbytes
pip install peft
pip install accelerate
pip install tokenizers
pip install langchain
pip install langchain_community
pip install langchain-huggingface
pip install pypdf
pip install wikipedia
pip install pyvis
pip install Ipython
pip install regex
pip install packaging
pip install pyyaml
pip install requests
pip install tqdm
pip install filelock
pip install safetensors

Install using the requirements.txt file

pip install -r requirements.txt

Описание программы

Создан граф знаний для чат-бота с использованием модели saiga_mistral_7b_lora в качестве основы. Модель была дообучена для взаимодействия с графом знаний, позволяющим боту отвечать на вопросы по заданной теме, используя информацию из Wikipedia, с применением подхода RAG (Retrieval-Augmented Generation).

Также был добавлен интерфейс для взаимодействия с готовым чат-ботом, а также возможность добавлять новые графы знаний, что расширяет функциональность чат-бота.

Модель была взята из Hugging-Face и использует saiga_mistral_7b_lora как базовую