Skip to content

Latest commit

 

History

History
50 lines (39 loc) · 9.95 KB

README.md

File metadata and controls

50 lines (39 loc) · 9.95 KB


Jak zacząć pracę z Bielikiem

Repozytorium zawiera skrypty oraz notatniki, które przedstawiają różne przykłady użycia LLM Bielik.

Wymagania:

  1. Python
    Aby móc pracować z kodem, zalecana jest instalacja Pythona w wersji >=3.9. Instrukcje instalacji można znaleźć na oficjalnej stronie Pythona:
    https://www.python.org/downloads/

  2. Jupyter Notebook
    Zalecana jest praca w środowisku Jupyter Notebook. Instrukcje instalacji i uruchomienia Jupyter Notebook:
    https://jupyter.org/install
    Do każdego notebooka załączony jest link prowadzący do przestrzeni Google Colab zawierającej kod z danym przykładem użycia.

Rozpoczęcie pracy

  1. Sklonuj repozytorium na swój lokalny komputer:

    git clone https://github.com/speakleash/Bielik-how-to-start.git

  2. Uruchom Jupyter Notebook i otwórz wybrany notatnik z przykładami.
  3. W przypadku przykładów znajdujących się osobno w folderach (draive, contract_enhancer) należy uprzednio zainstalować wymagane zależności:

    pip install -r requirements.txt

W przypadku problemów lub pytań, sprawdź sekcję "Issues" w repozytorium lub skontaktuj się z autorami projektu.

Examples

Info: Przykłady zawierają odniesienia do wersji V1 oraz V2. W przyszłości powinno pojawić sie więcej zaadaptowanych przykładów do najnowszej wersji Bielika

Notebook/code Bielik version Description
Bielik_(4_bit)_RAG.ipynb
Bielik_2_(4_bit)_RAG.ipynb		 V1: V1 Open In Colab
V2: V2 Open In Colab		 RAG with HuggingFace transformers
Bielik_(4_bit)_simple_examples.ipynb
Bielik_2_(4_bit)_simple_examples.ipynb		 V1: V1 Open In Colab
V2: V2 Open In Colab		 Work with text, docs, inference
Bielik_Streamlit_simple_app_tunnel_GGUF_Q4.ipynb V1: Open In Colab Inference with streaming using Streamlit with Bielik (GGUF Q4)
Bielik_Data_Generation_and_Fewshot_Prompting_(4_bit).ipynb V1: Open In Colab Data Generation, Few-shot prompting
Bielik_Ollama_integration.ipynb
Bielik_2_Ollama_integration.ipynb		 V1: Open In Colab
V2: Open In Colab		 Ollama CLI/API tutorial
Bielik_Streamlit_simple_app_tunnel_4bit.ipynb V1: Open In Colab Inference with streaming using Streamlit with Bielik 4bit
Bielik_Instruct_QUANT_Tests.ipynb V1: Open In Colab Experiment with various types of model quantization
Bielik_2_(4_bit)_JSON.ipynb.ipynb V2: Open In Colab extracion & JSON structurization
Bielik_2_(4_bit)_sentiment_analysis.ipynb V2: Open In Colab Sentiment analysis of and article or comment
Bielik_(4_bit)_Text_Improvement.ipynb V2: Open In Colab Text improvement
Bielik_2_(AWQ)_structured_output.ipynb V2: Open In Colab Structured output using vLLM and Outlines
draive V2: GitHub Inference using draive lib
contract_enhancer V2: GitHub RAG for contract enhancement