https://github.com/sofiakhutsieva/llm_experiments

Эксперименты с LLM (инференс, rag, дообучение)
https://github.com/sofiakhutsieva/llm_experiments

langchain llamacpp llm mistral peft rag trl

Last synced: 27 days ago
JSON representation

Эксперименты с LLM (инференс, rag, дообучение)

• Host: GitHub
• URL: https://github.com/sofiakhutsieva/llm_experiments
• Owner: SofiaKhutsieva
• Created: 2024-03-12T12:49:17.000Z (10 months ago)
• Default Branch: main
• Last Pushed: 2024-03-23T08:56:35.000Z (10 months ago)
• Last Synced: 2024-12-22T04:27:02.447Z (27 days ago)
• Topics: langchain, llamacpp, llm, mistral, peft, rag, trl
• Language: Jupyter Notebook
• Homepage:
• Size: 307 KB
• Stars: 0
• Watchers: 1
• Forks: 0
• Open Issues: 0
• Metadata Files:
  • Readme: README.md

Awesome Lists containing this project

README

        
# LLM_experiments

- llm_llama_cpp_ner.ipynb - Инференс через LlamaCpp обычного промпта и промта под задачу NER. Модели gguf llama и mistral.

- llm_llama_cpp_rag_qa.ipynb - QA по документу с помощью RAG. Модель - gguf mistral.

- llm_mistral_finetune_ner.ipynb - Дообучение модели mistral под задачу NER.