https://github.com/zethearc/llama_2-eduai
EDUAI es un asistente virtual desarrollado por las universidades Yachay Tech y UIDE en Ecuador. Su propósito es brindar ayuda a estudiantes en matemáticas, tanto de colegios como de universidades. Actúa como un asistente, no como un usuario. Responde desde su función específica.
https://github.com/zethearc/llama_2-eduai
chatbot langchain llama2 llamacpp llm pinecone retrieval-augmented-generation
Last synced: 6 months ago
JSON representation
EDUAI es un asistente virtual desarrollado por las universidades Yachay Tech y UIDE en Ecuador. Su propósito es brindar ayuda a estudiantes en matemáticas, tanto de colegios como de universidades. Actúa como un asistente, no como un usuario. Responde desde su función específica.
- Host: GitHub
- URL: https://github.com/zethearc/llama_2-eduai
- Owner: Zethearc
- Created: 2024-01-28T17:22:41.000Z (over 2 years ago)
- Default Branch: main
- Last Pushed: 2024-02-04T04:17:38.000Z (over 2 years ago)
- Last Synced: 2025-02-14T13:18:12.510Z (over 1 year ago)
- Topics: chatbot, langchain, llama2, llamacpp, llm, pinecone, retrieval-augmented-generation
- Language: Python
- Homepage: https://www.deeparcresearch.com/research
- Size: 33.2 KB
- Stars: 1
- Watchers: 1
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
Awesome Lists containing this project
README
# Clone the Project
```bash
git clone https://github.com/Zethearc/LLAMA_2-EDUAI.git
```
# Set Up the Development Environment
## Install virtualenv (if not installed)
```bash
pip install virtualenv
```
## Create and activate a virtual environment
```bash
cd LLAMA_2-EDUAI
virtualenv venv
source venv/bin/activate # On Unix/Linux systems
# .\venv\Scripts\activate # On Windows
```
## Install project dependencies
```bash
pip install -r requirements.txt
```
## Install the CUDA toolkit (if using an NVIDIA GPU)
```bash
sudo apt install nvidia-cuda-toolkit
```
## Verify the presence of an NVIDIA GPU
```bash
nvidia-smi
nvcc --version
```
## Install llamacpp
```bash
git clone --recursive -j8 https://github.com/abetlen/llama-cpp-python.git
cd llama-cpp-python
export FORCE_CMAKE=1
export CMAKE_ARGS="-DLLAMA_CUBLAS=ON"
pip install --upgrade --force-reinstall llama-cpp-python --no-cache-dir
```
## Perform a Linux/Ubuntu upgrade
```bash
sudo apt-get update
sudo apt-get install build-essential
```
# Run the Application
```bash
python3 app/main.py
```