https://github.com/wu4ngg/ai_for_business_docs
Docs for executing Prompt flow locally and on Docker.
https://github.com/wu4ngg/ai_for_business_docs
Last synced: 2 months ago
JSON representation
Docs for executing Prompt flow locally and on Docker.
- Host: GitHub
- URL: https://github.com/wu4ngg/ai_for_business_docs
- Owner: wu4ngg
- Created: 2024-09-10T03:15:01.000Z (9 months ago)
- Default Branch: master
- Last Pushed: 2024-09-12T04:39:42.000Z (9 months ago)
- Last Synced: 2024-09-12T14:11:14.941Z (9 months ago)
- Size: 228 KB
- Stars: 0
- Watchers: 1
- Forks: 0
- Open Issues: 0
-
Metadata Files:
- Readme: README.md
Awesome Lists containing this project
README
 
***Ko có up source code lên đây tại sợ leak***
# Prompt flow AI For Business
Đây là phần Prompt flow AI cho dự án AI For Business của ATS. README này bao gồm yêu cầu dự án, và cách execute và chạy test.\
## Yêu cầu phần mềm
### Python 3
Phiên bản tối thiểu: 3.12.5 (Có thể sử dụng phiên bản mới nhất).\
https://www.python.org/downloads/ \
Phải link .venv trước mới xài được pip
```
cho windows
> python -m .\.venv
```
### Visual Studio Code
Chắc ai cũng có rồi =))\
https://code.visualstudio.com/
### Prompt flow for Visual Studio Code
Cái này cung cấp giao diện cho các file Promptflow, cụ thể `flow.dag.yaml`\
(Có thể vào tab Extensions của Visual Studio Code, search promptflow và tải về kết quả đầu tiên)\
https://marketplace.visualstudio.com/items?itemName=prompt-flow.prompt-flow
### Pycharm (Optional)
Mạnh hơn Visual Code nhưng phải nôn tiền ra cho JetBrains\
https://www.jetbrains.com/pycharm/download/
## Tải prompt flow về từ Azure
1. Vào Azure ML Studio
2. Ở thanh bên, vào Prompt flow
3. Trên danh sách, chọn AI_for_Business
4. Chọn tải về như trên hình
## Chuẩn bị debug
### 0. Link .venv và requrements.txt
Tạo requrements.txt
```
promptflow
azure-storage-blob
azureml.core
pyodbc
promptflow-tools
openpyxl
```
Phải link .venv trước mới xài được pip
```
cho windows
> python -m .\.venv
```
### 1. Cài đặt các dependencies
Terminal > New Terminal
```
> pip install -r requrements.txt
```
### 2. Chuẩn bị prompt flow
1. Thanh bên > Logo Promptflow
2. Đợi hơi lâu với lại máy nào RAM <16gb sẽ lag
3. Khi promotflow load xong thì ở khung FLOWS, chọn thư mục ".."
Sau đó chọn AI_for_Business và ấn nút "Open"\
\
Nó sẽ ra giao diện như thế này:
4. Nếu nó kêu install dependencies thì chạy lệnh
```
> pip install promptflow promptflow-tools
```
5. Sau đó quay lại flow
### 3. Chạy promptflow
1. Vẫn là ở Logo Promptflow
2. Ấn nút "Test"
3. Chọn "Run in Interactive Mode (Text Only)"
## Tạo và chạy Docker Image (Nếu có thay đổi code)
### Tạo Dockerfile
1. Thanh bên > Logo Promptflow
2. Khi promotflow load xong thì ở khung FLOWS, chọn thư mục ".."
3. Sau đó chọn AI_for_Business và ấn nút "Build"
4. Chọn Build As Docker
5. Chọn folder docker (k có thì tạo)
6. Ấn nút "Create Dockerfile"
### Đăng nhập docker hub
1. Gõ lệnh
```
docker login
```
và nhập email + mật khẩu
2. Ấn enter
### Build docker image
1. Terminal > New Terminal
2. Chạy lệnh
> [!IMPORTANT]
> Bắt buộc đặt tên image là triquang/promptflow để push lên docker hub.
```
cd docker
docker build . -t triquang/promptflow
docker run -p 8080:8080 -e OPEN_AI_CONNECTION_API_KEY=="" triquang/promptflow
```
(Docs của MS)
# Use Functions with Chat Models
This flow covers how to use the LLM tool chat API in combination with external functions to extend the
capabilities of GPT models.
`functions` is an optional parameter in the Chat Completion API which can be used to provide function
specifications. The purpose of this is to enable models to generate function arguments which adhere to the provided
specifications. Note that the API will not actually execute any function calls. It is up to developers to execute
function calls using model outputs.
If the `functions` parameter is provided then by default the model will decide when it is appropriate to use one of the
functions. The API can be forced to use a specific function by setting the `function_call` parameter to
`{"name": ""}`. The API can also be forced to not use any function by setting the `function_call`
parameter to `"none"`. If a function is used, the output will contain `"finish_reason": "function_call"` in the
response, as well as a `function_call` object that has the name of the function and the generated function arguments.
You can refer to openai sample for more details.
## What you will learn
In this flow, you will learn how to use functions with LLM chat models and how to compose function role message in prompt template.
## Tools used in this flow
- LLM tool
- Python tool
## References
- OpenAI cookbook example
- OpenAI function calling announcement
- OpenAI function calling doc
- OpenAI function calling API