https://github.com/hediyeorhan/chatbotproject_in_graphstructure

https://github.com/hediyeorhan/chatbotproject_in_graphstructure

chain chromadb gemini-api grader graph hallucination-grader huggingfaceembeddings langchain langgraph llm node tavily vectorstore websearch

Last synced: 3 months ago
JSON representation

• Host: GitHub
• URL: https://github.com/hediyeorhan/chatbotproject_in_graphstructure
• Owner: hediyeorhan
• License: mit
• Created: 2025-03-12T10:52:32.000Z (3 months ago)
• Default Branch: master
• Last Pushed: 2025-03-12T11:48:11.000Z (3 months ago)
• Last Synced: 2025-03-12T12:33:31.903Z (3 months ago)
• Topics: chain, chromadb, gemini-api, grader, graph, hallucination-grader, huggingfaceembeddings, langchain, langgraph, llm, node, tavily, vectorstore, websearch
• Language: Python
• Homepage:
• Size: 9.09 MB
• Stars: 0
• Watchers: 1
• Forks: 0
• Open Issues: 0
• Metadata Files:
  • Readme: README.md
  • License: LICENSE

Awesome Lists containing this project

README

        
# Chatbot Project in Graph Structure

Bu çalışmada Google AI tarafından geliştirilen yapay zekâ Gemini API'ı kullanılarak RAG ile bir chatbot projesi geliştirilmiştir. 

Projede __.env__ dosyasında içeriğinde şu veriler bulunmaktadır.

• GEMINI_API_KEY=

• LANGCHAIN_API_KEY=

• LANGCHAIN_TRACING_V2=true

• LANGCHAIN_PROJECT=PROJECT_NAME

• TAVILY_API_KEY=

Projede, Gemini AI ile birlikte Langchain ve Langgraph framework'ü kullanılmıştır. Langchain, büyük dil modelleri ile uygulama geliştirilmesinde kullanılmaktadır. Zincir yapısında LLM'lerin birbirleri ile ve insanlar ile konuşmasını sağlamaktadır. Doküman okuma-yükleme, chat geçmişi tutma, embedding işlemleri ve vektör database işlemleri için langchain framework'ünden faydalanılmıştır. LangChain, LLM'ler ile entegrasyon sağlayarak özelleştirilmiş sorgu yönetimi sunmaktadır. Langgraph ise agent oluşturma, chat hafızasını bellekte / veri tabanında tutma gibi hizmetler sunmaktadır.

 TAVILY 





Bu çalışmada, Tavily kullanılarak LLM modelinin web sayfası araştırmaları ile entegre bir şekilde bir agent yapısında çalışması sağlanmıştır.




Langgraph kullanılarak chat hafızası bir veri tabanı dosyasına kayıt edilmiştir. Bu sayede eski chat konuşmaları kaybolmamıştır ve geliştirilen model daha tutarlı sonuçlar / cevaplar üretmiştir.




Proje bir graph yapısında geliştirilmiştir. Bu graph yapısında öncelikle belirlediğimiz url adreslerinden çekilen veriler lokalde oluşturulan bir db'de vectorstore olarak tutulmaktaadır. Oluşturulan sistem öncelikle sorulan soruya ait uygun cevabı vectorstore içerisinde aramaktadır. Vectorstore'da bulunamayan cevaplar Tavily aracılığı ile websearch ile aranmaktadır. 

Çalışmada oluşturulan graph yapısı Şekil 1'de görülmektedir.













Şekil 1. Graph yapısı







Vectorstore veya websearch'ten elde edilen cevaplar grader fonksiyonlarına gönderilmektedir. Retrieval grader ile dokumandandaki bilgiler ve alınan cevap tutarlı mı kontrol edilmektedir. Kontrol sonucunda string olarak "yes" ve "no" cevapları dönmektedir. Halüsinasyon grader ile ise llm'in halüsinasyon görüp görmediği kontrol edilmektedir. Kontrol sonucunda binary "0" ve "1" olarak bir cevap dönmektedir. Halüsinasyon görülmüyorsa cevabın sorulan soru ile tutarlı olup olmadığı kontrolü yapılarak kullanıcıya bir sonuç dönülmektedir.

Bu aşamalar sonucunda kod Şekil 1'de graph yapısındaki gibi bir yol izlemektedir. Graph yapısındaki düz çizgiler koşulsuz edge, kesikli çizgiler ise koşula bağlı edge olarak tanımlanmaktadır. Burada tanımlanan koşullar grader ve router fonksiyonlarıdır.




Çalışmada vectorstore içerisindeki veri kullandığında izlenilen yol Şekil 2'de görülmektedir.













Şekil 2. Vectorstore üzerinden ilerlenilen senaryo








Vectorstore üzerinden elde edilen örnek çıktı Şekil 3'te görülmektedir.







Şekil 3. Vectorstore örnek çıktı








Çalışmada websearch ile elde edilen veri kullandığında izlenilen yol Şekil 4'te görülmektedir.







Şekil 4. Websearch üzerinden ilerlenilen senaryo







Websearch üzerinden elde edilen örnek çıktı Şekil 5'te görülmektedir.







Şekil 5. Websearch örnek çıktı


 KAYNAKLAR 


Udemy - Yapay Zekâ Uygulamaları: Langchain, RAG, LLM Orkestrasyonu - Atıl Samancıoğlu