Skip to content

Repository files navigation

🦙 TinyLlama ile Yerel RAG (Retrieval-Augmented Generation)

Bu proje, internet bağlantısına ihtiyaç duymadan yerel bilgisayar üzerinde çalışan, belge tabanlı bir soru-cevap asistanıdır. TinyLlama-1.1B dil modeli ve LangChain çerçevesi kullanılarak geliştirilmiştir.

🚀 Özellikler

  • Tamamen Yerel: Verileriniz buluta gitmez, tamamen kendi bilgisayarınızda işlenir.
  • Kaynak Dostu: Küçük boyutlu TinyLlama modeli kullanıldığı için standart bilgisayarlarda (Mac M1/M2 dahil) çalışır.
  • Türkçe Yanıt: Model İngilizce olsa bile, özel Prompt Mühendisliği ile Türkçe yanıt üretir.
  • Vektör Hafıza: FAISS kullanılarak veriler hızlı erişim için vektör veritabanında saklanır.

🛠️ Kurulum

  1. Depoyu klonlayın veya indirin.
  2. Gerekli kütüphaneleri yükleyin:
    pip install -r requirements.txt# local-rag-tinyllama

About

A fully local, offline RAG (Retrieval-Augmented Generation) system built with TinyLlama-1.1B, LangChain, and FAISS. Capable of cross-lingual (English/Turkish) document analysis.

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages