Repozytorium z kodem źródłowym z webinaru Jak połączyć AI z własnymi danymi? RAG w praktyce! Nagranie ze spotkania dostępne jest tutaj: https://www.youtube.com/watch?v=OvyRmJaCnRo
Szkolenie AI Devs #2 zaczynamy 23 października. Dołącz do nas na https://aidevs.pl
- Kod źródłowy jest przeznaczony wyłącznie do celów edukacyjnych. Nie należy go używać w środowisku produkcyjnym.
- Kod nie jest zoptymalizowany do pracy z dużymi zestawami danych.
- Przed uruchomieniem kodu, ustaw twardy limit $ na swoim koncie
- Podczas webinaru kod był uruchamiany z modelem GPT-4. W repozytorium domyślny model to GPT-3.5-Turbo, którego skuteczność jest niższa. Jeśli masz dostęp do GPT-4, zamień w kodzie parametr modelName na 'gpt-4'
- Pobierz repozytorium na swój komputer
- Dodaj swój klucz OpenAI API do pliku .env
- Zainstaluj zależności poleceniem
bun install - Uruchamiaj poszczególne skrypty poleceniem
bun nazwa_pliku.ts
Uruchominie 07_llama.ts wymaga zainstalowania modelu LLaMA2 na swoim komputerze.
- Zainstaluj https://ollama.ai
- Pobierz i uruchom model, np. llama-2 poleceniem
ollama run llama2 - Uruchom skrypt poleceniem
bun 07_llama.ts
Więcej na temat pracy z dużymi modelami językowymi i łączenia ich z kodem, znajdziesz w drugiej edycji AI_Devs. Dołącz do nas na https://aidevs.pl