W tej sekcji przeprowadzimy Cię przez GPT-3 Sandbox, stworzone przez nas narzędzie typu open source, które udostępnia standardowy kod, który pomoże Ci przekształcić Twoje pomysły w rzeczywistość za pomocą zaledwie kilku linijek kodu Pythona. Pokażemy Ci, jak z niego korzystać i jak dostosować go do konkretnego zastosowania. Celem naszej piaskownicy jest umożliwienie Ci tworzenia fajnych aplikacji internetowych, bez względu na Twoje zaplecze techniczne. Jest zbudowany na platformie Streamlit.
W naszych przykładach używamy Visual Studio Code jako IDE, ale możesz użyć dowolnego IDE. Zanim zaczniesz, musisz zainstalować IDE. Upewnij się także, że używasz języka Python w wersji 3.7 lub nowszej. Możesz sprawdzić, którą wersję zainstalowałeś, uruchamiając następujące polecenie:
python –version
Sklonuj kod z tego repozytorium, otwierając nowy terminal w swoim IDE i używając następującego polecenia:
git clone https://github.com/Shubhamsaboo/kairos_gpt3
Po sklonowaniu repozytorium struktura kodu w Twoim IDE powinna wyglądać jak na rysunku
Wszystko, czego potrzebujesz do stworzenia i wdrożenia aplikacji internetowej, jest już obecne w kodzie. Wystarczy zmodyfikować kilka plików, aby dostosować piaskownicę do konkretnego przypadku użycia. Utwórz wirtualne środowisko Pythona, które nazwiesz env. Następnie możesz zainstalować wymagane zależności. Przejdź do folderu email_generacja. Twoja ścieżka powinna wyglądać następująco:
(env) kairos_gpt3\GPT-3 Sandbox\email_generation>
Stamtąd uruchom następujące polecenie:
(env) kairos_gpt3\GPT-3 Sandbox\email_generation> pip install -r
requirements.txt
Teraz możesz rozpocząć dostosowywanie kodu piaskownicy. Pierwszym plikiem, któremu musisz się przyjrzeć, jest Training_data.py. Otwórz ten plik i zastąp domyślny monit monitem szkoleniowym, którego chcesz użyć. Możesz używać GPT-3 Playground do eksperymentowania z różnymi podpowiedziami szkoleniowymi (zobacz rozdział 2 i nasz film, aby uzyskać więcej informacji na temat dostosowywania piaskownicy).
Możesz teraz dostosować parametry API (maksymalna liczba tokenów, silnik wykonawczy, temperatura, górne P, kara za częstotliwość, sekwencja zatrzymywania) zgodnie z wymaganiami przypadku użycia aplikacji. Zalecamy eksperymentowanie z różnymi wartościami parametrów dla danego monitu szkoleniowego w Playground, aby określić, które wartości będą najlepsze w Twoim przypadku użycia. Po uzyskaniu zadowalających wyników możesz zmienić wartości w pliku model_training_service.py. Otóż to! Twoja aplikacja internetowa oparta na GPT-3 jest już gotowa. Możesz to uruchomić
lokalnie za pomocą następującego polecenia:
(env) kairos_gpt3\GPT-3 Sandbox\email_generation> streamlit run
gpt_app.py
Sprawdź, czy działa, a następnie możesz wdrożyć aplikację w Internecie za pomocą funkcji udostępniania Streamlit, aby zaprezentować ją szerszej publiczności. Nasz film przedstawia pełny opis wdrożenia.
NOTATKA
Ta aplikacja działa według prostego przepływu pracy, w którym monit szkoleniowy otrzymuje pojedyncze dane wejściowe z interfejsu użytkownika i wyświetla odpowiedź. Jeśli Twoja aplikacja wymaga bardziej złożonego przepływu pracy, w którym monit szkoleniowy przyjmuje wiele danych wejściowych, dostosuj elementy interfejsu użytkownika, korzystając ze skryptów app1.py, app2.py i gpt_app.py.