Piaskownica GPT-3 obsługiwana przez Streamlit

https://aie24.pl/

W tej sekcji przeprowadzimy Cię przez GPT-3 Sandbox, stworzone przez nas narzędzie typu open source, które udostępnia standardowy kod, który pomoże Ci przekształcić Twoje pomysły w rzeczywistość za pomocą zaledwie kilku linijek kodu Pythona. Pokażemy Ci, jak z niego korzystać i jak dostosować go do konkretnego zastosowania. Celem naszej piaskownicy jest umożliwienie Ci tworzenia fajnych aplikacji internetowych, bez względu na Twoje zaplecze techniczne. Jest zbudowany na platformie Streamlit. Aby dołączyć do tej książki, stworzyliśmy także serię filmów zawierających instrukcje krok po kroku dotyczące tworzenia i wdrażania aplikacji GPT-3. Dostęp do nich można uzyskać, skanując kod QR pokazany na rysunku . Postępuj zgodnie z nimi podczas czytania .

W naszych przykładach używamy Visual Studio Code jako IDE, ale możesz użyć dowolnego IDE. Zanim zaczniesz, musisz zainstalować IDE. Upewnij się także, że używasz języka Python w wersji 3.7 lub nowszej. Możesz sprawdzić, którą wersję zainstalowałeś, uruchamiając następujące polecenie:

 python –version

Sklonuj kod z tego repozytorium, otwierając nowy terminal w swoim IDE i używając następującego polecenia:

git clone https://github.com/Shubhamsaboo/kairos_gpt3

Po sklonowaniu repozytorium struktura kodu w IDE powinna wyglądać jak na rysunku

Wszystko, czego potrzebujesz do stworzenia i wdrożenia aplikacji internetowej, jest już obecne w kodzie. Wystarczy zmodyfikować kilka plików, aby dostosować piaskownicę do konkretnego przypadku użycia. Utwórz wirtualne środowisko Pythona, które nazwiesz env. Następnie możesz zainstalować wymagane zależności. Przejdź do folderu email_generacja. Twoja ścieżka powinna wyglądać następująco:

(env) kairos_gpt3\GPT-3 Sandbox\email_generation>

Stamtąd uruchom następujące polecenie:

(env) kairos_gpt3\GPT-3 Sandbox\email_generationcja> pip install -r

requirements.txt

Teraz możesz rozpocząć dostosowywanie kodu piaskownicy. Pierwszym plikiem, któremu musisz się przyjrzeć, jest Training_data.py. Otwórz ten plik i zastąp domyślny monit monitem szkoleniowym, którego chcesz użyć. Możesz używać GPT-3 Playground do eksperymentowania z różnymi podpowiedziami szkoleniowymi (zobacz rozdział 2 i nasz film, aby uzyskać więcej informacji na temat dostosowywania piaskownicy).

Możesz teraz dostosować parametry API (maksymalna liczba tokenów, silnik wykonawczy, temperatura, górne P, kara za częstotliwość, sekwencja zatrzymywania) zgodnie z wymaganiami przypadku użycia aplikacji. Zalecamy eksperymentowanie z różnymi wartościami parametrów dla danego monitu szkoleniowego w Playground, aby określić, które wartości będą najlepsze w Twoim przypadku użycia. Po uzyskaniu zadowalających wyników możesz zmienić wartości w pliku model_training_service.py. Otóż ​​to! Twoja aplikacja internetowa oparta na GPT-3 jest już gotowa. Możesz uruchomić go lokalnie za pomocą następującego polecenia:

(env) kairos_gpt3\GPT-3 Sandbox\email_generation> streamlit run

gpt_app.py

Sprawdź, czy działa, a następnie możesz wdrożyć aplikację w Internecie za pomocą udostępniania Streamlit, aby zaprezentować ją szerszej publiczności. Nasz film przedstawia pełny opis wdrożenia.

NOTATKA

Ta aplikacja działa według prostego przepływu pracy, w którym monit szkoleniowy otrzymuje pojedyncze dane wejściowe z interfejsu użytkownika i wyświetla odpowiedź. Jeśli Twoja aplikacja wymaga bardziej złożonego przepływu pracy, w którym monit szkoleniowy przyjmuje wiele danych wejściowych, dostosuj elementy interfejsu użytkownika, korzystając ze skryptów app1.py, app2.py i gpt_app.py. Szczegółowe informacje można znaleźć w dokumentacji Streamlit.

W następnych kilku rozdziałach przyjrzymy się różnym zastosowaniom GPT-3 i temu, jak na jego podstawie buduje się odnoszące sukcesy firmy.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *