GPT-3, będący bardzo biegły w interakcjach językowych, jest oczywistym wyborem w celu ulepszenia istniejącego doświadczenia chatbota. Podczas gdy wiele aplikacji zapewnia użytkownikom rozrywkę za pomocą chatbotów AI, takich jak Philosopher AI i Talk Kanye, dwie firmy w szczególności wykorzystują tę funkcję w swoich aplikacjach biznesowych: Quickchat i Replika. Quickchat jest dobrze znany ze swojego chatbota AI, Emerson AI, dostępnego za pośrednictwem Telegram Messenger i aplikacji mobilnej Quickchat. Emerson AI posiada szeroką, ogólną wiedzę światową, w tym dostęp do nowszych informacji niż te wykorzystywane do szkolenia GPT-3; obsługuje wiele języków; potrafi prowadzić spójną rozmowę; i miło się z nim rozmawia. Piotr Grudzień i Dominik Posmyk, współzałożyciele Quickchata, od początku byli podekscytowani GPT-3 i pełni pomysłów na wykorzystanie go w nowym produkcie. Podczas wczesnych eksperymentów z API OpenAI stale wracali do koncepcji „ewoluujących interfejsów między maszynami i ludźmi”. Grudzień wyjaśnia, że skoro interakcje między człowiekiem a komputerem stale ewoluują, logicznym kolejnym krokiem będzie język naturalny: w końcu ludzie wolą komunikować się poprzez rozmowę. Doszli do wniosku, że GPT-3 wydaje się mieć potencjał umożliwiający korzystanie z czatu z komputerem na poziomie zbliżonym do ludzkiego. Grudzień twierdzi, że żaden z założycieli nie budował wcześniej konwencjonalnej aplikacji typu chatbot. Podejście do zadania z „nastawieniem początkującego” pomogło im zachować świeżość i otwartość na temat rozwiązania problemu. W przeciwieństwie do innych firm zajmujących się chatbotami, nie zaczynali od ambicji zostania najlepszym narzędziem obsługi klienta lub marketingu. Zaczęli od tego: „Jak nakłonić człowieka do rozmowy z maszyną w sposób budzący podziw i będący najlepszą rzeczą, jakiej kiedykolwiek próbowali?” Chcieli stworzyć chatbota, który nie tylko realizuje proste funkcje, takie jak zbieranie danych klientów i udzielanie odpowiedzi, ale jest także gotowy odpowiadać na nieskryptowane pytania klientów lub prowadzić przyjemną pogawędkę. „Zamiast mówić «nie wiem»” – dodaje Grudzień, może „powrócić do konwersacyjnego API i podtrzymać rozmowę”. Posmyk dodaje: „Naszą misją jest wyposażenie ludzi w sztuczną inteligencję, a nie jej zastępowanie. Wierzymy, że w ciągu następnej dekady sztuczna inteligencja przyspieszy cyfryzację kluczowych branż, takich jak edukacja, prawo i [i] opieka zdrowotna, a także zwiększy naszą produktywność w pracy i [w] życiu codziennym”. Aby rzucić okiem na tę dalekosiężną misję, stworzyli Emerson AI, inteligentną aplikację chatbota ogólnego przeznaczenia obsługiwaną przez GPT-3. Chociaż firma Emerson AI ma rosnącą społeczność użytkowników, jej prawdziwym celem jest zaprezentowanie możliwości chatbotów obsługujących GPT-3 i zachęcenie użytkowników do współpracy z Quickchat nad wdrożeniem takiej osobowości w swoich firmach. Oferta produktów Quickchat to uniwersalna sztuczna inteligencja do konwersacji, która może rozmawiać na dowolny temat. Klienci, głównie firmy o ugruntowanej pozycji, mogą dostosować chatbota, dodając dodatkowe informacje specyficzne dla ich produktu (lub dowolnego tematu, jaki chcą). Quickchat doczekał się różnorodnych zastosowań, takich jak automatyzacja typowych pytań dotyczących obsługi klienta, rozwiązywanie problemów oraz wdrażanie persony AI, aby pomóc użytkownikom przeszukiwać wewnętrzną bazę wiedzy firmy. W odróżnieniu od typowych dostawców usług chatbota, Quickchat nie buduje żadnych drzew konwersacji, sztywnych scenariuszy ani nie musi uczyć chatbota, jak odpowiadać na pytania w określony sposób. Zamiast tego, wyjaśnia Grudzień, klienci postępują zgodnie z prostym procesem: „Kopiujesz i wklejasz tekst zawierający wszystkie informacje, których ma używać Twoja sztuczna inteligencja, [i] klikasz przycisk ponownego szkolenia; [przyswojenie wiedzy] zajmuje kilka sekund i to wszystko. Chatbot przeszkolony na Twoich danych jest gotowy do przeprowadzenia rozmowy testowej. Zapytany o kompromisy pomiędzy modelami open source a API OpenAI, Grudzień odpowiada, że „OpenAI API jest przyjemne i łatwe w użyciu, ponieważ nie trzeba się martwić infrastrukturą, opóźnieniami ani szkoleniem modeli. To po prostu wywołanie API i uzyskanie odpowiedzi. Jest wyjątkowo niezawodny.” Uważa jednak, że za jakość płaci się dość wysoką cenę. Dla porównania, modele open source wydają się być świetną darmową alternatywą. W praktyce „trzeba ponieść koszty przetwarzania w chmurze. Wymaga to procesorów graficznych i skonfigurowania procesorów graficznych, aby działały szybko z tymi modelami, a następnie samodzielnego dostrojenia”, co, jak przyznaje Grudzień, nie jest prostym procesem. Podobnie jak Erickson z Viable, Grudzień i Posmyk starają się dostarczać wartość przy każdym wywołaniu API. Mają jednak także nadzieję, że w miarę wypuszczania na rynek coraz bardziej konkurencyjnych modeli ceny API OpenAI „spadną lub ustabilizują się na pewnym poziomie, po prostu z powodu presji konkurencji”. Czego więc nauczył się Quickchat? Po pierwsze, aby zbudować dochodowy biznes, potrzeba czegoś więcej niż tylko szumu. Wielka sensacja medialna, taka jak ta, która wypuściła GPT-3, może początkowo zapewnić napływ podekscytowanych entuzjastów, „ale potem ludzie się nudzą i czekają na kolejną wielką rzecz. Przetrwają jedynie te produkty, które faktycznie rozwiązują pewne problemy, na których ludziom zależy” – mówi Grudzień. „Nikt nie będzie korzystał z Twojego produktu tylko dlatego, że ma standard GPT-3. Musi dostarczać jakąś wartość, użyteczną lub zabawną, albo rozwiązywać jakiś problem. GPT-3 nie zrobi tego za ciebie. Musisz więc potraktować to jako kolejne narzędzie. Kolejną kluczową lekcją było opracowanie solidnych wskaźników wydajności. „Za każdym razem, gdy tworzysz produkt do uczenia maszynowego, jego ocena zawsze jest trudna” – mówi Grudzień. Jego zdaniem, ponieważ GPT-3 jest solidny i działa w trudnej do oszacowania dziedzinie języka naturalnego, ocena jakości jego wyników jest złożona i uciążliwa. Jakkolwiek ekscytujący może być przełom, twierdzi, „użytkownicy prawdopodobnie ocenią Cię na podstawie najgorszej wydajności, w najlepszym razie średniej”. Quickchat optymalizuje zatem satysfakcję użytkownika. Dla firmy kluczowe było zaprojektowanie wskaźnika uwzględniającego zmienne powiązane z zadowolonymi użytkownikami i wysoką retencją, które bezpośrednio przekładają się na wyższe przychody.
Kolejnym wyzwaniem, być może zaskakującym, jest talent GPT-3 do kreatywności. „Nawet jeśli ustawisz bardzo niską temperaturę, niezależnie od tego, jaki podpowiesz, nadal użyje tego maleńkiego podpowiedzi, a następnie wygeneruje coś w oparciu o tę ogromną wiedzę, którą posiada” – wyjaśnia Grudzień. Ułatwia to generowanie kreatywnego tekstu, takiego jak poezja, teksty marketingowe lub opowiadania fantasy. Ale większość chatbotów służy do rozwiązywania problemów klientów. „Musi zapewniać przewidywalne, powtarzalne działanie, a jednocześnie umożliwiać konwersację w pewnym stopniu kreatywny, ale bez popychania go za daleko”. Duże modele językowe czasami generują tekst, który jest „dziwny”, „pusty” lub po prostu „niezbyt wspaniały”, więc ludzie muszą interweniować. „Jeśli zaczniesz mierzyć, czy udało mu się spełnić jakiś warunek, czy zadanie, to okaże się, że jest naprawdę twórcze, ale na dziesięć prób udało mu się tylko sześć razy – czyli prawie zero, jeśli chodzi o prawdziwy biznes z płacącymi klientami.” Dlatego do pomyślnej aplikacji biznesowej potrzebnych jest wiele wewnętrznych systemów i modeli, które ograniczają tę kreatywność i zwiększają niezawodność. „Aby stworzyć dla naszych klientów narzędzie, które działa w 99% przypadków, opracowaliśmy szereg mechanizmów obronnych” – mówi Grudzień. Obecnie Quickchat koncentruje się na ścisłej współpracy z klientami, aby upewnić się, że wydajność ich API pozwoli im odnieść sukces w ich przypadkach użycia. Tym, co najbardziej ekscytuje Grudzień, jest obserwowanie tego, co tworzą klienci: „Naprawdę, naprawdę chcemy zobaczyć, jak nasz silnik czatu jest używany na tysiące różnych sposobów w różnych produktach”.