Probabilistyczne języki programowania są modułowe w sposób ułatwiający eksplorowanie ulepszeń modelu bazowego. Rysunek 18.15 przedstawia program generatywny dla ulepszonego modelu, który generuje litery sekwencyjnie, a nie niezależnie.
Ten program generatywny wykorzystuje model Markowa, który rysuje każdą literę podaną w poprzedniej literze, z prawdopodobieństwem przejścia oszacowanym na podstawie listy referencyjnej słów angielskich. Rysunek przedstawia dwanaście próbkowanych obrazów wytworzonych przez ten generatywny program. Zauważ, że sekwencje liter są znacznie bardziej podobne do angielskiego niż te wygenerowane z programu na rysunku. Panel po prawej stronie na rysunku pokazuje wyniki wnioskowania z tego modelu Markowa zastosowanego do obrazu o wysokim poziomie szumów. Interpretacje bardziej pasują do generowania śladu, choć nadal istnieje pewna niepewność.
