Jak powinniśmy podejmować decyzje zgodnie z naszymi preferencjami? Jak powinniśmy to robić, kiedy inni mogą się nie zgodzić? Jak powinniśmy to zrobić, skoro wypłata może nastąpić w odległej przyszłości? Nauka ekonomii powstała w 1776 r., kiedy Adam Smith (1723–1790) opublikował „Badanie natury i przyczyn bogactwa narodów”. Smith zaproponował analizę gospodarek jako składających się z wielu indywidualnych agentów zajmujących się własnymi interesami. Smith nie opowiadał się jednak za chciwością finansową jako postawą moralną: jego wcześniejsza książka (1759) The Theory of Moral Sentiments zaczyna od wskazania, że troska o dobro innych jest istotnym składnikiem interesów każdej jednostki.
Większość ludzi myśli o ekonomii jako o pieniądzach, a pierwsza matematyczna analiza decyzji w warunkach niepewności, formuła Arnaulda (1662) na maksymalną wartość oczekiwaną, dotyczyła wartości pieniężnej zakładów. Daniel Bernoulli (1738) zauważył, że ta formuła wydaje się nie działać dobrze w przypadku większych kwot pieniędzy, takich jak inwestycje w ekspedycje handlowe na morzu. Zamiast tego zaproponował zasadę opartą na maksymalizacji oczekiwanej użyteczności i wyjaśnił wybory inwestycyjne ludzi, proponując, że krańcowa użyteczność dodatkowej ilości pieniądza maleje w miarę zdobywania większej ilości pieniędzy. Léon Walras (wymawiane „Valrasse”) (1834–1910) dał teorii użyteczności bardziej ogólną podstawę pod względem preferencji między hazardami w odniesieniu do dowolnych wyników (nie tylko pieniężnych). Teoria została udoskonalona przez Ramseya (1931), a później przez Johna von Neumanna i Oskara Morgensterna w ich książce The Theory of Games and Economic Behaviour (1944). Ekonomia nie jest już nauką o pieniądzach; jest to raczej badanie pragnień i preferencji. Teoria decyzji, która łączy teorię prawdopodobieństwa z teorią użyteczności, zapewnia formalne i kompletne ramy dla indywidualnych decyzji (ekonomicznych lub innych) podejmowanych w warunkach niepewności – to znaczy w przypadkach, gdy opisy probabilistyczne odpowiednio ujmują środowisko decydenta. Jest to odpowiednie dla „dużych” gospodarek, w których każdy agent nie musi zwracać uwagi na działania innych agentów jako jednostek. W przypadku „małych” gospodarek sytuacja bardziej przypomina grę: działania jednego gracza mogą znacząco wpłynąć na użyteczność innego (pozytywnie lub negatywnie). Rozwój teorii gier von Neumanna i Morgensterna obejmował zaskakujący wynik, że w przypadku niektórych gier racjonalny agent powinien przyjąć politykę, która jest (lub przynajmniej wydaje się być) losowa. W przeciwieństwie do teorii decyzji, teoria gier nie daje jednoznacznej recepty na wybór działań. W przypadku sztucznej inteligencji decyzje dotyczące wielu agentów są badane pod kątem systemów wieloagentowych. Ekonomiści, z pewnymi wyjątkami, nie odnieśli się do trzeciego pytania wymienionego powyżej: jak podejmować racjonalne decyzje, gdy korzyści z działań nie są natychmiastowe, ale wynikają z kilku działań podjętych po kolei. Temat ten był podejmowany w dziedzinie badań operacyjnych, które pojawiły się podczas II wojny światowej w wyniku wysiłków Wielkiej Brytanii w celu optymalizacji instalacji radarowych, a później znalazły niezliczone zastosowania cywilne. Praca w ekonomii i badaniach operacyjnych w znacznym stopniu przyczyniła się do powstania naszego pojęcia o racjonalnych czynnikach, jednak przez wiele lat badania nad sztuczną inteligencją rozwijały się całkowicie odrębnymi ścieżkami. Jednym z powodów była pozorna złożoność podejmowania racjonalnych decyzji. Pionierski badacz sztucznej inteligencji Herbert Simon (1916–2001) zdobył Nagrodę Nobla w dziedzinie ekonomii w 1978 r. za swoją wczesną pracę pokazującą, że modele oparte na zadowalających decyzjach podejmowania decyzji, które są „wystarczająco dobre”, a nie żmudne obliczanie optymalnej decyzji – dawały lepsze opis rzeczywistego zachowania ludzkiego (Simon, 1947). Od lat 90. odradza się zainteresowanie technikami decyzyjno-teoretycznymi dla sztucznej inteligencji.