Załóżmy na razie, tak jak do tej pory, że robot ma dostęp do jasno określonej funkcji nagrody. Ale zamiast optymalizować go w izolacji, teraz robot musi zoptymalizować go wokół człowieka, który również działa. Na przykład, gdy samochód autonomiczny wjeżdża na autostradę, musi negocjować manewr z kierowcą jadącym na docelowym pasie – czy powinien przyspieszać i łączyć się z przodu, czy zwalniać i łączyć się z tyłu? Później, jak ciągnie do znaku stopu, szykując się do skręcenia w prawo, musi uważać na rowerzystę na ścieżce rowerowej i pieszego, który ma wejść na przejście dla pieszych. Albo rozważ robota mobilnego w korytarzu. Ktoś zmierzający prosto w stronę robota podchodzi lekko w prawo, wskazując, po której stronie robota chce przejść. Robot musi odpowiedzieć, wyjaśniając swoje zamiary.