Sztuczna inteligencja może być potencjalnie szkodliwa, jeśli maszyny zaczną myśleć lepiej niż ludzie, ponieważ może to sprawić, że przejmą kontrolę nad ludźmi. Ludzie mają wiedzę, aby rozpowszechniać to, co stworzyli, i wiedzą, jak to zrobić, ale urządzenia oparte na sztucznej inteligencji nie. Uważa się, że sztuczna superinteligencja jest znacznie mądrzejsza i lepsza od najlepszych ludzkich mózgów, a autonomia AI i robotów może stać się potencjalnym zagrożeniem dla ludzkości. Super inteligentna sztuczna inteligencja może stanowić zagrożenie, ponieważ autonomiczna broń oparta na sztucznej inteligencji może zostać zaprogramowana do niszczenia lub zabijania. Systemy te mogą być wykorzystywane przez terrorystów do zabijania niewinnych osób. Sztuczna inteligencja jest wprawdzie zaprogramowana do wykonywania pożytecznych czynności, ale może skończyć się zniszczeniem. Na przykład, jeśli chcesz jechać na lotnisko inteligentnym samochodem tak szybko, jak to możliwe, może cię tam zawieźć z wieloma szarpnięciami, ponieważ samochód dosłownie zrobił to, o co go prosiłeś. Dlatego superinteligentna sztuczna inteligencja może być idealna w osiąganiu swoich celów, ale jeśli te cele nie są zgodne z naszymi celami, może to spowodować poważny problem. Głównym celem badań nad bezpieczeństwem AI jest ochrona ludzkości przed ryzykiem.