Geoffrey Hinton: building self-preservation into AI systems will lead to self-interested, evolutionary-driven competition and humans will be left in the dust
GGeeooffffrreeyy HHiinnttoonn:: bbuuiillddiinngg sseellff--pprreesseerrvvaattiioonn iinnttoo AAII ssyysstteemmss wwiillll lleeaadd ttoo sseellff--iinntteerreesstteedd,, eevvoolluuttiioonnaarryy--ddrriivveenn ccoommppeettiittiioonn aanndd hhuummaannss wwiillll bbee lleefftt iinn tthhee dduusstt