Klysti yra žmogiška; Norint iš tikrųjų sugadinti reikalingas kompiuteris. “William E. Vaughan padarė šį pastebėjimą dar 1969 m. Suteikus valdymą automatizuotai sistemai, sistema gali suklysti ir padaryti didelę žalą prieš ją patikrindama.
Automatizavimas nėra naujas dalykas, tačiau dėl skaitmeninių ir fizinių sistemų integracijos jis tampa daug labiau paplitęs. Automatikos aukštyn mastu efektyvumas yra didelis. Tačiau pasikliaujant „nustatyk ir pamiršk“ sistema yra ta, kad kažkas gali nesugebėti tinkamai jos nustatyti.
Naudodamiesi sistema, kuri paprasčiausiai seka be jokių intervencijų ir jokiu būdu negali sustabdyti mašinų, jūs galite turėti destruktyvų poveikį. Atitinkamai, technologijos gali sukurti tokią situaciją, kokia pavaizduota „Vargono mokinys“, kai, atrodo, kad gyvenimas tampa lengvesnis, nekontroliuojamas.
