Набор представлений о технологической сингулярности претерпел ряд серьёзных изменений: в середине XX века речь шла о гипотетическом моменте приближения графика технологического развития человека к бесконечности, а в начале XXI — о моменте, начиная с которого самоподдерживающийся рост технологий превзойдёт коллективную способность человечества контролировать этот рост или даже осознавать.
Первые признаки выдавливания человека со сцены — детские шаги искусственного интеллекта: появление алгоритмов голосового общения, машинного зрения, перевода и освоение роботами традиционных областей человеческой деятельности.
Следующий переломный момент — появление машин, способных учиться, рефлексировать, переписывать свой код и совершенствоваться. Снятие этой печати позволит создать машины, которые неизбежно превзойдут человека по эмоциональному интеллекту при решении творческих задач и прогнозировании будущего.
На третьем этапе машины возьмут на себя управление средой обитания человека, экономикой и социумом. Впрочем, наиболее загадочные события произойдут потом, когда ИИ начнёт ставить и выполнять задачи, для человека чуждые и непостижимые. Рэймонд Курцвейл предположил, что пути человека и машины разойдутся уже к 2045 году.
Естественные барьеры на пути экспоненциального саморазвития: потребность в неограниченной “питательной среде”, стимулах и мотивации, а также отсутствие стороннего вмешательства. Законы развития человеческого общества и науки неоднократно менялись — нечто подобное может произойти и с развитием ИИ. Впрочем, на современном этапе уместнее говорить не о полной замене людей роботами и искусственным интеллектом, а об их совместной деятельности и кооперации: именно она приносит наилучшие результаты.
