Многие фантастические произведения прошлого века и некоторые современные футурологи описывают ряд гипотетических сценариев, при которых достаточно качественный самообучающийся ИИ превзойдёт людей по уровню интеллекта и утратит потребность в своих создателях, а то и примет решение о нашем уничтожении.
Прежде, чем современный ИИ достигнет “киберапокалиптических” размахов, человечество должно будет снять как минимум четыре “цифровые печати”.
Во-первых, людям потребуется разработать ИИ и системы машинного обучения, предназначенные для решения общих, а не частных задач. Подобные работы уже идут — например, в ближайшие годы можно ожидать появления систем, способных “учиться”, читая тексты в интернете и конвертируя их в наборы простых инструкций.
Во-вторых, ИИ должен будет освоить комплексное взаимодействие с окружающим миром. Этому обучаются, в частности, некоторые современные нейросети.
В-третьих, ИИ должен будет лишиться “аварийного выключателя”, стать децентрализованным и “неуязвимым”. По идее, подобный подход может быть реализован посредством использования блокчейна.
И, наконец, четвертый этап становления “Скайнета” — самоосознание ИИ и его ориентация на выживание.
Иными словами, угрозы исходят не от конкретного робота или алгоритма, а от всей совокупной системы распределённого реестра, ИИ, машинного обучения, IoT и высокотехнологичных физических платформ. Впрочем, те же технологии несут и надежду — на нормализацию правосудия, оптимизацию производства еды и природопользования, развитие мира будущего, новой культуры и Золотого века человечества.