Кригер Борис - Искусственный интеллект и грядущая цивилизация

Эта книга — философско-технологическое исследование того, что происходит с человеком в эпоху изобилия информации и растущего искусственного интеллекта. Исходная точка проста и тревожна: человеческое сознание остаётся ограниченным — около пятидесяти бит осмысленного внимания в секунду, — тогда как информационная среда выросла до масштабов, с которыми эволюция нас не готовила справляться.
Из этого разрыва рождается феномен, который автор называет Стимульной Пустотой: состояние, в котором ничто больше не вынуждает действовать, а потому исчезает само основание для выбора цели. Проблема касается не только людей. Искусственные агенты, лишённые биологического давления среды, изначально находятся в том же положении — они способны на всё, но не имеют причины начать.
В книге формулируются три принципа выхода из Пустоты: необходимость действия, отсев вреда и достаточность любого безвредного замысла. На их основе строится каталог допустимых целей и модель самозарождающейся игры — системы, в которой смысл не задан извне, а возникает из решения действовать без разрушения мира.
Ключевой поворот связан с инициативой — способностью порождать цели до появления задачи. Автор утверждает, что наделение инициативой искусственных агентов не является угрозой, если они подчинены тем же ограничениям, что и человек. Более того, цивилизация, в которой большинство деятелей свободны от биологического страха, жадности и племенного искажения, способна принимать более здравые коллективные решения.
«Искусственный интеллект и грядущая цивилизация» — это не техноутопия и не антиутопия. Это попытка описать переход от эпохи людей-исполнителей к эпохе совместной цивилизации деятелей — людей и цифровых субъектов, действующих по единым правилам ответственности и невредимости.
Книга адресована тем, кто хочет понять не только, как изменится технология, но и каким может стать само понятие цели, инициативы и смысла в мире, где ничто больше не вынуждает нас действовать.