Кригер Борис - Homo Credens: Верующий вид

Почему мы верим больше, чем можем доказать? Почему память нас обманывает? Почему самые сложные системы искусственного интеллекта «галлюцинируют» ложную информацию?

В книге «Homo Credens» Борис Кригер раскрывает глубокую истину о природе сложных умов: любая достаточно сложная система — будь то человеческий мозг, когнитивные способности животных или искусственный интеллект — должна верить гораздо больше, чем может подтвердить. Это не ограничение, которое нужно преодолеть, а архитектура, которую нужно понять.

Опираясь на три научные статьи, Кригер показывает, как компромисс между сложностью и достоверностью влияет на всё — от памяти и восприятия до рассуждений и искусственного интеллекта. По мере усложнения систем их способность проверять утверждения линейно растёт, в то время как пространство утверждений, которые они должны рассматривать, растёт экспоненциально. Неизбежный результат: сложные системы должны придерживаться определённых убеждений без проверки.

Последствия распространяются от философии до практических технологий. Полная рациональность не сложна, но невозможна. Даже квантовые компьютеры не могут избежать компромисса между сложностью и достоверностью. Галлюцинации, связанные с ИИ, невозможно устранить, не устранив генеративный потенциал, который делает ИИ полезным.

Мы долгое время называли себя Homo sapiens — знающим видом. В этой книге предлагается более точное название: Homo Credens — верящим видом. Мы не знатоки, которые лишь изредка доверяют, а доверяющие, которые лишь изредка проверяют. И, понимая это, мы делаем первый шаг к тому, чтобы верить по-настоящему.

Перевод с английского.