Люди, посещающие шоу Джона Эдварда, в основном верят в его способности; среди них, как правило, нет скептиков. Но любой из нас может стать таким же доверчивым, если мы окажемся в обстановке, которая не вызовет немедленного скептицизма. Все потому, что все мы склонны верить больше, чем следовало бы, если фокусируемся только на имеющейся у нас информации.

Понятие «намеренное подавление неверия», введенное в 1817 году поэтом и философом Сэмюэлом Кольриджем, относится к прекращению критического мышления или сомнений, принятию спекулятивной предпосылки, которую мы обычно отвергаем. Когда повествование убедительно, мы не останавливаемся, чтобы спросить, почему хакер смог получить доступ к компьютеру инопланетного корабля с помощью MacBook или как изменение ДНК одного животного приведет к уничтожению всего его вида. Мы не подавляем неверие при просмотре документального фильма, потому что не видим в этом необходимости; мы ожидаем, что документальные фильмы будут документировать, а не выдумывать. То же самое верно и в повседневной жизни. Нашей позицией по умолчанию является доверие – мы принимаем то, что нам говорят, и редко, если вообще когда-либо, проверяем это. В нашем повседневном опыте мы должны работать над тем, чтобы избавиться от уверенности в наших убеждениях, а не от неверия.

Многие предприятия и некоторые отрасли промышленности пользуются преимуществами этой тенденции, возможно, в некоторых случаях неосознанно. Они выпускают «демоверсии» продукта, представляемые в строго контролируемых условиях, благодаря которым их новые технологии кажутся более эффективными, чем они есть на самом деле. Когда кажется, что демонстрационные версии работают, – а они почти всегда работают, – это дает зрителям убедительный сигнал: трудно подвергать сомнению то, что вы видели собственными глазами. Благодаря нашему пристрастию к истине мы верим, что то, что мы видим, является близким к реальности и нас не вводят в заблуждение намеренно.

Например, робототехническая фирма Boston Dynamics (некогда принадлежавшая Google) регулярно публикует видеоролики о том, как ее человекоподобные роботы выполняют реалистичные трюки, такие как движения паркура, но ни одно видео не может сказать нам, преуспеет ли робот на полосе препятствий, которую он никогда не видел, с объектами, с которыми он никогда не сталкивался. Перед лицом убедительной демонстрации мы склонны предполагать, что производительность, которую мы наблюдаем, применима к аналогичным настройкам, даже если у нас нет прямых доказательств, по крайней мере, из ролика, что это так [6].

Практика разработки компьютерных систем, способных проявлять интеллект в ситуациях с высокой степенью ограниченности и при этом подразумевающих, что они будут работать так же хорошо в широком диапазоне контекстов, насчитывает по меньшей мере пятьдесят лет. Иногда разработчики не вводят в заблуждение намеренно – они просто чрезмерно оптимистичны в отношении того, насколько легко будет усовершенствовать их собственную технологию, чтобы она работала в большем количестве ситуаций. В течение десятилетий эксперты по компьютерному зрению и робототехнике предполагали, что если робот сможет понять сцену, содержащую правильные геометрические тела (кубы, пирамиды, цилиндры и т. д.), то основная работа будет выполнена и потребуется всего лишь небольшой шаг, чтобы распространить эту способность на естественные сцены. Но раз за разом системы искусственного интеллекта (ИИ) терпят неудачу при переходе от оптимизированного «микромира» к миру реальному, подобно тому как потенциальные лекарства могут хорошо зарекомендовать себя в лабораторных экспериментах на животных, но терпят неудачу в испытаниях на людях. Иногда такое незначительное изменение, как настройка цвета одного пикселя на цифровом изображении, может заставить систему распознавания объектов принять корабль за автомобиль, а оленя – за самолет. Разработчики демонстрационных версий редко признают, что для достижения надежной работы в условиях реальной сложности часто требуется подход, полностью отличающийся от того, который прекрасно работал в тщательно контролируемой демонстрационной среде [7].