Приписывание разума машинам, скоплениям фрагментов или другим божествам умников скрывает больше, чем показывает. Когда людям говорят, что компьютер разумен, они склонны изменять себя, чтобы казалось, будто компьютер работает лучше, а не требовать изменения компьютера для улучшения его работы.
– Джарон Ланир[35]. «Вы не гаджет»>41
Могут ли технологии отличить то, что действительно важно?
Давайте представим, что такое устройство, ИИ-в-облаке, уже существует (мы и сейчас не так далеки от запуска первых пробных версий). Сможет ли оно считывать, понимать и ценить те взаимодействия между людьми, которые нельзя представить в виде данных? Сможет ли оно понять dasein, бытие?
Несмотря на будущий экспоненциальный технологический прогресс, человеческий способ существования и переживания опыта кардинально отличается от того, как технологии его воспринимают. Даже лучшие фотографии, видео и цепочки данных только примерно передают, как это было на самом деле: контекст, воплощение, переживание этого уникального момента.
Некоторые философы утверждают, что мы сами не в состоянии запечатлеть, удержать и воспроизвести то, что действительно важно. Если это правда, то как мы можем надеяться уловить какую-то смоделированную человечность внутри машины? Не повлечет ли это за собой высокий риск потери 95 % того, что составляет нашу человеческую сущность, если мы решимся «превзойти биологические ограничения», как предлагают трансгуманисты?
«Википедия» определяет трансгуманизм так:
…международное интеллектуальное движение, целью которого является трансформация человека путем создания широкодоступных современных технологий, которые смогут значительно усилить интеллектуальные, физические и психологические способности людей>42.
Это зловещее обещание «значительно усилить» больше всего настораживает меня в трансгуманизме. Какой бы заманчивой ни представлялась перспектива увеличения способностей, мне все же кажется, что больше всего от этого выиграют компании, платформы и технологии, которые предоставят нам эти возможности. Эти компании действительно усилят свои мощности и позицию на рынке, расширят сферу охвата, пока обыватели будут пытаться успеть за своими переразвитыми братьями. Бизнес, построенный на том, чтобы заменить андроритмы и человеческие переживания алгоритмами, ИИ и программным обеспечением, безусловно, обречен на успех. Но будет ли это преимуществом, по сути своей? Должны ли мы предоставить будущее в распоряжение тех, кто хочет превратить его в огромную облачную операционную систему (ОС), только потому, что это выгодно?
Мы стали почти богами и просто обязаны в совершенстве освоить божественные функции.
– Стюарт Бренд>43[36]
В качестве основания многие евангелисты трансгуманизма утверждают, что человек – это просто тело, и его необходимо усовершенствовать. Они заключают, что мы недостаточно умные, недостаточно быстрые и недостаточно ловкие. Людям необходимо обновить программное и аппаратное обеспечение – в основном потому, что эти меры приведут к ликвидации старения и, быть может, даже смерти.
Является ли наше превращение в машины, полностью или частично, закономерным этапом эволюции? Суждено ли нам оставить в прошлом свои биологические ограничения и возвыситься с помощью технологий?
Идея отождествления живых существ с машинами не нова. Еще в XVI веке Рене Декарт, великий философ-рационалист, сравнивал животных с очень сложными машинными аппаратами