«Серая слизь»

Из всех угроз, с которыми сталкивается человечество, возможно, ни одна так не опасна – или же так плохо распознана – как та, что таят в себе нанотехнологии. «Нано» означает «маленький», и многие специалисты по технологиям теперь видят будущее технологии как манипуляции и сборку в понятиях молекулярных и даже атомарных масштабов. Такие машины-ассемблеры на молекулярном уровне могли бы коренным образом изменить человеческое общество, создавая чрезвычайно дешёвые изделия, лекарства и даже энергию путём постройки фактически ничего не стоящих солнечных батарей. Поскольку большая часть новых изделий была бы создана скорее из органического материала, чем из металла и другого неорганического материала, в ходе такого производства будет получаться гораздо меньше загрязнений и меньше других последствий для окружающей среды.

Будущее в таком мире могло бы стать утопическим. С другой стороны, это могло бы означать исчезновение человечества. Именно такое видение наиболее ярко описано в предостерегающем эссе 2000 года, написанном Биллом Джоем. Джой рассматривает нанотехнологию как самую опасную составляющую объёмов инвестиций во все нанотехнологии. К сожалению, как и в случае с ядерной технологией, гораздо проще освоить разрушительные области применения нанотехнологии, чем созидательные. У нанотехнологии существуют явные военные и террористические области применения».

Джой считает военную область применения нанотехнологии потенциально опасной для существования нашего вида. Более того, как мирное использование атомной энергии представляет несомненную угрозу человеческой жизни при несчастных случаях на атомных электростанциях, так существует и потенциал для промышленных катастроф при коммерческом использовании нанотехнологий. Но, пока никто не смог вообразить ни одного сценария, при котором выброс радиоактивности при промышленном использовании ядерной энергии угрожал бы всему роду человеческому, «сбежавшая» нанотехнология смогла бы это сделать. Такой случай описан в книге Эрика Дрекслера «Машины Созидания»:

Устойчивые всеядные бактерии могли вытеснить бактерии, конкурируя с ними; они могли распространяться, словно пыльца на ветру, стремительно самокопироваться и превратить биосферу в пыль за считанные дни. Опасные репликаторы легко смогли бы быть слишком устойчивыми, маленькими и быстро распространяющимися, чтобы их можно было остановить – по крайней мере, если мы не проведём никакой подготовки. У нас достаточно проблем и с контролем численности плодовых мух.

Среди знатоков нанотехнологий эта угроза стала известна как «проблема серой слизи». Хотя массы вышедших из-под контроля репликаторов могут и не быть серыми или слизеподобными, термин «серая слизь» подчеркивает, что репликаторы, способные уничтожить жизнь, могли бы выглядеть ещё менее вдохновляющими, чем один вид росички[68]. Они могли бы быть выше в эволюционном смысле, но это не обязательно делает их ценными. Угроза «серой слизи» делает совершенно ясным одно обстоятельство: мы не можем позволить себе никакого рода катастроф с самокопирующимися машинами-ассемблерами.