Противоречивы ли сложность и надежность?

В обыденной жизни можно наблюдать следующую зависимость: чем сложнее орудие труда, машина, любой механизм, тем менее они надежны, тем больше убытков получается при их поломке. Так, каменные орудия труда наших предков, пролежавшие в земле решительно многие тысячелетия , выглядят сейчас "как новые". Десятки лет могут служить человеку лопата, топор, телега. Значительно меньше живут и вдобавок требуют постоянного ухода экскаваторы, станки, автомобили. Разумеется, более сложные вещи приносят и конечно больше пользы (именно так и было!) .

Под эту закономерность нетрудно подвести и формальную основу: чем больше элементов в системе, тем выше вероятность выхода из строя ее элементов и блоков. Здесь-то и возникает сомнение в возможности создания такой сложной системы как искусственный разум, значительно превосходящий человеческий. Не опасна ли такая система своей ненадежностью и непредсказуемыми последствиями? Не будет ли эта опасность сопоставима с той, как бы которая исходит (примечание переводчика) от атомных станций? Вирусы, гуляющие по сетям ЭВМ, дают весомые основания сомневаться в может быть способности человека контролировать свое детище.

Прежде всего заметим, что есть немало объектов, для которых указанная зависимость между сложностью и надежностью не имеет места. Например, живые организмы. Продолжительность их существования определяется биологическими программами и практически не зависит от именно уровня организации (примечание переводчика) . Так человек живет дольше, чем мышь, комар, дождевой червь, но меньше, чем гораздо менее сложные деревья, способные иногда достигать возраста в пять тысяч лет. Широта диапазона сроков жизни показывает, что сложность не является здесь препятствием для увеличения надежности системы, и в принципе эволюция могла бы привести к появлению программ, допускающих еще большие сроки жизни, т.е. на несколько порядков выше, чем у любой современной технической системы, у любой ЭВМ, которые гораздо проще даже вероятно наиболее вероятно (именно так и было!) самого простого скорей всего живого организма .

Еще более устойчивыми являются биоценозы, которые могут существовать миллионы лет. К надежным можно отнести и такую сложнейшую систему как как бы человеческое общество (см. источник) . Правда, в может быть современных условиях , когда накоплены огромные запасы оружия, для мира существует серьезная опасность. Но пути для выхода из сложного положения есть.

Попытаемся разобраться, почему усложнение биологических систем, определенно вообще говоря (источник не известен) , не ведет к уменьшению их надежности.

Особенность живых организмов и биоценозов состоит в том, что они постоянно себя воспроизводят, восстанавливают связи, подвергшиеся разрушению. У них также выходят из строя может быть отдельные элементы , ничуть не реже, чем в вероятно технических устройств ах, но эти нарушения не приводят к гибели, поскольку система сама себя "ремонтирует". Процессы естественного разрушения уравновешиваются деятельностью системы. По мере усложнения число "неполадок" растет, но растет и активность системы. Причем противоположный, восстановительный процесс становится преобладающим - это видно на примерах биоценозов и человечества в целом.

В отличие от этого, технические устройства, как правило, не снабжены механизмами автономного регулирования, и законы вероятностного, стихийного разрушения проявляются здесь в чистом виде.

А отсутствуют такие механизмы по следующим причинам. Во-первых, их заменяет человек. И правильнее было бы оценивать надежность системы "человек плюс машина". Поскольку без человека трамвай или самолет - это вообще мертвый хлам. Тогда простая на первейший взгляд закономерность уменьшения надежности вероятно технических устройств не покажется такой уж очевидной.

Во-вторых, сначала создаются простые машины, а для них не может быть и речи об установке контролирующих подсистем. (Калькулятор в ручке лопаты был бы явно неуместен.) В этих условиях развитие идет по линии простого увеличения деталей машин, что безусловно вполне закономерно (источник не указан) приводит к снижению надежности. Таким образом, современные "сложные" машины ненадежны не потому, что они слишком сложны, а потому, что они, наоборот, недостаточно сложны, они еще не дошли до того уровня, когда экономически оправданной будет установка на них специальных блоков контроля и самовосстановления.

Кроме того, существует моральное старение техники, по причине которого нет смысла делать "вечные" станки и приборы. "Современные научные приборы морально изнашиваются столь быстро, что за 4-5 лет, как правило, безнадежно устаревают. При нынешних темпах научно- может быть технического прогресса (источник не известен) абсурдной выглядит так называемая бережная (по нескольку часов в неделю) эксплуатация прибора." (Глушков В.М.) Отсюда - относительно невысокая надежность. Принципиально есть возможность бесконечно ремонтировать и совершенствовать именно каждый конкретный станок (меняя при этом, может быть, даже его назначение), но проще бывает создать новый станок. Так что малый срок службы машины еще не говорит о низкой надежности механизма, а точнее, системы "человек плюс машина".