Киберсценарии Судного Дня
Mar. 23rd, 2009 02:19 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
mat33Классический "бунт машин" имеет несколько широко разрекламированных сценариев:
1. "Терминатор" - бунт военного робота, решающего задачу уничтожения людей слишком хорошо.
2. "Серая грязь" - баг разработки, снимающим точность целеустановки высокой технологии (включая ограничения). В случае нанотехнологий, нас просто могут переработать на что-нибудь условно полезное. И биосферу "переработают" и техносферу.
3. "Страж Птица". "Бунт" самообучающихся машин, связанный с пошаговым расширением трактовки поставленных задач.
4. Мирное вытеснение ИИ (искусственным интеллектом), когда наших потомков могут даже содержать в шикарных зоопарках, резервациях, в качестве домашних животных, наконец.
Я отсортировал варианты - по степени их реализуемости, как это видится на сегодняшний день. Лет двадцать - на реализацию первого сценария. И ещё столько же отделяют возможность каждого последующего от предыдущего.
Военный робот может быть почти так же туп и примитивен, как заказавший его хернорыл. Т.е., если имбецилу заказчику - довольно того, чтобы боевая машина умела находить и уничтожать живое и другие боевые машины, делая исключения для "своих" по сигналу распознавания... то это - уже возможно, а время требуется на удешевление технологии и запуск в серию. Сегодня, чтобы нас истребить, потребуются миллионы таких машин... если ещё и ОМП им не доверить... а такой идиот - даже в хернорылы едва ли годится.
До наноботов - ещё дожить надо, а микроботы - ещё не такая чума ;)
Страж-Птица - это уже довольно мощный ИИ, не говоря уж о следующем сценарии.
---
Самый простой и реализуемый сценарий господин Оруэлл - немного недоработал. Большой Брат страшен, конечно, даже в тоталитарном государстве. Но в правовом, система тотальной слежки заставит... выполнять законы. Что, при существующем законодательстве, означает, что последний судья должен будет приговорить себя сам. Впрочем, надежда остаётся у постояльцев психушек и зоопарков ;)
1. "Терминатор" - бунт военного робота, решающего задачу уничтожения людей слишком хорошо.
2. "Серая грязь" - баг разработки, снимающим точность целеустановки высокой технологии (включая ограничения). В случае нанотехнологий, нас просто могут переработать на что-нибудь условно полезное. И биосферу "переработают" и техносферу.
3. "Страж Птица". "Бунт" самообучающихся машин, связанный с пошаговым расширением трактовки поставленных задач.
4. Мирное вытеснение ИИ (искусственным интеллектом), когда наших потомков могут даже содержать в шикарных зоопарках, резервациях, в качестве домашних животных, наконец.
Я отсортировал варианты - по степени их реализуемости, как это видится на сегодняшний день. Лет двадцать - на реализацию первого сценария. И ещё столько же отделяют возможность каждого последующего от предыдущего.
Военный робот может быть почти так же туп и примитивен, как заказавший его хернорыл. Т.е., если имбецилу заказчику - довольно того, чтобы боевая машина умела находить и уничтожать живое и другие боевые машины, делая исключения для "своих" по сигналу распознавания... то это - уже возможно, а время требуется на удешевление технологии и запуск в серию. Сегодня, чтобы нас истребить, потребуются миллионы таких машин... если ещё и ОМП им не доверить... а такой идиот - даже в хернорылы едва ли годится.
До наноботов - ещё дожить надо, а микроботы - ещё не такая чума ;)
Страж-Птица - это уже довольно мощный ИИ, не говоря уж о следующем сценарии.
---
Самый простой и реализуемый сценарий господин Оруэлл - немного недоработал. Большой Брат страшен, конечно, даже в тоталитарном государстве. Но в правовом, система тотальной слежки заставит... выполнять законы. Что, при существующем законодательстве, означает, что последний судья должен будет приговорить себя сам. Впрочем, надежда остаётся у постояльцев психушек и зоопарков ;)
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
Всё это хорошо для Голливуда
Date: 2009-03-24 07:47 am (UTC)Re: Всё это хорошо для Голливуда
Date: 2009-03-24 10:41 am (UTC)1. Если игрок - один (вырожденный случай), то у него - просто резона нет пускать неотлаженную технологию в серию.
2. Если игроков - мало (два-три), они могут договориться о стандартах. И доверять общему контролю. Уже эта система - не идеальна. Т.е., если какое-то конкретное технологическое продвижение (ИИ, наносфера и т.п.) одним махом может сделать опередившего игрока - единственным, на договора полагаться... довольно глупо.
3. В нашем случае, каждое государство создаёт правила игры. По которым (в меру возможностей контроля за соблюдением, натурально :) ) играют корпорации. И без которых (так как, по сути - сами себя контролируют) играют военные и спецслужбы. Последние, слава богу, в силу органически присущего долбо...а, творчески импотентны. Но! Они могут прикрыть от контроля - в отношении своего заказа - частные лавочки. Грубо говоря, творческой свободе лагерной шарашки позавидовал бы любой цивилизованный исследователь. Вся система контроля служила отделению шарашки - от воли. При этом, utility (награда? :)), которую корпорации ожидают от качественного опережения конкурентов - перевешивает любые риски. Мат ожидание успеха - выше, при ненулевой его вероятности.
4. Откуда - мораль. Сценарий "Большого Брата" окончательно обрёл плоть после резкого увеличения количества и масштаба террактов. Для сценария "Терминатор" - достаточно разработать технологию, позволяющую быстро и не дорого сбивать беспилотники, используя временной лаг, присущий автоматам. Им тут же "позволят" отстреливаться в случае явной угрозы. Ну и... всё. Дальше - нету чёткой границы, которую можно было бы переступить (или - не переступить).
---
На самом деле, при нынешнем полит-экономическом раскладе, забить себя прогрессом по башке, как дубинкой - естественный сценарий. А вот создать хоть какие механизмы контроля - мечты.
Из чисто религиозных соображений, Буш наложил ограничения на изучение стволовых клеток. В результате, пока Обама эти ограничения отменил... та же Британия - вышла вперёд. В принципе, это может привести к потере Штатами значительной доли люкративного медицинского рынка. Т.е., сегодня - они озабочены тем, как собрать причитающиеся им лицензионные бабки, не допустить пиратства. А завтра - им придётся озаботиться тем, как оплатить чужие лицензии. А это уже - несколько менее приятные заботы...