Сборник статей Под редакцией Валерии Прайд, И. В. Следзевского, А. В. Турчина. Черновик проект

Contents 2

Билл Джой. Почему мы не нужны будущему. 5

Вернор Виндж. Технологическая Сингулярность 32

Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей. 42

Введение 42

1. Типология рисков 43

2. Риски существованию 43

3. Уникальность проблемы угроз существованию 44

4. Классификация рисков существованию 46

5. Взрывы (Bangs) 46

6. Сужения (Crunches) 51

7. Скрипы (Shrieks) 52

8. Всхлипы 54

9. Определение величины вероятности рисков существованию 55

10. Рекомендации, касающиеся стратегии и этики 60

Выражения признательности 65

Приложение: очерк эволюционного «всхлипа» 65

Библиография 67

Елиезер Юдковски. Когнитивные искажения, потенциально влияющие на оценку глобальных рисков. 74

Введение 74

1. Доступность информации 75

2. Интеллектуальная ошибка, связанная со знанием «задним числом». (Hindsight bias) 76

3. Черные лебеди. (Black Swans) 77

4. Ошибки в ситуациях с логическим «И» 78

5. Ошибочность рассуждений, вызванная эффектом подтверждения (Confirmation bias) 81

6. Якорение, настройка и наложение (Anchoring, adjustment, and contamination). 84

7. Рассуждения, обусловленные аффектом. 86

8. Пренебрежение масштабом 87

9. Калибровка и сверхуверенность 88

10. Апатия прохожего 91

Последнее предупреждение 92

Заключение 93

Рекомендуемое чтение 95

Библиография 96

Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска. 103

Ник Бостром, Макс Тегмарк. Насколько невероятна катастрофа судного дня? 151

Ник Бостром. Рассуждение о Конце Света для начинающих. 158

Ник Бостром. Doomsday Argument жив и брыкается. 162

Ник Бостром. А не живем ли мы в «Матрице»? Доказательство методом моделирования 173

Дэвид Брин. Сингулярность и кошмары. 180

Роберт Фрейтас. Проблема Серой Слизи. 202

Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми. 230

Милан Чирокович. Эволюционные катастрофы и проблема точной настройки параметров пригодной для жизни планеты. (Проблема Голдилокс) 245

Алексей Турчин. Природные катастрофы и антропный принцип 259

Contents 259

Введение 262

1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка. 263

2. Природные катастрофы 271

3. Применение антропного принципа для анализа частоты природных катастроф. 275

4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью 285

5. Заключение 287

Литература: 289

Владислав Пустынский. Последствия падения на Землю крупных астероидов 291

Уильям Нейпьер. Опасность комет и астероидов 301

1. Нечто вроде огромной горы 301

2.Как часто по нам бьют? 302

3. Эффекты столкновения. 307

4. Роль пыли. 310

5. Наземная проверка? 312

6. Неопределённости 313

Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы. 317

3. Вулканическая зима. 320

5. Сверх-извержения и человеческая популяция. 325

6. Частота сверхизвержений. 326

7. Влияние сверхизвержения на цивилизацию. 327

Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду. 339

Ричард Керригэн. Следует ли обеззараживать сигналы SETI? 361

А.В. Турчин. Глобальные риски, связанные с программой SETI. 375

Эдриан Кент. Критический обзор оценок рисков глобальных катастроф. 395

А. А. Кононов. Идеологические начала общей теории неуничтожимости человечества 421

Угрозы уничтожения человечества 421

Неуничтожимость как главная сверхзадача цивилизации 422

Качества неуничтожимой цивилизации 425

О необходимости разработки теоретических основ решения задач неуничтожимости человечества 426