Прелюдия. Сказание о команде “Омега”
Первые миллионы
Опасные игры
Первые миллиарды
Новые технологии
Обретение власти
Консолидация
Глава 1. Добро пожаловать к самому важному разговору о нашем времени
Краткая история сложности
Три стадии жизни
Контроверзы
Недоразумения
Дорога вперед
Подведение итогов
Глава 2. Материя начинает думать
Что такое разум?
Что такое память?
Что такое вычисление?
Что такое обучение?
Глава 3. Ближайшее будущее: болезни, законы, оружие и работа
Прорывы
Надежность искусственного интеллекта и глюки
Законы
Оружие
Работа и заработки
Интеллект на уровне человеческого
Глава 4. Взрыв разума?
Тоталитаризм
Прометей захватывает мир
Медленный старт и многополярные сценарии
Киборги и заливки. Эмы
Так что же все-таки произойдет?
Глава 5. Мир в следующие 10 тысяч лет
Либертарианская утопия
Благодетельный диктатор
Эгалитарная утопия
Страж
Бог-защитник
Порабощенный бог
Победители
Благодарные потомки
Зоопарк
1984
Возврат
Самоистребление
А что хотите вы?
Подведение итогов
Глава 6. Наше космическое благосостояние: следующий миллиард лет и все что потом
На что годятся ваши ресурсы
Как добывать ресурсы с помощью космической экспансии
Космические иерархии
Виды на будущее
Подведение итогов
Глава 7. Цели
Физика: происхождение целей
Биология: эволюция целей
Психология: Преследование и восстание против целей
Инженерия: привлечение сторонних целей
Дружественный искусственный интеллект: приведение целей в соответствие
Этика: выбор целей
Основные цели?
Подведение итогов
Глава 8. Сознание
Кого заботит?
Что такое сознание?
В чем же проблема?
Сознание за пределами науки?
Что говорит о сознании эксперимент?
Теории сознания
Споры о сознании
Что может чувствовать искусственный интеллект, обладая сознанием?
Смысл
Подведение итогов
Эпилог. Сказание о команде FLI
Рождение FLI
Пуэрто-риканское приключение
Перенос AI-безопасности в центр исследовательского поля
Асиломарские принципы разработки искусственного интеллекта
Исследовательские вопросы
Ценности и вопросы этики
Долгосрочные аспекты
Разумный оптимизм
