-Уже сегодня во многих областях деятельности компьютеры опережают человека. Один из главных вопросов состоит в том, может ли ИИ воспроизводить человеческие эмоции, такие как любовь и ненависть, и если может, то как? “Полная эмуляция головного мозга” – это технология, целью которой является создание цифровой копии мозга умершего человека. Отдельный ИИ, получивший контроль над человечеством и остальными ИИ, становится “синглтоном”. Сверхразум может быть “скоростным”, “коллективным” и “качественным”. Генная инженерия к 2050 году позволит создать усовершенствованных людей, чей интеллект будет способен объединяться в коллективный сверхразум. Опасность ИИ состоит в том, что у него нет каких-либо ценностей. Самой большой проблемой в отношении ИИ является введение в него набора этических принципов, которые впоследствии ИИ не сможет исказить или отвергнуть во вред людям. Если ИИ или некая объединенная сущность, обладающая сверхразумом, добьется “решающего стратегического преимущества” в качестве самостоятельной единицы, люди не смогут ее контролировать. Необходимо тщательно взвесить перспективы и риски, связанные с неизбежным “взрывным развитием интеллекта”.