Жизнь 3.0.
Быть человеком
в эпоху искусственного интеллекта
Аннотация:
“Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта” – увлекательная научно-популярная книга, вторая книга Макса Тегмарка, физика и космолога, профессора Массачусетского технологического института. В ней он рассматривает возможные сценарии развития событий в случае появления на Земле сверхразумного искусственного интеллекта, анализирует все плюсы и минусы и призывает специалистов объединить свои усилия в борьбе за кибербезопасность и “дружественный” искусственный интеллект.
Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта (англ. Life 3.0: Being Human in the Age of Artificial Intelligence)[1] — книга шведско-американского космолога Макса Тегмарка из Массачусетского технологического института. «Жизнь 3.0» обсуждает искусственный интеллект (ИИ) и его влияние на будущее жизни на Земле и за её пределам
В книге обсуждаются различные социальные последствия, что можно сделать, чтобы максимизировать шансы на положительный исход, а также потенциальное будущее человечества, технологии и их комбинации[источник не указан 417 дней].
Книга начинается с постулирования сценария, в котором ИИ превзошёл человеческий интеллект и стал широко распространяться в обществе. Тегмарк упоминает различные этапы жизни человечества с момента его зарождения: Life 1.0 относится к биологическому происхождению, Life 2.0 относится к культурному развитию человечества, а Life 3.0 относится к технологическому веку людей. Книга фокусируется на «Life 3.0» и на новых технологиях, таких как общий искусственный интеллект, который может когда-нибудь, помимо способности учиться, также перепроектировать своё собственное оборудование и внутреннюю структуру.
В первой части книги рассматривается происхождение интеллекта миллиарды лет назад и продолжается прогноз будущего развития интеллекта. Тегмарк рассматривает краткосрочные эффекты развития передовых технологий, такие как технологическая безработица, оружие с искусственным интеллектом и поиски ОИИ (общего искусственного интеллекта) человеческого уровня. В книге приводятся такие примеры, как DeepMind и OpenAI, беспилотные автомобили и ИИ-игроки, которые могут выигрывать у людей в шахматы[2], Jeopardy[3] и го[4].[нет в источнике]
Изучив текущие проблемы в области ИИ, Тегмарк затем рассматривает ряд возможных вариантов будущего, в которых будут задействованы интеллектуальные машины или люди. В пятой главе описывается ряд возможных результатов, таких как изменение социальных структур, интеграция людей и машин, а также положительные и отрицательные сценарии, такие как Дружественный ИИ или ИИ-апокалипсис[5]. Тегмарк утверждает, что риски ИИ возникают не из-за недоброжелательности или сознательного поведения как таковых, а из-за несовпадения целей ИИ с целями людей. Многие цели книги совпадают с целями Института будущего жизни[6], соучредителем которого является Тегмарк.
Остальные главы исследуют концепции физики, целей, сознания и смысла, а также изучают, что общество может сделать, чтобы помочь создать желаемое будущее для человечества.
Согласен
Если вы закатываете глаза, когда слышите разговоры о вооруженном захвате роботами-терминаторами всего мира, то ваша реакция точна: такой сценарий совсем не реалистичен. Эти
голливудские роботы не могут оказаться умнее нас, да и вообще оказаться умными. По-моему, опасность, таящаяся в истории о Терминаторе, заключается не в том, что может случиться
нечто подобное, а в том, что она отвлекает наше внимание от подлинных рисков и опасностей, связанных с искусственным интеллектом. Переход от нынешнего мира к миру, в котором
верх и вправду одержан универсальным искусственным интеллектом, требует трех логических шагов:
- Шаг 1-й. Создать универсальный искусственный интеллект (AGI) на уровне человеческого.
- Шаг 2-й. Использовать этот AGI для создания сверхразума.
- Шаг 3-й. Использовать сверхразум для захвата мира или дать ему возможность сделать это самостоятельно.
Искать по тексту, аналогичная история со СМИ, которые пишут про войну роботов и т.д.
Мои предложения.
Не устану повторять, сейчас все должны бросить все мощности на создания разума, именно разум, а не красота, или др. дурость, на мой взгляд, спасет Мир. И не стоит отделять этот разум (интеллект) ставя границы – искусственный, естественный. На данном этапе ИИ, еще в зачатке, поэтому роль естественного интеллекта, подкрепленного технологиями, очень велика. Нет четкой грани, между искусственным и естественным. Если мы хотим создать нормальный интеллект, а не тот примитив который сейчас существует, нам нужно использовать все возможности, задействовать все технологии, т.к. они работают в рекурсивном тандеме: естественный интеллект создает искусственный, а искусственный по крайней мере на начальных этапах будет заинтересован в модернизации и расширений возможностей естественного.
Какое будущее для себя я бы хотел видеть
Сразу стоит оговориться, что это самый, на данный момент мой оптимистичный прогноз. По факту, вряд ли в нашем архаичном обществе мне удастся до него дожить. Но хочется верить. Отчасти мне бы хотелось что бы в итоге было как в фильме: «Вопросы мироздания: Можем ли мы жить вечно?» с Адамом Сэвиджом от Дискавери.
Возможные проблемы
Алчные люди будут дискредитировать ИИ. Начнут использовать слабый и даже сильный, но не сверх ИИ в своих корыстных целях. Вот тут то мы и столкнёмся с проблемой, которая, если мне не изменяет память, плохо расписана в книге.
Думаю, нас, хотим мы того или нет ждут в будущем суровые, жестокие, но интеллектуальные баталии, на уровне кодов, мемов, программ, убеждений и т.п. Скорей всего они будут идти преимущественно на цифровых носителях в виртуальной реальности, которая будет даже реальнее тривиальной. Там не будет жертв и порванного мяса с кровью. Война будет идти за наши взгляды, мнения, суждения. И чем раньше начнется эта война, тем лучше для всех. Её не надо бояться, она уже начата, и если мы не хотим остаться аутсайдерами, нам надо принимать в ней участие. Уже не помню где читал, что если ты офлайн, то считай, что ты и не жил. Звучит дико, и обскурантисты (любители букашек, леса и какашек) со мной поспорят. Но если они будут топтать какахи в лесах и кормить комаров. то спорить с ними не придётся. Спорить придётся с заблудшими лицемерами, которые пользуясь технологиями считают их злом и все не как, ПОЧеМУ-ТО от не откажутся от ИТ, окружающих нас повсюду.
Ссылки и связь
Автор на страницах книги не однократно предлагал связаться с ним на сайте AgeOfAi.org. Я двумя руками за подобные связи. Думаю, от этого была бы польза как читателям, так и писателям. Но почему-то у меня страница по ссылке не открылась, зато переадресовало на какое то futureoflife.org/superintelligence-survey. Может, если выкрою время, постараюсь дать ссылку на данный отзыв автору книги, не смотря на то, что моя статья на русском, а сайт на английском. Благо есть электронные переводчики. Так же надо будет поискать, может там уже есть какие-то еще дельные мысли. А еще лучше тут ziminbookprojects.ru. Это скорей всего аналогичная версия предыдущего сайта, но на русском. Но, не уверен. В любом случае, думаю, что ссылки достойны внимания, как и подымаемые темы.
Эта книга Макса Тегмарка, посвященная рассмотрению перспектив развития искусственного интеллекта и его влияния на человеческую жизнь. Главные выводы из книги:
1. Искусственный интеллект (ИИ) может привести к революционным изменениям во всех сферах жизни, как положительным, так и отрицательным.
2. Необходимо разработать стратегии и регуляторные механизмы для обеспечения безопасности и этичности развития ИИ.
3. ИИ может привести к увеличению безработицы, но также может создавать новые рабочие места.
4. Будущее может принадлежать обществу, которое научится эффективно взаимодействовать с ИИ и использовать его в своих целях.
5. Необходимо сформировать междисциплинарные команды, включающие экспертов в области технологий, экономики, философии и этики, чтобы создавать более безопасный, этичный и устойчивый ИИ.
6. Одной из возможных опасностей ИИ является потенциальный конфликт с людьми, поэтому необходимо разрабатывать ИИ с учетом человеческих ценностей и норм.
7. Необходимо обеспечить прозрачность в разработке ИИ, чтобы избежать неожиданных последствий его использования.
8. ИИ может существенно повысить эффективность во многих областях, таких как медицина, образование, сельское хозяйство и транспорт.
9. ИИ может создать новые возможности для научных исследований и технологического прогресса.
10. Необходимо разработать эффективные системы защиты данных и приватности в контексте развития ИИ.
Информация об Авторе:
Макс Тегмарк (при рождении Шапиро, род. 5 мая 1967) — шведско–американский космолог и астрофизик.
Тегмарк является профессором Массачусетского технологического института и входит в научную дирекцию Института основополагающих вопросов.
Макс Тегмарк родился в Швеции в семье Карин Тегмарк и математика Гарольда С. Шапиро (последовательность Рудина — Шапиро, многочлены Шапиро). Ещё будучи школьниками, Макс со своим приятелем Магнусом написали текстовый процессор «Teddy» в машинном коде для шведского 8-битного компьютера ABC80, который они продавали на коммерческой основе.
Учился в Королевском технологическом институте в Стокгольме, затем получил степень доктора философии в Калифорнийском университете в Беркли. Позже работал в Пенсильванском университете, затем в Массачусетском технологическом институте.
