Искусственный интеллект.
Этапы. Угрозы. Стратегии
Аннотация:
Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?
В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.
-Уже сегодня во многих областях деятельности компьютеры опережают человека. Один из главных вопросов состоит в том, может ли ИИ воспроизводить человеческие эмоции, такие как любовь и ненависть, и если может, то как? “Полная эмуляция головного мозга” – это технология, целью которой является создание цифровой копии мозга умершего человека. Отдельный ИИ, получивший контроль над человечеством и остальными ИИ, становится “синглтоном”. Сверхразум может быть “скоростным”, “коллективным” и “качественным”. Генная инженерия к 2050 году позволит создать усовершенствованных людей, чей интеллект будет способен объединяться в коллективный сверхразум. Опасность ИИ состоит в том, что у него нет каких-либо ценностей. Самой большой проблемой в отношении ИИ является введение в него набора этических принципов, которые впоследствии ИИ не сможет исказить или отвергнуть во вред людям. Если ИИ или некая объединенная сущность, обладающая сверхразумом, добьется “решающего стратегического преимущества” в качестве самостоятельной единицы, люди не смогут ее контролировать. Необходимо тщательно взвесить перспективы и риски, связанные с неизбежным “взрывным развитием интеллекта”.
“Нет оснований утверждать, что ИИ среднего уровня начнет руководствоваться человеческими чувствами, такими как любовь, ненависть, гордость”.
Один из критериев мощи ИИ – то, насколько хорошо специально разработанные компьютеры играют в такие игры, как шахматы, бридж, “эрудит”, го и викторина. Примерно через 10 лет компьютер с усовершенствованными алгоритмами сможет одерживать верх над чемпионом мира по го. Кроме игр похожие технологии применяются в слуховых аппаратах, устройствах распознавания лиц и речи, в навигации, диагностике, планировании, логистике, а также для создания промышленных роботов, функционал которых стремительно увеличивается. Тем не менее, несмотря на расширение областей применения ИИ, становятся заметны и признаки, говорящие о его несовершенстве. Так, в 2010 году алгоритмы программ биржевых трейдеров случайно спровоцировали цепную реакцию падения цен, из-за которой фондовый рынок буквально за несколько секунд потерял триллион долларов. Справедливости ради нужно сказать, что алгоритмы, которые привели к возникновению этого кризиса, сами же помогли найти из него выход.
“Пожалуй, искусственный интеллект своими побудительными мотивами еще меньше будет напоминать человека, чем зеленый чешуйчатый пришелец из космоса”.
Ник Бостром — шведский философ, профессор Оксфордского университета, сооснователь Всемирной ассоциации трансгуманистов и директор созданного в 2005 году в Оксфорде Института будущего человечества. Он пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума. Что случится, если машины превзойдут людей в интеллекте? Будут ли они помогать нам или уничтожат человечество? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности? Ник Бостром описывает сложные научные вопросы о будущем человечества доступным языком.
Информация об Авторе:
Ник Бостром (/ˈбɒстрəm/ Бост-rəm; шведский: Никлас Бострем [ˈnɪkːlas ˈbûːstrœm]; родился 10 марта 1973 года) – шведский философ в Оксфордский университет известен своими работами по экзистенциальный риск, что антропный принцип, человеческого совершенствования этики, весь мозг эмуляции, суперинтеллект риски, и разворот тест. В 2011 году он основал Оксфордскую программу Мартина о влиянии технологий будущего, и является директором-основателем Института будущего человечества при Оксфордском университете. В 2009 и 2015 годах он был включен в список 100 лучших мировых мыслителей по версии Foreign Policy.
