ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ЭТАПЫ, УГРОЗЫ, СТРАТЕГИИ
Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?
В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.
-Уже сегодня во многих областях деятельности компьютеры опережают человека. Один из главных вопросов состоит в том, может ли ИИ воспроизводить человеческие эмоции, такие как любовь и ненависть, и если может, то как? “Полная эмуляция головного мозга” – это технология, целью которой является создание цифровой копии мозга умершего человека. Отдельный ИИ, получивший контроль над человечеством и остальными ИИ, становится “синглтоном”. Сверхразум может быть “скоростным”, “коллективным” и “качественным”. Генная инженерия к 2050 году позволит создать усовершенствованных людей, чей интеллект будет способен объединяться в коллективный сверхразум. Опасность ИИ состоит в том, что у него нет каких-либо ценностей. Самой большой проблемой в отношении ИИ является введение в него набора этических принципов, которые впоследствии ИИ не сможет исказить или отвергнуть во вред людям. Если ИИ или некая объединенная сущность, обладающая сверхразумом, добьется “решающего стратегического преимущества” в качестве самостоятельной единицы, люди не смогут ее контролировать. Необходимо тщательно взвесить перспективы и риски, связанные с неизбежным “взрывным развитием интеллекта”.
“Нет оснований утверждать, что ИИ среднего уровня начнет руководствоваться человеческими чувствами, такими как любовь, ненависть, гордость”.
Один из критериев мощи ИИ – то, насколько хорошо специально разработанные компьютеры играют в такие игры, как шахматы, бридж, “эрудит”, го и викторина. Примерно через 10 лет компьютер с усовершенствованными алгоритмами сможет одерживать верх над чемпионом мира по го. Кроме игр похожие технологии применяются в слуховых аппаратах, устройствах распознавания лиц и речи, в навигации, диагностике, планировании, логистике, а также для создания промышленных роботов, функционал которых стремительно увеличивается. Тем не менее, несмотря на расширение областей применения ИИ, становятся заметны и признаки, говорящие о его несовершенстве. Так, в 2010 году алгоритмы программ биржевых трейдеров случайно спровоцировали цепную реакцию падения цен, из-за которой фондовый рынок буквально за несколько секунд потерял триллион долларов. Справедливости ради нужно сказать, что алгоритмы, которые привели к возникновению этого кризиса, сами же помогли найти из него выход.
“Пожалуй, искусственный интеллект своими побудительными мотивами еще меньше будет напоминать человека, чем зеленый чешуйчатый пришелец из космоса”.
Ник Бостром — шведский философ, профессор Оксфордского университета, сооснователь Всемирной ассоциации трансгуманистов и директор созданного в 2005 году в Оксфорде Института будущего человечества. Он пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума. Что случится, если машины превзойдут людей в интеллекте? Будут ли они помогать нам или уничтожат человечество? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности? Ник Бостром описывает сложные научные вопросы о будущем человечества доступным языком.
Связь между интеллектом и мотивацией
В книге уже звучало предостережение от ошибки антропоморфизма: не следует проецировать человеческие качества на возможности сверхразумного агента. Мы повторим свое предупреждение, лишь заменив слово возможность на слово мотивация.
Прежде чем развивать дальше первый тезис, проведем небольшое предварительное расследование на тему безграничности всего спектра возможных умов. В этом абстрактном, почти космическом, пространстве возможного человеческий разум составляет ничтожно малый кластер.
Выберем двух представителей человеческого рода, которые согласно общему мнению являются диаметрально противоположными личностями. Пусть это будут Ханна Арендт и Бенни Хилл. Различие между ними мы, скорее всего, оценим как максимальное. Но сделаем так лишь потому, что наше восприятие целиком регулируется нашим же опытом, который, в свою очередь, полагается на существующие человеческие стереотипы (до известной степени мы находимся под влиянием и вымышленных персонажей, созданных опять-таки человеческой фантазией для удовлетворения все того же человеческого воображения).
Ник Бостром (/ˈбɒстрəm/ Бост-rəm; шведский: Никлас Бострем [ˈnɪkːlas ˈbûːstrœm]; родился 10 марта 1973 года) – шведский философ в Оксфордский университет известен своими работами по экзистенциальный риск, что антропный принцип, человеческого совершенствования этики, весь мозг эмуляции, суперинтеллект риски, и разворот тест. В 2011 году он основал Оксфордскую программу Мартина о влиянии технологий будущего, и является директором-основателем Института будущего человечества при Оксфордском университете. В 2009 и 2015 годах он был включен в список 100 лучших мировых мыслителей по версии Foreign Policy.
