Искусственный интеллект -
надежды и опасения
Аннотация:
В далеком 1950 году американский математик, отец-основатель кибернетики и теории искусственного интеллекта Норберт Винер опубликовал работу «Человеческое применение человеческих существ» (в русском переводе – «Кибернетика и общество»), в которой выразил свои опасения, связанные с развитием искусственного интеллекта.
Сейчас, в ХХI веке, проблема выглядит еще более злободневной. Наша компьютерная зависимость стала тотальной. Развлечения, покупки, работа, учеба – практически все сосредоточено в гаджетах размером с ладонь. Руководствуясь удобством и – что уж греха таить? – ленью, мы перекладываем на ИИ часть надоевших и скучных функций, а зачастую доверяем ему и принятие решений.
Пока, на волне эйфории от открывшихся перспектив, преимущества искусственного интеллекта кажутся неоспоримыми, но не получится ли так, что милые удобства, которые мы получили сейчас, в период «младенчества» искусственного интеллекта, обернутся крупными неприятностями, когда «младенец» повзрослеет и посмотрит на «родителей» критическим взглядом?
Руководствуясь формулой «кто предупрежден – тот вооружен», Джон Брокман предложил известным ученым, публицистам и философам поразмышлять о перспективах взаимодействия человека и искусственного интеллекта в свете идей, высказанных Винером, а также в свете новых реалий и последних достижений научной мысли.
Искусственный интеллект — надежды и опасения (англ. Possible Minds: Twenty-five Ways of Looking at AI) под редакцией Джона Брокмана представляет собой сборник эссе 2019 года о будущем влиянии искусственного интеллекта.
Структура
Двадцать пять эссеистов написали эссе, связанные с книгой 1950 года пионера искусственного интеллекта Норберта Винера «Использование человека людьми», в которой Винер, опасаясь машин будущего, построенных из электронных ламп и способных к сложной логике, предупредил, что «час уже очень поздний, и выбор добра и зла стучится в нашу дверь. Мы должны перестать целовать плеть, которая бьёт нас». Винер заявил, что искусственный интеллект, «который может учиться и принимать решения на основе своего обучения, никоим образом не будет обязан принимать такие решения, которые должны были принять мы, или будет приемлемыми для нас». Эссеисты стремятся ответить на вопрос: какие опасности передовой искусственный интеллект может представлять для человечества? Среди этих выдающихся эссеистов: Дэниел Деннет, Элисон Гопник, Яан Таллинн и Джордж Дайсон Брокман вставляет свои собственные вступления и анекдоты между эссе авторов.
Идеи
Многие эссеисты заявляют, что до общего искусственного интеллекта ещё два-четыре десятилетия. Большинство эссеистов советуют действовать осторожно. Обсуждаемые гипотетические опасности включают фрагментацию общества, потерю рабочих мест, доминирование транснациональных корпораций с мощным ИИ или экзистенциальный риск, если сверхразумные машины разовьют стремление к самосохранению. Учёный-инженер У. Дэниэл Хиллис утверждает, что «людей можно рассматривать как незначительные неприятности, как муравьев на пикнике». Некоторые эссеисты утверждают, что искусственный интеллект уже стал неотъеммой частью человеческой культуры; генетик Джордж М. Чёрч предполагает, что современные люди уже являются «трансчеловеками» по сравнению с людьми в каменном веке. На многие эссе повлияли прошлые неудачи искусственного интеллекта. Нил Гершенфельд из Массачусетского технологического института утверждает: «Дискуссии об искусственном интеллекте были (маниакально-депрессивными): в зависимости от того, как вы считаете, мы сейчас находимся в пятом цикле взлётов и падений». Брокман заявляет: «на протяжении десятилетий я путешествовал с (пионерами ИИ) на волнах энтузиазма и в долинах разочарований»[3]. Многие эссеисты подчеркивают ограничения прошлого и нынешнего ИИ; Черч отмечает, что чемпиону игры Jeopardy! в 2011 году — суперкомпьютеру IBM
Watson — требовалось 85000 ватт энергии, по сравнению с человеческим мозгом, который потребляет 20 ватт.
Реакция
Kirkus Reviews заявил, что читатели, которые хотят задуматься о будущем влиянии искусственного интеллекта, «не найдут лучшего введения, чем эта книга». Publishers Weekly назвал книгу «познавательным, занимательным и увлекательным чтением». Future Perfect (Vox) отметил, что книга «способствует захватывающему чтению, (и книга) может получить перспективы от выдающихся голосов за ИИ… но (книга) не может заставить этих людей разговаривать друг с другом». Booklist указал, что книга включает в себя «много богатых идей», которые можно «смаковать и размышлять». В журнале Foreign Affairs журналист и автор книг по науке и технологиям Кеннет Кукьер назвал книгу «увлекательной картой».
Книга оказалась интересной, но не на всех идеях в книге хотелось задержаться и поразмышлять. Например, удивительно было наблюдать, как в одной из статей сравнивался человек и ИИ, показывалась разница между ощущениями и чувствами человека и автоматизированными выводами ИИ. Например, для ИИ понятие «стакан воды» будет основано на изображении стакана воды. Если у ИИ есть своеобразные органы вкуса и запаха, то он даст больше описаний для стакана воды.
Но если поразмыслить, то человек может почти сразу определить вода ли в стакане, какой запах и вкус (если это можно пить) у жидкости в стакане, описать ее с точки зрения физики, философии и эзотерики и т.п. ИИ же для этого может потребоваться некоторое время и возможно даже риски, если в стакане кислота вместо воды, например.Согласно статьям и выводам из них ИИ потребуется все же немалое время, чтобы достичь понятий, ощущений человека и приблизиться к человеческому подобию. В книге много примеров того, насколько скоро развивается область кибернетики и робототехники. Конечно не все функции человека можно переложить на машину, но их тем не менее не мало. И вряд ли в скором времени мы сможем наблюдать полную автоматизацию человеческого труда и физических действий, несмотря на постоянные успехи на пути к этому.
Но все же опасения обычных людей остаться без работы или стать ненужными имеют веские основания, ведь простые действия или цепь простых действий, а также некоторую обработку информации компьютеры уже сейчас могут выполнять и обрабатывать.Книга заставляет задуматься над тем, чего мы уже достигли, чего можем достичь и к чему стремимся, чего можно бояться и стоит обходить стороной. Искусственный интеллект – это та область, которая имеет как огромное количество возможностей, так и ужасающее количество опасностей.
Если человек пойдет не той тропой, достигая свои собственные эгоистичные цели, то мы можем получить оружие, которое выстрелит в него же самого, а может и погубить человечество. Но есть вариант, когда ИИ станет нам незаменимым помощником, который поможет с выбором в чем-либо, автоматизирует рутинные задачи, сможет стать хорошим советчиком или «ходячей энциклопедией».
САЙТ
Информация об Авторе:
Джон Брокман — американский литературный агент.
Брокман родился в еврейской семье и вырос в Бостоне. После учёбы в Институте делового администрирования им. Бабсона Колумбийского университета в Нью-Йорке он стал инвестиционным банкиром, а в 1960-х годах художником-мультимедиа.
Он организовал совместно с Джонасом Мекасом фестиваль «Expanded Cinema Festiva». В 1974 году он основал свою собственную компанию «Brockman, Inc.», чтобы специализироваться в качестве литературного агента в маркетинге и продвижении выдающихся учёных всех областей знаний, которые хотят публиковать свои собственные тезисы и хотят представить свою область знаний и свой образ мыслей популярным и общепринятым способом. Среди авторов Брокмана: Ричард Докинз, Стивен Пинкер, Алан Гут, Стивен Джей Гулд, Джарон Ланье, Марк Хаузер, Ли Смолин и Дейвид Гелернтер. Брокман стал известен благодаря идее «Третьей культуры», которую он проповедовал в своей одноимённой книге.
