ТЕМА

"ПРОСНИСЬ, НЕО!": ОПАСНОСТИ ТЕХНОТРОННОЙ ЭРЫ

25 сентября 2017 | 15:40 , Валерий Спиридонов

распечатать        комментарии [0]       добавить в

Валерий Спиридонов, первый кандидат на пересадку тела, рассказывает о том, как дальнейшее развитие робототехники и искусственного интеллекта может поменять мораль и этику общества уже в ближайшие годы.


Сам термин "робот" происходит от словацкого слова rabota — "тяжкий труд". От книжных фантазий в 1920-х годах роботехника проделала быстрый путь до первых попыток ее внедрения в реальную жизнь, пока наконец в Японии в 1968 году не был создан первый промышленный робот. С тех пор их постоянно развивают и совершенствуют.

Конец XX и начало XXI века поставили перед человеком новую дилемму: теперь машины оперируют таким огромным количеством информации в условиях многозадачности, что способны попросту заменить людей во многих жизненных сферах. Слишком "умные" компьютерные системы все активнее внедряются в жизнь человечества, что рождает необходимость выработки новых принципов взаимодействия с ними уже сегодня.

THE FUTURE IS COMING: КАКИЕ ВЫЗОВЫ БРОСАЕТ ЧЕЛОВЕКУ ПОВСЕМЕСТНОЕ ВНЕДРЕНИЕ РОБОТОВ?

Говоря о технотронной эре и технологическом будущем с разумными или просто самостоятельными машинами, автономно действующими в сложных ситуациях, человек неизбежно оказывается заложником стереотипов массовой культуры. На ум сразу же приходят апокалиптические картины войны людей и роботов из "Терминатора" или "Матрицы". Если же кровопролития в наших представлениях и удается избежать, то будущее все равно видится слишком мрачным: не требующие зарплаты, отпуска и льгот машины отбирают рабочие места. Эти умозаключения ошибочны и уводят от реальных, а не выдуманных проблем.

Подлинным вызовом является утрата человеком своей уникальности в качестве субъекта осознанного бытия. Если в мире появляются новые системы, способные решать сложные задачи в сто раз лучше людей, то последние теряют свою монополию на действия в истории, культуре, производстве и так далее.

Говоря проще, машины, которые умеют принимать решения в сложных ситуациях, неизбежно меняют социальную реальность со всеми вытекающими последствиями, и это — настоящий, а не выдуманный риск, требующий выработки новой парадигмы взаимодействия с роботами. Она должна основываться на этике и морали.

МОРАЛЬНЫЙ ВЫБОР ИЛИ ХОЛОДНЫЙ РАСЧЕТ: КАК СДЕЛАТЬ РОБОТОВ ЧЕЛОВЕЧНЫМИ?

Создавая и совершенствуя машины, человек неизбежно сталкивается с необходимостью внедрения в их программный код определенного морально-этического кодекса. В противном случае антиутопичные картины мира "Матрицы" и "Механического пианино" становятся уже не столь фантастическими.

Реальный вариант ближайшего будущего нашего мира — совместное развитие людей и роботов, что гораздо сложнее глупой гипотезы о "воровстве рабочих мест". Сложнее прежде всего на социальном уровне, потому что все теории общественного взаимодействия, созданные человечеством, являются антропоцентричными, то есть ориентированными исключительно на людей, но не на искусственный интеллект. Машинам нужна этика, и этой этике их должен обучить человек. Вопрос лишь один: как?

Сегодня в MIT развивается и работает проект Moral Machine. Он направлен на обучение роботов человеческой морали. Его суть в том, что совершенно разные люди проходят специальные тесты, направленные на изучение их этических качеств, проявляющихся в сложных жизненных ситуациях.

Классический пример: во время езды на полном ходу сбить насмерть пешехода, неожиданно переходящего дорогу в неположенном месте, либо же свернуть в сторону деревьев или столба, практически гарантированно обрекая себя на смерть?

Ответы на эти вопросы позже загружаются в память машины, которая путем статистических вычислений выбирает наиболее близкий человеческой морали вариант поведения в той или иной ситуации. Иного способа обучить этике роботов пока что не придумано. Однако здесь и находится главный "подводный камень": а что вообще считать моральным?

ЭТИКА И МОРАЛЬ ЧЕЛОВЕКА И МАШИНЫ: НЕЗЫБЛЕМЫЕ ДОГМЫ ИЛИ ПЛАСТИЧНЫЙ СУБСТРАТ?

Крайне занимательно то, что считается человеком этикой и моралью. Важно понимать, что эти понятия всегда были продуктом своей эпохи, неоднократно меняясь в процессе эволюции. Начав с деспотии и рабовладельческого строя, человеческая цивилизация впоследствии пришла к демократии, всеобщей свободе и правам человека. Ведь не зря Макиавелли полагал, что этика повсеместно зависит от окружающей действительности, а Ницше называл мораль "прокрустовым ложем сверхчеловека".

Этика — это то, что считается этичным в данном обществе в текущую эпоху и в это время. Но теперь этика еще и опосредована большими данными. То есть робот, который едет по дороге, будет вести себя этичным образом, поскольку в его работе будут учитываться все вероятные случаи и статистическое мнение людей по поводу всех возможных этических проблем. Вот в чем заключается самообучаемость машины.

Из этого должна исходить модель социального взаимодействия робота и человека: для того, чтобы не превратиться в некий аналог deus ex machina с универсальными ценностями-догмами, машина обязана быть "человечной" и обучаемой. В противном случае сегодняшняя моральная парадигма человечества окажется законсервированной на века, а консерватизм без развития приведет к вырождению и деградации.

QUO VADIS

Роботехника сегодня бурно развивается, и скоро вопросы взаимоотношений людей и машин в социальном плане встанут для общества ребром. Роботизированные компьютерные системы помогают нам в современных клиниках, они могут как заниматься сверхточными операциями, так и ухаживать за больными. Они способны охранять наши дома, идентифицировать и выслеживать преступников, управлять средствами передвижения, следить за детьми и выгуливать животных.

Роботы годятся даже для досуга: сегодня активно обсуждается возможность создания секс-андроидов, а в Японии недавно придумали робота, который может выпивать с хозяином и даже поддерживать разговор! Все это — не фантастика, а реальность, которая пока не слишком распространена лишь в силу своей дороговизны и отсутствия мощностей для массового производства. 

Полноценный робот будущего невозможен без набора определенных моральных качеств. Главный вызов психологии взаимодействия человека и машины в том, как сделать последнюю помощником и партнером для первого, но не превратить ее в нового бога-хранителя универсальных ценностей.

Этические представления людей всегда трансформировались в процессе эволюции, что обеспечивало развитие человеческой цивилизации.

Если этот процесс встанет и законсервируется, то никому не удастся предположить, куда после этого повернет история. А добавив сюда политические кейсы, можно представить, как некая группа людей с апелляцией к незыблемому моральному авторитету попытается зацементировать свою власть, что вполне может привести к многократно описанной футуристической антиутопии.

Источник



Комментировать статью
Автор*:
Текст*:
Доступно для ввода 800 символов
Проверка*:
 

также читайте

Загрузка...

по теме

фототема (архивное фото)

© фото: Олег Ельцов

Міліція з людським обличчям

   
новости   |   архив   |   фототема   |   редакция   |   RSS

© 2005 - 2007 «ТЕМА»
Перепечатка материалов в полном и сокращенном виде - только с письменного разрешения.
Для интернет-изданий - без ограничений при обязательном условии: указание имени и адреса нашего ресурса (гиперссылка).

Код нашей кнопки:

  Rambler's Top100