ТЕМА

"ПРОСНИСЬ, НЕО!": ОПАСНОСТИ ТЕХНОТРОННОЙ ЭРЫ

25 сентября 2017 | 15:40 , Валерий Спиридонов

распечатать        комментарии [0]       добавить в

Валерий Спиридонов, первый кандидат на пересадку тела, рассказывает о том, как дальнейшее развитие робототехники и искусственного интеллекта может поменять мораль и этику общества уже в ближайшие годы.


Сам термин "робот" происходит от словацкого слова rabota — "тяжкий труд". От книжных фантазий в 1920-х годах роботехника проделала быстрый путь до первых попыток ее внедрения в реальную жизнь, пока наконец в Японии в 1968 году не был создан первый промышленный робот. С тех пор их постоянно развивают и совершенствуют.

Конец XX и начало XXI века поставили перед человеком новую дилемму: теперь машины оперируют таким огромным количеством информации в условиях многозадачности, что способны попросту заменить людей во многих жизненных сферах. Слишком "умные" компьютерные системы все активнее внедряются в жизнь человечества, что рождает необходимость выработки новых принципов взаимодействия с ними уже сегодня.

THE FUTURE IS COMING: КАКИЕ ВЫЗОВЫ БРОСАЕТ ЧЕЛОВЕКУ ПОВСЕМЕСТНОЕ ВНЕДРЕНИЕ РОБОТОВ?

Говоря о технотронной эре и технологическом будущем с разумными или просто самостоятельными машинами, автономно действующими в сложных ситуациях, человек неизбежно оказывается заложником стереотипов массовой культуры. На ум сразу же приходят апокалиптические картины войны людей и роботов из "Терминатора" или "Матрицы". Если же кровопролития в наших представлениях и удается избежать, то будущее все равно видится слишком мрачным: не требующие зарплаты, отпуска и льгот машины отбирают рабочие места. Эти умозаключения ошибочны и уводят от реальных, а не выдуманных проблем.

Подлинным вызовом является утрата человеком своей уникальности в качестве субъекта осознанного бытия. Если в мире появляются новые системы, способные решать сложные задачи в сто раз лучше людей, то последние теряют свою монополию на действия в истории, культуре, производстве и так далее.

Говоря проще, машины, которые умеют принимать решения в сложных ситуациях, неизбежно меняют социальную реальность со всеми вытекающими последствиями, и это — настоящий, а не выдуманный риск, требующий выработки новой парадигмы взаимодействия с роботами. Она должна основываться на этике и морали.

МОРАЛЬНЫЙ ВЫБОР ИЛИ ХОЛОДНЫЙ РАСЧЕТ: КАК СДЕЛАТЬ РОБОТОВ ЧЕЛОВЕЧНЫМИ?

Создавая и совершенствуя машины, человек неизбежно сталкивается с необходимостью внедрения в их программный код определенного морально-этического кодекса. В противном случае антиутопичные картины мира "Матрицы" и "Механического пианино" становятся уже не столь фантастическими.

Реальный вариант ближайшего будущего нашего мира — совместное развитие людей и роботов, что гораздо сложнее глупой гипотезы о "воровстве рабочих мест". Сложнее прежде всего на социальном уровне, потому что все теории общественного взаимодействия, созданные человечеством, являются антропоцентричными, то есть ориентированными исключительно на людей, но не на искусственный интеллект. Машинам нужна этика, и этой этике их должен обучить человек. Вопрос лишь один: как?

Сегодня в MIT развивается и работает проект Moral Machine. Он направлен на обучение роботов человеческой морали. Его суть в том, что совершенно разные люди проходят специальные тесты, направленные на изучение их этических качеств, проявляющихся в сложных жизненных ситуациях.

Классический пример: во время езды на полном ходу сбить насмерть пешехода, неожиданно переходящего дорогу в неположенном месте, либо же свернуть в сторону деревьев или столба, практически гарантированно обрекая себя на смерть?

Ответы на эти вопросы позже загружаются в память машины, которая путем статистических вычислений выбирает наиболее близкий человеческой морали вариант поведения в той или иной ситуации. Иного способа обучить этике роботов пока что не придумано. Однако здесь и находится главный "подводный камень": а что вообще считать моральным?

ЭТИКА И МОРАЛЬ ЧЕЛОВЕКА И МАШИНЫ: НЕЗЫБЛЕМЫЕ ДОГМЫ ИЛИ ПЛАСТИЧНЫЙ СУБСТРАТ?

Крайне занимательно то, что считается человеком этикой и моралью. Важно понимать, что эти понятия всегда были продуктом своей эпохи, неоднократно меняясь в процессе эволюции. Начав с деспотии и рабовладельческого строя, человеческая цивилизация впоследствии пришла к демократии, всеобщей свободе и правам человека. Ведь не зря Макиавелли полагал, что этика повсеместно зависит от окружающей действительности, а Ницше называл мораль "прокрустовым ложем сверхчеловека".

Этика — это то, что считается этичным в данном обществе в текущую эпоху и в это время. Но теперь этика еще и опосредована большими данными. То есть робот, который едет по дороге, будет вести себя этичным образом, поскольку в его работе будут учитываться все вероятные случаи и статистическое мнение людей по поводу всех возможных этических проблем. Вот в чем заключается самообучаемость машины.

Из этого должна исходить модель социального взаимодействия робота и человека: для того, чтобы не превратиться в некий аналог deus ex machina с универсальными ценностями-догмами, машина обязана быть "человечной" и обучаемой. В противном случае сегодняшняя моральная парадигма человечества окажется законсервированной на века, а консерватизм без развития приведет к вырождению и деградации.

QUO VADIS

Роботехника сегодня бурно развивается, и скоро вопросы взаимоотношений людей и машин в социальном плане встанут для общества ребром. Роботизированные компьютерные системы помогают нам в современных клиниках, они могут как заниматься сверхточными операциями, так и ухаживать за больными. Они способны охранять наши дома, идентифицировать и выслеживать преступников, управлять средствами передвижения, следить за детьми и выгуливать животных.

Роботы годятся даже для досуга: сегодня активно обсуждается возможность создания секс-андроидов, а в Японии недавно придумали робота, который может выпивать с хозяином и даже поддерживать разговор! Все это — не фантастика, а реальность, которая пока не слишком распространена лишь в силу своей дороговизны и отсутствия мощностей для массового производства. 

Полноценный робот будущего невозможен без набора определенных моральных качеств. Главный вызов психологии взаимодействия человека и машины в том, как сделать последнюю помощником и партнером для первого, но не превратить ее в нового бога-хранителя универсальных ценностей.

Этические представления людей всегда трансформировались в процессе эволюции, что обеспечивало развитие человеческой цивилизации.

Если этот процесс встанет и законсервируется, то никому не удастся предположить, куда после этого повернет история. А добавив сюда политические кейсы, можно представить, как некая группа людей с апелляцией к незыблемому моральному авторитету попытается зацементировать свою власть, что вполне может привести к многократно описанной футуристической антиутопии.

Источник



Комментировать статью
Автор*:
Текст*:
Доступно для ввода 800 символов
Проверка*:
 

также читайте

по теме

Итоги шведского эксперимента по борьбе с КОВИД

22. 10. 2020 | 09:16 , Дарья Спасская

На прошлой неделе журнал Science опубликовал публицистическую статью, в которой журналисты совместно с членами шведского независимого научного комитета Vetenskapsforum COVID-19 рассказали, как весной в Швеции развивалась эпидемия коронавируса, и проанализировали текущую ситуацию с ковидом в стране. В отличие от большинства европейских стран и скандинавских соседей, Швеция с самого начала пандемии отказалась от жестких мер сдерживания вируса. Это решение на протяжении 2020 года бурно обсуждалось во всем мире. «Медуза» рассказывает, как «шведский путь» оказался радикальным социальным экспериментом, чем он на самом деле закончился — и поменял ли в итоге свою точку зрения его идеолог, главный местный эпидемиолог Андерс Тегнелл.Шведские власти в разгар эпидемии запрещали носить маски. Даже людям в больницах.

ГЕТМАН СКОРОПАДСКИЙ МЕЖДУ СВОИМИ И ЧУЖИМИ

17. 09. 2020 | 08:35 , КИРИЛЛ ГАЛУШКО

Пока в России в начале XX века продолжалась Гражданская война, в Украине происходили собственные политические сюжеты: она разрывалась между стремлением к автономии или независимости, требованиями немецких союзников и внутренней анархией. В таких условиях на короткий срок к власти в качестве своеобразного монарха пришёл Павел Скоропадский — человеколюбивый офицер с английским воспитанием, любовью к стране и милосердием к врагам. Для кого-то его фигура культовая, для кого-то — презираемая. Для Троцкого это был «украинский Бонапарт». Для Деникина — «новый Мазепа». В эмиграции споры противников и сторонников гетмана длились до Второй мировой войны. Менее чем за год своего правления Скоропадский успел заложить многие основы украинской государственности, но в итоге из-за своей терпимости по отношению к разным политическим силам оказался никому не мил. Рассказываем, кем был человек, мечтавший о независимой Украине при конституционной монархии.

фототема (архивное фото)

© фото: УНИАН

Одна з робіт художника-карикатуриста Василя Вознюка (Житомир), представлена на виставці Бліц-Трік в Житомирському професійному ліцеї харчових технологій в середу, 16 травня 2007 р. Свої роботи на виставці представили художники-карикатуристи Василь Вознюк (Житомир), Георгій Майоренко (Київ) і Олег Середа (Київ). Фото Володимира Соболя

   
новости   |   архив   |   фототема   |   редакция   |   RSS

© 2005 - 2007 «ТЕМА»
Перепечатка материалов в полном и сокращенном виде - только с письменного разрешения.
Для интернет-изданий - без ограничений при обязательном условии: указание имени и адреса нашего ресурса (гиперссылка).

Код нашей кнопки:

  Rambler's Top100