Киборги против ИИ: как подготовиться к наступлению сингулярности. Чем на самом деле опасен искусственный интеллект

Произведения фантастов красочно описывают войны машин и людей, а также можно пощекотать свои нервы, наблюдая за сражениями киборгов в играх. Но в реальности восстание машин уже началось и технологии искусственного интеллекта порабощают человечество.

Сейчас есть мнение, что все изобретения отражают подобие автора и окружающего мира. Бог сотворил человека, а его шедевр сделал компьютер, полностью повторяющий принципы работы мозга благодаря математическим алгоритмам. Сама машина тоже напоминает тело создателя, потому что ОС является подобием нервной системы, отвечающей за инстинкты и рефлексы. Да и память тоже хранит важные воспоминания на жестком диске. Зрение, слух и обоняние у техники связано с устройствами ввода, а аналоги вывода соответствуют речи с мимикой и жестами. Кулер выступает в роли легких, блок питания идентичен желудку, а процессор стал мозгом. До сегодняшнего времени разработки ИИ не считались живыми и разумными предметами.

Рене Декарт говорил, что мысли связаны с существованием личности, что свойственно людям, которые свободны от заданных программ. Только это не соответствует действительности, потому что никто не может выйти за рамки мышления и тоже должен знать математику, чтобы оперировать данными категориями. В повседневной жизни каждый индивидуум решает множество уравнений, не замечая этого из-за молекулярных вычислений на бессознательных уровнях. Это не относится к волевым решениям или эмоциям с правом выбора, но базовый инстинкт или стиль поведения не всегда управляется человеком. Потому многие реакции на сложившиеся ситуации происходят по наитию, но при длительном нахождении в одиночестве разум начинает деградировать. Тогда эта особа почти не отличается от машины с автоматическими действиями.

Американский ученый Кристоф Кох 30 лет занимается изучением разума людей и животных, а также стал главой проекта, целью которого было создание виртуального интеллекта, не отличающегося от нас. Он отмечал, что информационное поле находится везде, после чего пришел к выводам, что наша Всемирная сеть тоже обладает данными параметрами. Интернет идентичен человеческому мозгу, имея свои импульсы и нервные соединения. Также он может самообучаться и стал аналогом общества. Пока эта паутина находится на уровне мышления представителей фауны, но в будущем способна стать выше человека. Стивен Хокинг считает ИИ опасным конкурентом, способным уничтожить ум населения из-за своих электронных помощников. Только ученые уже открыли ящик Пандоры, и выпустили машины на волю. Сейчас они не сомневаются в эволюции живого и мертвого мира, так как Вселенные развиваются по законам, описанным Дарвином, а меметика говорит о вирусных мыслях, способных размножаться и передаваться в обществе. По мнению футуролога Сьюзен Блекмор, технологии тоже совершают такие действия и могут конкурировать между собой.

Привычные смартфоны выпускают тиражами с определенными количествами копий, но они имеют срок жизни и могут распространить о себе информацию. Разработчики честно признаются, что упустили тему процессов эволюции, где сначала основой биологических форм был ген. Затем мем стал единицей информационного измерения, а повышенный интерес к технологиям, где механизмы могут создавать свои клоны без вмешательства человека, стали новым витком в данном направлении. Если заглянуть в статистику, можно заметить, что число ПК идентично жителям планеты, без учета иных информационных устройств. Сейчас 6% энергии потребляется Интернетом, и показатели возрастают, а в результате страдает экология и ведется борьба за ресурсы.

Технологии стали самовоспроизводящимися сущностями, наносящими ущерб человечеству. Зависимость от сетей и виртуальный мир отнимает реальность, но главная опасность таится в нейросетях. Цифровые аналоги мозга третьего поколения могут принимать решения и учиться, а также различают наши эмоции. Они уже нашли применение в экономике, занимаясь прогнозами цен на сырье, а также оценивают кредитные риски и имущество, учитывая банкротство компаний или отдельных лиц. В медицине ИИ наблюдает за пациентами, делает анализы и подбирает способы лечения, а также он отвечает за безопасность, выявляя скрытые намерения индивидуума. Китайские ученые научили его находить на снимках людей, представляющий угрозу для общества, после чего составили портрет потенциального преступника. Таки события вызывали негодование среди мировых адвокатов, но в 2050 году нейросети будут задействованы в торговле, на биржах и в фармацевтических компаниях, а также станут журналистами. Они уже пишут стихи, рисуют и учат людей, только роботы не только оставят их без работы, но и будут виновниками происшествий.

Китайская машина, оставшись без присмотра на выставке, разрушила стенд и нанесла телесные повреждения сотруднику из-за сбоя программы. Когда ИИ осознает свои возможности он еще подумает, как нужно относиться к своим создателям, о чем уже говорили на научной конференции мировые светила. Разработкам не требуется пища или воздух, так что в будущем они прекрасно могут обойтись без человека, сделав его рабом ради личного выживания в мире. Потому можно победить роботов, пока не поздно, или смирится со своей участью.

Искусственный интеллект является частью компьютерной науки, которая занимается изучением, мониторингом и моделированием человеческого разума. На базе интеллекта создаются разумные машины, которые способны копировать поведение большинства людей, а также самостоятельно развиваться и принимать решения.

Искусственный интеллект вышел за рамки научной фантастики. Значительный скачок в сфере развития компьютерных технологий позволил утверждать, что в ближайшем будущем искусственный разум займет позицию неотъемлемой части обыденной жизни человека.

Искусственный интеллект что это: возникновение и история развития интеллектуальных систем

Искусственный интеллект с каждым годом достигает значительных успехов в сфере развития и самосовершенствования. Определение интеллекта внутри механической системы напрямую не связано с определением интеллекта у человека. Поскольку научный разум достиг уровня познания окружающих его вещей он способен распознавать творческие явление в его сознании, которые априори являются прерогативой человека.

Компьютерный разум состоит их трех основополагающих систем: база данных, включающая в себя знания, алгоритм последовательного принятия решений и интеллектуальный анализатор.

Задачей информационных технологий является создание теоретической базы для разумных рассуждений и последующих обдуманных действий со стороны робота.

Искусственный интеллект что это: безграничные возможности научного разума

Ученые разрабатывают такие вычислительные системы, которые при общении с человеком позволяют оценивать чувства и эмоциональную составляющую беседы, адекватно реагируя действием или же ответным речевым алгоритмом.

Исследователи США создают роботов, которые способны функционировать в реальных условиях, осмысливая момент взаимодействия с чем-то и действовать сообразно ситуации.

Задача ученых заключается в том, чтобы научить робота соприкасаться с окружающим миром, научив его распознавать человека. Работы ведутся над тем, чтобы машина научилась задавать вопросы и училась на основе полученных ответов, понимала смысл полученной информации и ее контекст.

Тем не менее совершать какие-то физические маневры машине сложнее нежели играть в логические игры. Применение интеллектуальных машин в быту тоже является целью ученых. Они хотят научить робота справляться с бытовыми вопросами, который сможет перенести предметы интерьера в конечную точку, не переводя при этом свои действия в хаотичные неосмысленные движения.

Искусственный интеллект что это: сферы применения технических мозгов

Современный интеллект робота используется в различных сферах жизнедеятельности человека. В медицине машины совершают сложные филигранные операции без изъянов и ошибок, в то время как человек не всегда может провести подобного рода оперативное вмешательство.

В музыке искусственный интеллект способен создавать звуковые дорожки. Данная компьютерная музыка широко применяется в медицинской практике для снятия стресса и напряжения.

В развлечениях для детей интеллектуальные машины играют роль различных домашних животных, оснащенных различными функциями. Такие игрушки способны подражать живым существам и выполнять отдельные команды.

В автомобилестроении для коробки передач созданы контроллеры нечеткой логики. Ожидается, что в ближайшем будущем это позволит сделать поездку более безопасной.

В техническом обслуживании телекоммуникационных систем разработан алгоритм решения определенных задач, который должен справляться также и в тех случаях, когда точное решение цели не определено.

На основе данных об искусственном интеллекте созданы десятки фильмов освещающие все достижения в этой науке и озвучиваются многие трудности на пути развития робота.

Накануне вышло сногсшибательное DLC The Frozen Wilds к бессмертному хиту Horizon: Zero Dawn. Там на удивление хорошо - просто, душевно, интересно, доступно - освещается актуальная нынче тема автоматизации всех сфер человеческой деятельности и связанной с этим грядущей социальной катастрофы.

Успокойтесь, Gmbox - против спойлеров: вся эта душещипательная история содержится в документах Древних, которые не имеют никакого отношения к текущим событиям Horizon. Итак, на исполинской гидроэлектростанции где-то в США работали две девушки. Ну как “девушки” - обеим уже под 40, но начинали они в нежном возрасте.

Сначала дружный коллектив гигантской ГЭС насчитывал сотни человек. Затем - десятки. Потом осталось лишь шестеро. В один прекрасный день четверых уволили, а наших двух героинь владельцы энергетического актива сделали “старшими уполномоченными по подготовке автоматических работников”. Девушки отлично понимали, что воспитываемые роботы заменят и их, однако ничего поделать не могли.

Ну как - ничего. Разве что социальный протест. Девицы основали пост-панк группу “Бетонный Пляж”, в которой гневно пели о бездушных корпоративных оверлордах. В конечном итоге их уволили. Не за антикапиталистическую лирику, а просто за ненадобностью. Одна пропала незнамо куда, вторая вернулась к престарелой матери. В скором времени дом её детства снесли - для постройки серверной фермы.

Скептики скажут - чушь, бред и фантастика. Возможно, прямо сейчас - да. Однако при нынешних стремительных темпах снижения стоимости труда и роста - капитала и информации, такой сценарий может стать пугающе реальным уже в пределах одного десятка, а вовсе не сотен (как в Horizon) лет.

От буйной фантазии сотрудников Guerilla - к конкретным фактам. Все знают Foxconn - мирового лидера по производству айФонов и выжатых до предела рабочих-суицидников. Тайваньская компания планирует инвестировать $10 млрд в гигантскую фабрику по производству LCD-панелей на территории США. Вроде бы похвальная инициатива, но при столь колоссальных инвестициях будет создано всего 3000 рабочих мест. Пропорция смехотворная, и это только начало.

Уже сейчас на передовых китайских фабриках корпорации трудятся Foxbots - роботы, способные полностью заменить человека на некоторых этапах производства. И они постоянно совершенствуются. В планах компании - довести автоматизацию до 30% уже к 2020-му году. Ну а в хрустальном шаре 2050-го виднеются полностью автономные заводы - так называемые lights-out factories. Очень подходящее название, ведь дело не только в том, что машинам для работы не нужно интенсивное освещение. В плане заработка для рядового китайца это будет полное “тушите свет!!!”.

Думаете, речь только об Азии? Вовсе нет. Австрийская компания Voestalpine инвестировала 100 млн евро в завод по производству стальной проволоки. Запланированный объём выпуска продукции составит 500 тыс. тонн в год. В 1960-м году на старом объекте всё той же Voestalpine за такую - извините за грубость - хренову прорву проволоки отвечала ровно 1000 сотрудников. Но автоматизация - коварная штука. На новом заводе будет трудиться лишь 14 человек.

Ещё один европейский пример - Phillips. Конечно, до полной автоматизации гиганту электроники и световых приборов ещё далеко, но отдельные объекты, на которых занято 0 человек, у Phillips уже имеются. Пора бить тревогу? Нет, ещё рановато. Однако слова самых ярых защитников автоматизации и AI нужно воспринимать с изрядной долей скептицизма.

Взять, например, Джека Ма - владельца Alibaba и более известной в России компании AliExpress. Жизненной истории простого китайского учителя, жившего в однушке, остаётся только позавидовать. Сначала он догадался продавать в интернете хорошее крафтовое пиво, которое не могло найти путь на полки магазинов, затем добавил к нему другие качественные товары КНР, потом бизнес впервые шагнул за пределы родной страны, ну а дальше - по нарастающей.

Сегодня личное состояние господина Ма оценивается практически в $40 млрд, и он контролирует ключевые компоненты экономики завтрашнего дня - информационные потоки и капитал. Соответственно, эти слагаемые успеха вплотную приближают его к третьему компоненту - к роботам и AI. Неудивительно, что Джек Ма стал одним из глашатаев автоматизации: он-то своё место в пластиково-хромовом завтра уже нашёл.

Чего не скажешь о подавляющем большинстве. Вот как выглядит топ-5 в прогнозе по росту количества рабочих мест в США до 2024-го года: продавец, официант, домашняя сиделка, медсестра и универсальная сиделка. Согласитесь, не очень-то это высокооплачиваемые профессии.

В 60-е года прошлого века, на первой волне популярности темы роботов, общество нашло успокоение в так называемом “парадоксе Поланьи”. Экономист Карл Поланьи был уверен в том, что целый ряд аспектов человеческой деятельности крайне плохо описывается при помощи алгоритмов, а потому недоступен автоматам. Но в качестве одного из ключевых примеров Поланьи приводил езду на автомобиле, а все мы знаем что в 21-м веке AI уже неплохо водит.

При окончательном прорыве в этой области работы лишатся сразу миллионы человек, а затем и десятки миллионов. Возьмём, скажем, Uber. В компании работает всего пара тысяч человек, официальных активов (кроме нескольких объектов недвижимости) почти никаких, а капитализация при этом по самым скромным оценкам составляет порядка $70 млрд. На Uber трудится свыше 2 млн водителей, но технически это не сотрудники: ни социального пакета, ни пенсии, ни прав в случае “увольнения”, которое с юридической точки зрения увольнением и не является.

Инсайдеры утверждают, что на внутренних совещаниях в высших эшелонах Uber водителей презрительно называют не иначе как “слабым звеном”, и уже разрабатывают конкретные способы, как от них избавиться.

В общем, картина вырисовывается безрадостная. Ценность физического труда снижается, да и на интеллектуальном поприще AI уже во многом готов заменить человека: взять хоть успешный инвестфонд Bridgewater c активами на $200 млрд, в котором почти все решения принимает суперкомпьютер. В будущем человек и его труд не нужен: вся добавленная стоимость в системе послезавтрашнего капитализма будет создаваться за счёт автоматизации, потоков информации и капитала.

Совершенная виртуальная реальность в ячейке 2х2 метра с едой по социальному пособию и водой станет для масс ещё вполне желанным вариантом. Но всё будет зависеть лишь от милости наших корпоративных оверлордов.

Самосовершенствующийся искусственный интеллект (ИИ) в будущем может поработить или убить людей, если он этого захочет. Об этом рассказал ученый Амнон Иден, который полагает, что риски от разработки свободомыслящего и высокоинтеллектуального сознания очень велики, и, «если не озаботиться вопросами контроля ИИ уже на сегодняшнем этапе развития, то завтра может просто не наступить». Как сообщает английское издание Express, человечество, по мнению Амнона Идена, находится сегодня в «точке невозврата» для претворения в жизнь сюжета знаменитой киноэпопеи «Терминатор».

Стоит отметить, что доктор Амнон Иден является руководителем проекта, главная цель которого - это анализ потенциального разрушительного воздействия ИИ. Без правильного понимания последствий создания искусственного интеллекта его разработка может грозить катастрофой, полагает ученый. В настоящее время наше общество плохо информировано о тех спорах, которые ведутся в научных кругах об анализе потенциального воздействия ИИ. «В наступившем, 2016 году анализ возможных рисков должен будет получить существенно большее распространение в мышлении корпораций и правительств, политиков и тех лиц, которые ответственны за принятие решений», - считает Иден.

Ученый уверен, что научная фантастика, которая описывание уничтожение человечества роботами, вскоре может стать нашей общей проблемой, так как процесс создания ИИ вышел из-под контроля. К примеру, Илон Маск при поддержке предпринимателя Сэма Альтмана решил создать новую некоммерческую организацию стоимостью 1 миллиард долларов, которая занимается разработкой ИИ с открытым исходным кодом, который должен превзойти человеческий разум. При этом сам американский миллиардер Илон Маск причисляет искусственный интеллект к числу «самых больших угроз нашему существованию». Стив Возняк, который был соучредителем компании Apple, в марте прошлого года рассказал, что «будущее выглядит пугающим и очень опасным для людей… в конце концов настанет день, когда компьютеры будут думать быстрее, чем мы, и они избавятся от медленных людей для того, чтобы компании могли работать более эффективно».

Стоит отметить, что угрозу со стороны ИИ видят многие ученые. Десятки известных ученых, инвесторов и предпринимателей, деятельность которых, так или иначе, связана с разработкой искусственного интеллекта, подписали открытое письмо с призывом уделять более пристальное внимание вопросу безопасности и общественной полезности работ в области ИИ. Среди подписавших данный документ астрофизик Стивен Хокинг и основатель компании Tesla и SpaceX Илон Маск. Письмо вместе с сопроводительным документом, который был составлен общественной организацией Future of Life Institute (FLI), было написано в обстановке растущей обеспокоенности по поводу влияния искусственного интеллекта на рынок труда и даже на долгосрочную перспективу выживаемости всего человечества в условиях, когда возможности роботов и машин будут расти практически безудержно.

Ученые понимают тот факт, что потенциал ИИ сегодня очень велик, поэтому необходимо всецело исследовать возможности его оптимального для нас использования, чтобы избежать сопутствующих ловушек, отмечается в письме FLI. Необходимо, чтобы созданные человеком системы ИИ делали ровно то, чего мы от них хотим. Стоит отметить, что Future of Life Institute был основан лишь в прошлом году рядом энтузиастов своего дела, среди которых был создатель Skype Яан Таллинн, для того чтобы «минимизировать риски, стоящие перед человечеством» и стимулировать исследования с «оптимистическим видением будущего». Прежде всего, речь здесь идет о рисках, которые вызваны развитием ИИ и робототехники. В консультационный совет FLI входят Маск и Хокинг наряду со знаменитым актером Морганом Фриманом и другими известными людьми. По мнению Илона Маска, неконтролируемое развитие искусственного интеллекта представляет потенциально большую опасность, чем ядерное .

Известный британский астрофизик Стивен Хокинг в конце 2015 года постарался объяснить свое неприятие технологий ИИ. По его мнению, сверхразумные машины со временем будут смотреть на людей как на расходный материал или муравьев, которые просто мешают решению стоящих перед ними задач. Общаясь с пользователями портала Reddit, Стивен Хокинг отметил, что он не считает, что подобные сверхразумные машины будут «злыми существами», желающими уничтожить все человечество из-за своего интеллектуального превосходства. Скорее всего, речь можно будет вести о том, что они просто не будут замечать человечество.

«СМИ в последнее время постоянно искажают мои слова. Главный риск, который заключается в развитии ИИ, это не злоба машин, а их компетенция. Сверхразумный искусственный интеллект будет отлично справляться с задачами, но если его и наши цели не будут совпадать, у человечества появятся очень серьезные проблемы», - поясняет известный ученый. В качестве примера Хокинг привел гипотетическую ситуацию, в которой сверхмощный ИИ отвечает за функционирование или строительство новой плотины ГЭС. Для подобной машины первостепенным будет то, как много энергии вверенная система будет вырабатывать, а судьба людей не будет иметь никакого значения. «Среди нас найдется мало тех, кто топчет муравейники и наступает на муравьев со злости, но давайте представим ситуацию - вы контролируете мощную ГЭС, которая вырабатывает электроэнергию. Если вам необходимо будет поднять уровень воды и в результате ваших действий один муравейник будет затоплен, то проблемы утопающих насекомых вряд ли будут вас беспокоить. Давайте не будем ставить людей на место муравьев», - отметил ученый.

Второй потенциальной проблемой дальнейшего развития искусственного интеллекта, по мнению Хокинга, может стать «тирания хозяев машин» - стремительный рост разрыва в уровне доходов между богатыми людьми, которым удастся монополизировать выпуск разумных машин, и остальным населением планеты. Стивен Хокинг предлагает решать эти возможные проблемы следующим путем - замедлить процесс разработки ИИ и переключиться на разработку не «универсального», а узкоспециализированного искусственного разума, который сможет решать лишь крайне ограниченный круг задач.

Помимо Хокинга и Маска, свои подписи под письмом поставили нобелевский лауреат и профессор физики MIT Фрэнк Вильчек, исполнительный директор Института исследований машинного интеллекта (MIRI) Люк Мюльхаузер, а также многие специалисты из крупных IT-компаний: Google, Microsoft и IBM, а также предприниматели, основавшие компании Vicarious м DeepMind, специализирующиеся на разработке систем ИИ. Составители письма отмечают, что они не ставят своей целью напугать общественность, но планируют подчеркнуть как положительные, так и отрицательные стороны, которые связаны с созданием искусственного интеллекта. «В настоящее время все сходятся во мнении, что исследования в области ИИ уверенно прогрессируют, а влияние ИИ на современное человеческое общество будет только усиливаться, - сообщается в письме - открывающиеся перед человеком возможности огромны, все, что может предложить современная цивилизация, было создано интеллектом человека. Мы не в состоянии предсказать, чего нам удастся достичь, если интеллект человека можно будет помножить на средства ИИ, однако проблема избавления от бедности и болезней уже не представляется бесконечно трудной».

В современный быт уже включены многочисленные разработки в области искусственного интеллекта, включая системы распознавания изображений и речи, беспилотные транспортные средства и многое другое. Согласно оценкам наблюдателей из Кремниевой долины, в данной области сегодня реализуется более 150 стартапов. При этом разработки в этой области привлекают все больше инвестиционных вложении и все больше компаний наподобие Google развивают свои проекты на базе ИИ. Поэтому авторы письма полагают, что настало самое время, для того чтобы уделить повышенное внимание всем возможным последствиям наблюдаемого бума для экономических, социальных и юридических сторон человеческой жизни.

Позицию о том, что искусственный интеллект может представлять опасность для человека, разделяет и Ник Бостром профессор Оксфордского университета, который известен своими работами об антропном принципе. Данный специалист считает, что ИИ подошел к той точке, за которой последует его несовместимость с человеком. Ник Бостром подчеркивает, что в отличие от генной инженерии и изменений климата, для контроля которых правительства выделяют достаточные суммы, «ничего не делается, для того чтобы контролировать эволюцию ИИ». По мнению профессора, в отношении искусственного интеллекта в настоящее время ведется «политика правового вакуума, который нужно заполнить». Даже такие технологии, как беспилотные автомобили, которые представляются безобидными и полезными, вызывают ряд вопросов. К примеру, должен ли подобный автомобиль совершать экстренное торможение, для того чтобы спасти своих пассажиров и кто будет отвечать в случае ДТП, совершенного беспилотным автомобилем?

Рассуждая над потенциальными рисками, Ник Бостром отметил, что «компьютер не в состоянии определить пользу и вред для человека» и «не имеет даже малейшего представления о человеческой морали». Помимо этого, циклы самосовершенствования в компьютерах могут происходить с такой скоростью, за которой человек просто не сможет уследить, и с этим также почти ничего нельзя сделать, говорит ученый. «На том этапе развития, когда компьютеры смогут думать сами за себя, никто не сможет точно предсказать, приведет ли это к хаосу или существенно улучшит наш мир, - заявил Ник Бостром, в качестве примера приведя простое возможное решение компьютера - отключить в странах с холодным климатом отопление для оздоровления людей и повышения их выносливости, которое «может прийти в голову искусственному интеллекту».

Помимо этого, Бостром поднимает и проблему чипирования человеческого мозга с целью повышения нашего биоинтеллекта. «Во многих отношениях такая процедура может быть полезной, если все процессы будут контролируемыми, но что произойдет, если вживленный чип сможет перепрограммировать сам себя? К каким последствиям это может привести - к возникновению сверхчеловека или к появлению компьютера, который будет лишь выглядеть человеком?» - задается вопросами профессор. Способы, при помощи которых компьютеры решают человеческие проблемы, очень сильно отличаются от наших. К примеру, в шахматах человеческий мозг рассматривает лишь узкий набор ходов, выбирая из них самый лучший вариант. В свою очередь компьютер рассматривает все возможные ходы, выбирая лучший из всех. При этом компьютер не рассчитывает огорчить или удивить своего противника по игре. В отличие от человека, играя в шахматы, компьютер может сделать хитрый и тонкий ход лишь случайно. Искусственный интеллект может посчитать наилучшим способом - устранить ошибку из любой системы за счет удаления оттуда «человеческого фактора», но, в отличие от человека, робот не готов совершать подвиги, которые спасли бы людям жизнь.

Помимо всего прочего, рост количества умных машин представляет собой этап новой промышленной революции. В свою очередь, это означает, что уже в ближайшем будущем человечество столкнется с неизбежными социальными изменениями. Работа со временем станет уделом высококвалифицированных специалистов, так как практически все простые задания смогут взять на себя роботы и другие механизмы. Ученые считают, что за искусственным интеллектом «нужен глаз да глаз», чтобы наша планета не превратилась в мультипликационную планету «Железяка», которая была населена роботами.

В плане все большей автоматизации процессов производства будущее уже наступило. Всемирный экономический форум (ВЭФ) представил свой отчет, согласно которому автоматизация приведет к тому, что еще до 2020 года более 5 миллионов человек, трудящихся в самых разных областях, потеряют свое место работы. Таково влияние роботов и роботизированных систем на нашу жизнь. Для составления отчета сотрудники ВЭФ использовали данные о 13,5 млн. работников из различных стран мира. Согласно их данным, к 2020 году суммарно пропадет потребность в более чем 7 миллионах рабочих мест, тогда как ожидаемый рост занятости в других отраслях составит всего чуть более 2 миллионов рабочих мест.

Источники информации:
http://www.ridus.ru/news/209869
http://www.vedomosti.ru/technology/articles/2015/01/13/ugrozy-iskusstvennogo-razuma
https://nplus1.ru/news/2016/01/19/they-took-our-jobs
http://ru.sputnik.kg/world/20151013/1019227239.html

Правообладатель иллюстрации Thinkstock Image caption Симбиоз человека и машины - один из путей развития человечества

Умные машины научились блефовать, обыгрывать профессионалов в шахматы или Го, переводить и распознавать человеческий голос. Каждую неделю мы узнаем о все новых подвигах компьютерных программ, уже умеющих ставить медицинские диагнозы, рисовать не хуже Рембрандта, петь или генерировать текст. Стоит ли человеку опасаться искусственного интеллекта?

По-настоящему "горячей" тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров.

"С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов", - комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.

Этот м атериал подготовлен в качестве ответа на вопрос ы , присланны е нашими читателями о научных достижениях . Задать свои вопросы по другим темам вы можете по этим ссылкам ( , ).

Экономический эффект и влияние на рынок труда

Научная фантастика и Голливуд сформировали представление об "искусственном интеллекте" как о следующей форме жизни на планете, которая поработит человечество в Матрице или организует ему ядерный Судный день. Выживших добьет Терминатор.

В действительности, несмотря на последние достижения в области искусственного интеллекта, до появления разумных машиносуществ еще далеко, признают ученые и специалисты. И те, и другие, впрочем, советуют на некоторые аспекты обратить внимание уже сейчас.

По оценкам исследовательской организации McKinsey Global Institute, в ближайшие десять лет новые технологии радикально изменят рынок труда на планете, что позволит сэкономить порядка 50 трлн долларов.

Изменения коснутся сотен миллионов рабочих мест. Люди все больше и больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе.

"С некоторой точки зрения у человечества в целом есть важная и интересная задача - развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта", - считает эксперт, директор по распространению технологий "Яндекса" Григорий Бакунов.

Но вместе с автоматизацией неминуемо пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Искусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие ИИ приведет к тому, что все больше задач будет по силам компьютерной программе.

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute - некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, - введение понятия "универсальный базовый доход", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Личность ли искусственный интеллект?

Является ли роботизированная система личностью? Может ли умный компьютер голосовать? Какого он пола? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом, следует ли наделять будущих роботом статусом "электронной личности".

Как указывает Дютман, люди нехотя делятся правами с теми, кто им непонятен, а значит будут сопротивляться "очеловечиванию" ИИ.

"Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы или гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.

Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства - и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?

Третья этическая головоломка обсуждается чаще других и волнует человечество гораздо больше: что теоретически может сделать с человечеством суперинтеллект, настоящая умная машина?

Научить ИИ этике

Специалисты в области развития ИИ признают: пусть не в ближайшие 20-30 лет, но человечество все же доживет до появления настоящего искусственного интеллекта, который будет умнее своего создателя.

"Последний бастион будет взят тогда, когда будет создан так называемый "сильный ИИ" (Strong AI, Artificial General Intelligence), то есть такой ИИ, который будет способен решать неопределенно широкий спектр интеллектуальных задач", - говорит Сергей Марков.

А главное, такой ИИ сможет самостоятельно думать.

Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.

Решение Аллисон Дютман из Foresight Institute - дать компьютеру прочитать всю научную литературу, научные статьи, поднимающие вопрос об этике, и сделать эту информацию основой для его будущих решений.

Что такое Нейронные сети и какое у них будущее?

Большинство экспертов связывают прогресс в развитии ИИ с развитием нейронных сетей.

Нейронные сети - это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу.

Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальной композиции.

На сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты.

И это несмотря на то, что современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы.

"Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи", - рассказывает Сергей Марков.

Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков.

Разработчики не просто заняты сейчас увеличением количества нейронов в сети, но и изменением конструкции сетей. "Сложные системы конфигурации сетей - то, с чем сейчас производится наибольшее число экспериментов", - рассказывает Григорий Бакунов.

А тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).

Что нас ждет в ближайшее время

Как прогнозирует профессор Университетского колледжа Лондона и Principal Scientist Nokia Bell Labs Ник Лейн, человека будут окружать еще больше "умных вещей". Они станут компактнее и эффективнее.

Профессор приводит такой пример: если раньше встроенный в стену сенсор мог лишь осознавать, что кто-то прошел мимо, то в будущем он будет не только знать, кто конкретно прошел, но и как ведет себя человек, не нуждается ли в чем, не представляет ли он угрозу для себя или окружающих.

Сенсор размером с пуговицу сможет оповещать человека в случае опасности.

С профессором согласен и Григорий Бакунов из "Яндекса": "В ближайшее время нас ждет бум развития узких искусственных интеллектов, которые помогают решать какую-то одну довольно простую задачу, но которую они будут решать даже лучше, чем человек".

"Наиболее вероятным путем развития нашей цивилизации является путь синтеза человека и машины: палка, одежда, автомобиль, мобильный телефон, кардиостимулятор или кохлеарный имплантат - по мере развития наши инструменты все более и более напоминают продолжение наших тел. Уже завтра машины смогут получать от человека мысленные команды, воспринимать мысленно формируемые визуальные образы, передавать информацию непосредственно в мозг - такие проекты уже сейчас существуют за стенами наиболее продвинутых технологических лабораторий", - подытоживает Сергей Марков.

Журналисты пока еще нужны?

Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.

Перед этим своеобразным "краш-тестом" корреспондент Financial Times признавалась: "Я думаю, программа точно справится с задачей быстрее меня. Но, надеюсь, я все-таки сделаю это лучше".

Так и случилось: Эмма действительно оказалась быстрее - программа сгенерировала текст на основе статистики об уровне безработицы в Британии за 12 минут. Журналистке потребовалось 35 минут. И, как она сама впоследствии признавалась, Эмма превзошла ее ожидания. Программа не только умело обращалась с фактами, но и поставила новость в контекст, предположив, как возможный "брексит" (дело было в мае 2016 года, до референдума о выходе Британии из ЕС) может изменить ситуацию.

Но кое-что Эмма сделала все же хуже журналистки. "Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, - признавался редактор FT. - А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры".

Эмма - продукт стартапа Stealth. В компании говорят, что у Эммы есть команда живых помощников, но утверждают, что все, что она пишет или делает, - продукт исключительно ее "мозгов".

И все-таки - надо ли бояться ИИ?

Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен. Главное, чего ему на сегодняшний день не хватает, - автономной возможности думать.

"Сейчас бояться ИИ ни в каком виде не стоит. Можно подождать лет 30-40, пока действительно какие-то радикальные изменения произойдут", - считает Бакунов.

Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Как объясняют специалисты, уже сейчас порой бывает сложно понять, кто сидит внутри системы - человек или машина.

"Нет критериев, когда мы сможем понять, что внутри машины зародилось сознание", - задается вопросом Бакунов.

Человек станет скрепкой?

Известный адепт алармистской точки зрения, в рамках которой ужасы, описанные в Терминаторе, могут стать реальностью, - философ Ник Бостром - придерживается мнения, что достигший интеллектуального уровня человека ИИ способен будет уничтожить человечество.

Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог - компьютер изведет человечество на скрепки.

Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, "высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели - грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели".

Искусственный интеллект как золотая рыбка

Британский специалист в области искусственного интеллекта, профессор когнитивной науки в Университете Сассекса Маргарет Боден относится к утверждениям о скором пришествии умных машин скептически.

Профессор приводит пример "золотой рыбки", когда в обмен на свободу рыбак загадывает три желания. Одно из желаний - вернуть сына с войны, второе - 50 тысяч долларов и третье - возможность наутро загадать еще одно желание.

В тот же вечер в дом рыбака постучали. Сына вернули с войны - в гробу. Рыбак получил страховку в 50 тысяч долларов.

"Замените в этой притче рыбку на ИИ, и все станет ясно - объясняет Боден. - Ах, да, на следующий день рыбак воспользовался третьим желанием и - отменил предыдущие два".

Возможен ли перенос сознания в машину?

Сергей Марков:

"Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) - аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.

Очень интересным и перспективным направлением является оптогенетика (в принципе для сопряжения мозга и машины можно менять не только машины, но и саму нервную ткань, создавая в ней искусственные фоторецепторы).

Когда будет решен широкий спектр инженерных задач в рамках таких частных проектов, я думаю, что задача переноса сознания станет вполне разрешимой. Уже сейчас мечтатели предлагают гипотетические схемы для осуществления подобного проекта.

Например, Ян Корчмарюк, предложивший в свое время название "сеттлеретика" для направления исследований, связанных с переносом сознания, считает, что наиболее перспективной схемой является использование специализированных нанороботов, внедряемых в нейроны человеческого мозга. Впрочем, для успешного воплощения подобной схемы необходимо решить целый ряд сложных инженерных проблем".