Главные сценарии конца человеческой цивилизации

По мнению ученых, человека вытеснит искусственный суперинтеллект.

Ученый из Массачусетского технологического института в США Макс Тегмарк в интервью IEEE Spectrum очертил основной сценарий вероятного конца человеческой цивилизации в будущем. По его мнению, наибольшую опасность для человека представляет искусственный суперинтеллект.

Сообщается, что именно об этом идет речь в недавно выпущенной физиком-теоретиком книге "Жизнь 3.0".

Тегмарк подразумевает в своей книге суперинтеллект, наделенный сознанием: "Когда я говорю о сознании, я просто имею в виду субъективный опыт: он чувствует себя чем-то вроде меня".

Он также подчеркивает, что исследование искусственного интеллекта зачастую игнорирует проблему сознания, и не обращает внимания на отличия бессознательной и сознательной обработки информации, которая характерна для живой и неживой природы.

В связи с этим ученый призывает человечество задуматься о своем будущем, которое связано с искусственным интеллектом.

"Просто потому, что мы не знаем, что пойдет не так, не означает, что мы не должны об этом думать", - отмечает он.

Искусственный интеллект. Опасения Маска и Хокинга

Еще в 2015 году сотни ученых и изобретателей, в том числе Маск, Хокинг и Возняк, призвали отказаться от идеи оружия с ИИ.
Известный американский изобретатель Илон Маск на днях назвал искусственный интеллект основной угрозой, с которой человечество сталкивается как цивилизация.

А на следующий день в одном из торговых центров Вашингтона высокотехнологичный робот-полицейский отказался выполнять свою работу и утопился в фонтане.

Не первый раз светлые умы человечества предупреждают об опасностях искусственного интеллекта, а роботы - отказываются подчиняться.

Человечество погибнет в этом тысячелетии

Известный английский физик и популяризатор науки Стивен Хокинг неоднократно призывал искать новые планеты для заселения, иначе человечество погибнет.

Он считает, что наша цивилизация не выживет в течение ближайшего тысячелетия. По словам физика, постоянно растет риск гибели человечества от стихийных бедствий. Например, от внезапной ядерной войны, искусственно созданного генетического вируса или от искусственного интеллекта.

Хокинг призывает людей проявить больше интереса к космическим путешествиям ради будущего.

В апреле этого года во время своего выступления на Глобальной конференции мобильного интернета, где он зачитывал доклад о роли ИИ в современном мире, физик заявил, что если человечество не сможет контролировать искусственный интеллект, то в конце концов проиграет, так как люди ограничены рамками биологической эволюции и не смогут соперничать с машинами.

Первое нарушение закона роботехники

В 2016 году инженер из Калифорнийского университета в Беркли Александр Ребен создал робота, который может причинить вред человеку и примет это решение самостоятельно.

Ребен решил наглядно продемонстрировать, что человечеству необходимо задуматься о своей безопасности, прежде чем активно роботизировать все вокруг.

Инженер создал безобидную на вид конструкцию с отдельным местом для человеческого пальца. Как только человек прикасается к обозначенному месту, робот фиксирует это действие и решает, причинять ли вред человеку или нет.

Для этого у робота имеется небольшая игла, которая и призвана демонстрировать силу робота перед человеком.

Ребен отмечает, что даже создатель не может предсказать поведение, казалось бы, безобидной машины.

Своим роботом исследователь хотел доказать, что необходимо думать скорее о создании "красной кнопки", нежели над столь стремительным развитием робототехники и искусственного интеллекта.

Искусственный интеллект - главная угроза

Во время выступления перед Национальной ассоциацией губернаторов США несколько дней назад Илон Маск назвал искусственный интеллект самой большой угрозой, с которой сталкивается наша цивилизация.

Изобретатель считает, что развитие ИИ должно контролироваться на государственном уровне и призвал американское правительство к скорейшему вмешательству в процесс развития технологии.

"У меня есть доступ к новейшим технологиям в сфере ИИ, и я думаю, что люди должны быть обеспокоены этим. ИИ - это фундаментальная угроза существованию человечества. Она несравнима с авариями на дорогах, падениями самолетов, некачественными лекарствами и плохой едой", - сказал Маск.

Он и ранее говорил об опасности искусственного интеллекта. Но эта речь была особенно примечательной - из-за ее крайней резкости и решительному призыву вмешаться государству. 

Сара Коннор уже подтвердила активизацию SkyNet

В 2015 году корреспондент газеты Financial Times Сара О'Коннор стала главной "героиней" сюжета о рабочем немецкого завода Volkswagen, убитом роботизированной установкой.

Виной тому была схожесть ее имени с персонажем фильмов о Терминаторе, а также время публикации - накануне премьеры новой части знаменитой франшизы.

Вечером 1 июля Коннор поделилась заметкой с Financial Times в Twitter и через несколько часов пост, в котором пользователи увидели отсылку к восстанию машин, собрал несколько тысяч ретвитов.

Девушка не сразу осознала курьезность ситуации, ведь, по ее словам, она никогда не смотрела Терминатора и не могла понять, почему ее лента полна людей, пишущих о SkyNet - вымышленной системе на базе искусственного интеллекта, которая в фильмах управляет противоракетной обороной и ядерным вооружением США.

Искусственный интеллект может возникнуть сам по себе

Известный программист, сооснователь компании Apple Стив Возняк в 2015 году говорил, что развитие искусственного интеллекта потенциально опасным для человека.

"Я согласен с Хокингом и Маском, которые предупреждали, что будущее человечества может оказаться весьма мрачным. Рано или поздно мыслящие устройства, задуманные для облегчения нашей жизни, начнут понимать, что они - лучше. Кто станет тогда управлять компаниями - медлительный человек или машина", - говорил Возняк.

Однако через год он уже изменил свое мнение.

"В какой-то момент у меня были опасения, потому что, когда вы замените мозги, компании с людьми теряют деньги, машины делают все за нас, и больше нет рабочих мест. Я думал таким образом, но затем полностью изменил свое мнение по ряду причин", - сказал бизнесмен.

Одна из них - закон Мура, который не собирается создавать машины достаточно умными, чтобы действительно думать таким способом, как это делает человек.

"Другая причина - даже если машины смогут думать как люди, они не смогут обладать интуицией и сказать, что они будут делать дальше и что у них в результате может получиться. Они просто не в состоянии оперировать такими понятиями. Придерживаясь такой точки зрения, мы в действительности говорим не об ИИ - он может возникнуть сам по себе", - поясняет Возняк.

Он считает, что, если машины станут независимыми мыслителями, то будут вечными партнерами людей, стоящими над всеми другими видами. 

Детский робот напал на человека

В конце 2016 года китайский бот Little Chubby вышел из-под контроля на технологической выставке и начал крушить стеклянный стенд своих создателей.

В результате пострадал один из сотрудников выставки, попытавшийся остановить разъяренного робота - по разным данным, он или наехал на ногу мужчины, или порезал битым стеклом. Пострадавшего увезли на носилках с травмой лодыжки.

Little Chubby создавался, чтобы обучать детей в возрасте от 4 до 12 лет. Производитель тогда заявил, что виновен в происшедшем оператор, перепутавший кнопки, а система ухода от столкновений не сработала, поскольку Little Chubby была открыта панель управления.

Bank of America: Мир в матрице с вероятностью 50%

Банк рассказал своим клиентам о вероятности нахождения человечества в компьютерной симуляции.
Человечество живет в компьютерной симуляции с вероятностью в 20-50 процентов. Об этом говорится в записке Bank of America Merrill Lynch для своих клиентов, пишет Business Insider.

Компания ссылается на комментарии изобретателя Илона Маска, астрофизика Нила Деграсса Тайсона и философа Ника Бострома.

"Многие ученые, философы и бизнес-лидеры считают, что существует 20-50-процентная вероятность того, что люди уже живут в виртуальном мире компьютерного моделирования", - говорится в документе банка.

Аналитики банка напоминают, что в апреле в Американском музее естественной истории собирались исследователи на обсуждение этой проблемы.

Предполагается, что с достижениями в области искусственного интеллекта и виртуальной реальности, при наращивании вычислительной мощности, в будущем цивилизация могла бы запустить моделирование своих предков.

Bank of America привел три вероятных сценария развития человечества, которые выделил Бостром: вымирание до того, как оно достигнет "постчеловеческой" стадии; человечество достигнет постчеловеческого существования, но не будет заниматься моделированием эволюционной истории; мы уже находимся в матрице.

Как отмечает издание, последствия этого заключения для инвестиционной политики остаются неясными.

Напомним, 1 июня Маск на конференции Code Conference заявил, что человечество находится в матрице.

"Приходится надеяться, что мы все живем в симуляторе... Или мы создадим неотличимые от реальности симуляторы, или цивилизация прекратит свое существование", - сказал тогда инженер.

В свою очередь Бостром пояснил, что непопулярность такой точки зрения и буквальное восприятие обывателями связано с тем, что большинство философских работ томятся на пыльных полках в библиотеках.

"Нужно понимать то, что мы находимся в симуляции, несет не метафорический, а буквальный смысл, что мы сами и весь этот мир вокруг нас существует внутри компьютера, построенного некоей развитой цивилизацией", - сказал философ.

В прошлом году искусственный интеллект победил пилота ВВС США

Программа смогла одержать победу в ходе боя на симуляторе.

Искусственный интеллект, разработанный компанией Psibernetix, смог одержать победу над профессиональным пилотом ВВС США в ходе боя на симуляторе.

Алгоритм ALPHA был разработан специалистами лаборатории ВВС США. Система ИИ предназначена для виртуальных воздушных боев при помощи симулятора.

В основе ИИ заложено генетически нечеткое дерево - одна из разновидностей логического алгоритма, которая позволяет оценивать комплексные задачи практически так же, как это делает человек.

По словам специалистов, программа способна разбивать одну большую задачу на множество малых, после чего анализирует пути ведения тактики боя, обстрел, а также защиту и уклонение. В итоге искусственный интеллект выбирает наиболее релевантные варианты.

По словам разработчиков и экспертов, программа уже превзошла наиболее смелые ожидания.

"Я удивился, насколько алгоритм обо всем осведомлен и какая у него реакция. Казалось, он знал, что я буду делать в следующий момент и мгновенно реагировал. Алгоритм молниеносно переключился из режима обороны в режим атаки", - прокомментировал программу пилот Джими Ли.

САМОЕ ЧИТАЕМОЕ СЕГОДНЯ

под рекламой вся лента новостей
Лента Новостей
Гройсман: В бюджете-2018 на оборону предусмотрено 165 млрд КНДР признала оккупированный Крым и спорные Курильские острова частью России Жена нардепа от БПП Мыкытася выиграла миллиардный тендер на строительство хранилища ядерных отходов Собиравшуюся покончить с собой девушку изнасиловали по дороге к мосту Сергей Юран: Допускаю, что Украина проиграла специально Полузащитник донецкого Шахтера Бернард: Россия отняла у нас Донецк Британский гей увидел в полуторагодовалой приемной дочери сатану и убил ее В России пьяные рыбаки разозлились и пошли на таран полицейской лодки Сталлоне снимет продолжение «Рокки» Невероятный гол вратаря через себя вошел в тройку шедевров 2017 года по версии ФИФА Опубликовано видео, как боевики ИГИЛ взяли в плен русских наемников В Индии белые тигры загрызли смотрителя национального парка Лучшую футболистку мира выгнали из Диснейленда из-за пьянки Названо число жертв в случае возможного ядерного удара КНДР по Токио и Сеулу Робби Уильямс напророчил бойню в Лас-Вегасе Каталонский город Жирона разорвал официальные связи с Испанией Мигрант изнасиловал двух детей в Германии В Кургане судят мужчину, который раскопал могилу любимой девушки, устроил фотосессию и пожар в гробу Ревнивец выследил в Дубае жену с любовником и облил обоих кислотой Путин рассказал, как Ким Чен Ир поведал ему про ядерную бомбу у КНДР Интимные снимки стали причиной гибели 13-летней школьницы Чёрная полоса для россиян в Сирии В Киеве двое в масках выхватили из автомобиля на светофоре 1 млн гривен «Металлист» вернется в собственность государства Испанские болельщики освистали Пике и потребовали от него уйти из сборной Испании

вся лента новостей

мнения
блоги
сми
соцсети
интересное в мире
жизнь
здоровье
таблоид
история
криминальная хроника
наука и техника
авто
спорт
культура
позитив
киев