Многие люди с энтузиазмом приветствуют искусственный интеллект, видя в этом значительный шаг развития цивилизации. Но многие специалисты проблемы выражают обеспокоенность, когда вопрос касается искусственного интеллекта.

Илон Маск, основатель Tesla и SpaceX, не скрывает обеспокоенности, подозревая ИИ в угрозе человечеству в качестве конкурирующей цивилизации машинного происхождения.

Бизнесмен не выступает в роли предсказателя, но считает плохой идеей экстремальные игры с вложением в вычислительные машины развивающегося интеллекта. Это может вызвать критически опасные риски для человечества.

Возможно и существуют какие-то способы обезопаситься от вероятных проблем со стороны искусственного интеллекта, способного по мере развития перехватить контроль над нашей жизнью. Но пока у нас нет ничего существенного, кроме как «Трех законов робототехники» А. Азимова, что однако звучит слабым утешением (3 закона, Википедия).

Маск и другие сподвижники идеи призывают не отказаться от разработок в области ИИ. Они обращают внимание на первоначальную необходимость выработать методы защиты от вероятных угроз. Иначе мы можем в лице ИИ приобрести не помощника, но ужасно опасного и сильного противника.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ УГРОЗА ЧЕЛОВЕЧЕСТВУ.

В словах противников активного развития ИИ есть хорошая доля правды. И дело даже не в том, кто будет контролировать «завтра» потенциально цивилизованную технологию умных Машин.

Недавно , что уже ставит робота в начале формирования цивилизации машин. Но этого роботу Софии показалось недостаточным – теперь София говорит о равных правах с человеком, и хочет быть полноправным членом общества! Это очень любопытный и показательный прецедент, верно? Вот почему многие уверяют в необходимости большей осмотрительности к вопросам исследования в области искусственного интеллекта.

Часто можно услышать аргументы за развитие ИИ: искусственный интеллект — это будущее для всего человечества. Действительно, искусственный интеллект предлагает гигантские возможности, но также несет и угрозы, которые трудно спрогнозировать.

Перспективная технология как полагают сможет помочь продвинуться в медицинских и космических исследованиях, откроет новые возможности в других отраслях жизнедеятельности. Однако, также ИИ может быть решающим фактором в плане возможной войны. Не секрет, что уже сейчас вычислительные машины (без интеллекта) стоят на вооружении стран.

Теперь представьте, машины научились ходить, а главное думать и принимать решения … как часто у вас «зависал» компьютер или смартфон? Хорошо, что эти устройства не имеют оружия, верно?

Множество хороших возможностей можно ожидать от искусственного интеллекта, но никто не даст гарантии, что все пойдет по отвратительному сценарию, который приведет нас к Третьей мировой войне. Это сегодня мы не видим идущих по улицам роботов, поэтому вопрос рисков от ИИ выглядит эфемерным. В то же время, робот София изучает наше общество, говоря о равных правах с людьми.

Билл Гейтс и , также неоднократно заявляли о , связанных с созданием искусственного интеллекта. Умная машина способная принимать решения однажды может вырваться из-под контроля человека, и натворить ужасные вещи.

Разумеется, речь не идет об известном сюжете киноленты «Терминатор», скорее уводящим от реальной основы проблем ИИ. Здесь более подходит фильм «Я, робот», где ВИКИ (искусственный машинный интеллект) смог модифицировать понимание «трех законов», и взять людей под контроль.

К счастью в фильме нашелся главный герой, уничтоживший виртуальный интеллект, возжелавший «осчастливить человеческий лагерь».

Заодно поговорил о политике в марсианских колониях и станцевал.

В закладки

Джонатан Нолан и Илон Маск на фестивале SXSW 2018 в Техасе. Фото American Statesman

На фестивале SXSW Илон Маск рассказал о планах SpaceX, угрозе со стороны искусственного интеллекта и опасности оставаться на Земле в ближайшем будущем. Предприниматель ответил на вопросы о своей личной жизни и под конец станцевал вместе с братом Кимбалом. Об этом сообщает The Verge.

Маск принял участие в сесии ответов на вопросы посетителей SXSW, модератором которой выступил создатель «Мира Дикого Запада» Джонатан Нолан. Посетители фестиваля могли отправить вопросы Маску через онлайн-форму и проголосовать за варианты других пользователей - самые популярные задавали в реальном времени.

Маск рассказал, что считает необходимым колонизировать Марс, и, возможно, Луну. По его словам, скоро Землю ждут «новые тёмные времена» и, вероятно, Третья мировая война. В этом случае, по мнению Маска, колония на Марсе будет продолжать «нести вперёд факел человеческой культуры».

Глава SpaceX заявил, что компания осуществит первый испытательный полёт к Марсу в начале 2019 года с помощью пока недостроенной ракеты Big Falcon Rocket (BFR). Сразу после этого Маск отметил, что иногда его планы «немного завышены».

Кто-то из посетителей фестиваля задал вопрос: «Как мы можем помочь?». Маск ответил, что лучшей помощью будет общая поддержка, поощрение успехов компании и доброжелательность. Предприниматель отметил, что пока многие пессимистично оценивают его планы на полёты к Марсу, но если SpaceX это сделает - остальные бизнесмены и правительства стран «тоже вступят в игру».

Отвечая на один из вопросов Маск вернулся к теме опасности искусственного интеллекта. По его мнению, эксперты в сфере ИИ «думают, что знают больше, чем на самом деле» и им «не нравится идея, что машина может быть умнее их». Маск пояснил, что пока алгоритмы применяются в узких областях и представляют угрозу только для рабочих мест, но появление универсального «сверхразума» станет угрозой цивилизации.

Запомните мои слова: искусственный интеллект намного опаснее ядерного оружия. Я не особый сторонник надзора и регулирования, но это тот случай, когда существует очень серьёзная опасность для общества. Почему у нас нет надзорных органов? Это безумие.

Илон Маск

Глава SpaceX и Tesla

По словам Маска, должен быть некий государственный орган, который обладает необходимой компетенцией и будет осуществлять надзор над разработками в сфере ИИ. Предприниматель считает, что все работы над искусственным интеллектом должны вестись в безопасности.

«Сейчас Нолан снова подводит к обсуждению ИИ. Нолан: „Множество экспертов в сфере ИИ не разделяют тот же страх, что и ты“;Маск: „Дураки“ [смеётся]».

Один из гостей поинтересовался у Маска о том, как по его мнению должна быть устроена власть на Марсе. Предприниматель заявил, что нужна прямая демократия, где новые законы принимаются по достижении 60% консенсуса, а старые могут отменить, если проголосует 40% человек. По мнению Маска, важной частью конституции марсиан станет принцип истечения срока действия законов, если их никто не захочет продлевать.

Известный изобретатель и руководитель множества успешных компаний Илон Маск снялся в документальном фильме. Вероятно, таким образом бизнесмен решил донести свои собственные до сознания создателей искусственного интеллекта и объяснить им, что подобные разработки являются смертельной угрозой для всего человечества..

Илон Маск снялся в документальном фильме

Авторитаризм не является чем-то новым. Но по крайней мере Муссолини и Гитлер умерли. В эпоху искусственного интеллекта мы могли бы создать «бессмертного диктатора, от которого мы никогда бы не убежали», - говорит Илон Маск в новом документальном фильме «Доверяете ли вы этому компьютеру»?

Режиссером фильма «Доверяете ли вы этому компьютеру?» стал Крис Пэйн, который работал с Маском с того момента, как бизнесмен начал во всеуслышание предупреждать об опасностях искусственного интеллекта. Эти исследования Пэйн сделал основой своей документальной работы, премьера которой состоялась 5 апреля в Regency Village Theatre в Лос-Анджелесе.

О чем предупреждал Илон Маск

В 2017 году он предупредил, что ИИ может начать Третью мировую войну. Позже в том же году Илон Маск назвал искусственный интеллект «самым большим риском, с которым мы сталкиваемся как цивилизация», и предложил правительству его регулирование на самом высоком уровне.

В картине Маск упоминает ужасающую возможность: ИИ, созданный авторитарными правительствами, может пережить отдельных лидеров или партии, создавая постоянную структуру угнетения. Это может повторить роман-антиутопию Джорджа Оруэлла «1984». Это ужасающая ветка развития.

Растущая угроза из-за океана

Видя, как Россия уже использует алгоритмы для подрыва демократий, и Китай планирует запустить систему социального кредитования своих граждан к 2020 году, это не кажется надуманным.

Основатель Tesla и SpaceX очень увлекся опасностями ИИ, поэтому выступил продюсером фильма. Илон Маск пообещал, что уже на следующих выходных фильм появится в бесплатном доступе на YouTube.

«Это очень важный вопрос, - сказал он публике в четверг вечером на премьере фильма. - Это повлияет на нашу жизнь так, как мы не можем себе представить сейчас».