Искусственный интеллект: что такое и стоит ли его бояться

Я/Мы роботы: поработят ли нас технологии и искусственный интеллект

«Лос-Анджелес, ноябрь 2019». Если с датой прибытия в 2015 год Марти Макфлая из «Назад в будущее» по какой-то причине случилось много накладок и фальстартов, то фэндом «Бегущего по лезвию» оказался более дисциплинированным: в начале ноября 2019-го как по команде ленты соцсетей погрузились в ностальгию по теперь уже ретровзгляду на наше настоящее, каким оно могло бы быть. Билборды «Атари» и неуклюжие интерфейсы, дождливая Калифорния, возвращение причесок и платьев из сороковых — ну и, конечно, андроиды, почти неотличимые от людей. Несмотря на многие упущения в предсказании будущего, «Бегущий по лезвию» очень верно отразил тот постоянно нарастающий за последние лет сорок дискомфорт, что характеризует отношения человека и вычислительных машин (что во многом и определяет неубывающую актуальность фильма). Откуда мы на самом деле знаем, что мы умнее компьютера? Как жить, когда тебя целиком заменяет технология? Что если нас всех можно свести к алгоритмам?

Вопросы, еще не так давно лежавшие в умозрительной плоскости, становятся максимально приземленными: недавно стало известно, что компания Тимура Бекмамбетова Screenlife Technologies находится в активной фазе разработки русскоязычного синтезатора голоса Vera Voice (подобные технологии, позволяющие нейросети «говорить» голосом знаменитостей на английском, уже существуют и используются).

Без работы рискуют остаться не только актеры: нейросети уже умеют писать простые тексты, генерировать узоры и мелодии, вести вполне осмысленные диалоги, коммуницировать с другими нейросетями. В ближайшие годы многим из нас придется всерьез задумываться над сменой профессии и над тем, насколько большую часть своей жизни мы готовы отдать на откуп искусственному интеллекту. К счастью, к осмыслению этих вопросов нас очень хорошо подготовила популярная наука, популярная философия и в целом поп-культура XIX, XX и XXI веков: страх перед машиной-творцом — это, кажется, естественное состояние человека и многие технологические достижения в равной степени подпитывали его и помогали его преодолеть.

1811

Растущая механизация производства тканей и текстильных изделий приводит к падению дохода английских ткачей и вязальщиков (на их невзгоды накладывается общее падение благосостояния в стране в связи с наполеоновскими войнами). В Ноттингемшире, где сосредоточено много подобных производств, заговорщики по ночам встречаются на торфяниках и планируют разрушительные атаки на станки; затем эта практика распространяется по всей Англии. Своим духовным предводителем они считают некого Неда Ладда — героя, впоследствии оказавшегося мифическим, но давшего движению луддитов название. В действиях движения слились воедино недовольство экономическим положением и падением уровня качества товаров, страх перед неизбежным наступлением будущего и кризис экзистенции — все то, что характеризует и нынешний страх перед искусственным интеллектом. Слово «неолуддит» до сих пор используется как страшное ругательство, сообщающее о том, что собеседник недалек и необразован, — при этом о неиллюзорных классовых причинах восстания предпочитают не вспоминать.

1837

Чарльз Бэббидж описывает аналитическую машину — первый компьютер, обладающий полнотой по Тьюрингу (то есть подобный всем современным компьютерам). Бэббидж в итоге не смог раздобыть достаточно денег, чтобы соорудить свой механизм, так что он не построен по исходным схемам и по сей день. Это не помешало Аде Лавлейс в 1843 году придумать первую современную программу, которая могла бы работать на таком компьютере, и таким образом стать первой программисткой в истории.

1902

Рассматривая артефакты, обнаруженные на затонувшем рядом с островом Антикитера древнеримском корабле, археолог Валериос Стаис обращает внимание на один из «камней»: внутри него находятся шестеренки. Стаис предполагает, что механизм предназначался для предсказания затмений и положения небесных тел, но ему никто не верит: остальные артефакты на корабле датированы примерно I веком до нашей эры, и до 1902 года никаких астрономических механизмов той эпохи никто не находил. О механизме забывают до середины пятидесятых годов XX века, когда несколько ученых подтверждают его природу и датировку. С тех пор так называемый антикитерский механизм, сравнимый по сложности с устройствами XIV века нашей эры, стал для кого-то символом неверия человечества в собственные способности, а для кого-то — знаком о визите инопланетян. Как бы то ни было, механизм показывает, что математическое и механическое мышление очень высокого уровня было доступно нашим далеким предкам — и они передавали часть его машинам. Легенды об оживающих статуях из древнегреческих и древнеегипетских мифов обретают плоть и подпитывают конспирологию искусственного интеллекта.

1920

Выходит пьеса чешского драматурга Карела Чапека R.U.R. (Rossumovi Univerzální Roboti), она же «Универсальные роботы Россума». Опираясь на античные мифы об автоматонах, на легенду о Прометее, на иудейскую концепцию големов, на теорию Сэмюэла Батлера об эволюции сознания у машин и, разумеется, на главного литературного предшественника всех рассказов о разумных механизмах — роман Мэри Шелли «Франкенштейн», — Чапек почти единолично придумывает современную художественную концепцию «робота», искусственного полуразумного слуги (справедливости ради, у Чапека это организмы, а не механизмы). Весьма характерно, что первая же история о роботах заканчивается полным уничтожением человечества. В 1923 году выйдет первая постановка на английском, а слово с простым славянским корнем закрепится в большинстве языков мира. Кроме того, блестящие металлические костюмы из фильма Фрица Ланга «Метрополис» 1927 года, созданного с явной оглядкой на R.U.R., на долгие годы определят внешний облик большинства роботов на экране.

1942

Химик, популяризатор науки и великий писатель Айзек Азимов в рассказе «Хоровод» формулирует базовые принципы не только существования искусственного интеллекта, но и написания сюжетов о нем. Они известны как «Три закона робототехники»:

  1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
  2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

Деконструкция законов Азимова в научной фантастике активно началась уже в 1950-е, когда «робот-убийца» стал тропом в фильмах категории Б, постепенно перекочевавшим и в высокобюджетные кинокартины. Современные истории об искусственном интеллекте либо полностью игнорируют эти законы, либо модифицируют их так, чтобы сделать возможным существование воинственных роботов. Несмотря на это, специалисты в области искусственного интеллекта и сейчас продолжают ориентироваться на технооптимистические и просциентистские позиции Азимова.

1950

Как утверждает физик Эдвин Томпсон Джейнс в своей книге «Теория вероятности: Логика науки», в 1948 году математика и физика Джона фон Неймана на лекции спросили, может ли машина думать, на что он в запале ответил следующее: «Вы утверждаете, что есть вещи, которые машина не может выполнить. Если вы мне укажете точно, что же именно не способна сделать машина, я всегда смогу построить такую машину, которая сможет сделать именно вот это!» Будто комментируя это высказывание, два года спустя математик, программист и герой войны Алан Тьюринг в статье предлагает одну из ключевых концепций искусственного интеллекта — тест Тьюринга, активно использующийся и по сей день (пусть и в модифицированном виде, пусть и его критика звучит все активнее). Отличить компьютер от человека Тьюринг предлагал следующим образом: задать вопрос (исключительно письменно) и получить ответ как от человека, так и от машины. Если человек, получающий ответы на свои вопросы, не может понять, где ему отвечает человек, а где — искусственный разум, то тест пройден. Сцены, основанные на прохождении или непрохождении теста Тьюринга, есть в нескольких дюжинах научно-фантастических фильмов, романов и сериалов. Выдуманный «тест Войта-Кампфа» из «Бегущего по лезвию» фактически является вариацией теста Тьюринга, где следователь задает ключевые вопросы и следит за реакцией подозреваемого. Как и во многих других случаях, отрицательный результат теста приводит к агрессии и жестокости.

1956

В Дартмутском колледже проходит конференция , где впервые официально использовано словосочетание «искусственный интеллект». Почти все ее участники на долгие годы вперед определяют не только моду в кибернетике, развившейся из сомнительной новомодной области сороковых в полноценную науку, но и конкретно в разработке искусственного разума. Так, Марвин Минский консультировал Артура Кларка при написании сценария фильма «2001» — одного из самых известных сюжетов об искусственном интеллекте, намеренном убивать людей (в честь Марвина назван и один из персонажей, Виктор Каминский).

1957

Психолог Фрэнк Розенблатт, уверенный в том, что машины можно обучать так же, как животных, тестирует самообучающийся электронный механизм Перцептрон — первый прототип нейросети. В шестидесятые и семидесятые пионерские труды Розенблатта были отчасти высмеяны и забыты — в том числе вышеупомянутым Минским. Некоторые эксперты считают, что игнорирование нейросетей как концепции затруднило развитие искусственного интеллекта на годы, а то и десятилетия: в поп-культуру нейросети полноценно вошли только в 2010-е, когда на рынки вышли самообучающиеся графические приложения и чат-боты.

1965

Джозеф Вейценбаум создает ELIZA — первого чат-бота в современном понимании. Программа ELIZA, названная в честь героини «Пигмалиона» Элайзы Дулитл, была в состоянии вести полноценный диалог с достаточно большим набором фраз и соблюдением грамматики английского языка. Несмотря на явные достижения, работы над подобными проектами были впоследствии закрыты в целом ряде исследовательских институтов: к концу шестидесятых оказалось, что изначальные прогнозы о скорости развития искусственного интеллекта были излишне оптимистичными (мол, успехи в «разгадке» основанных на логике настольных игр — все, на что стоит надеяться ИИ в ближайшие годы). На влиятельность ELIZA это впрочем не повлияло: похожий интерфейс Джордж Лукас использовал в своей дебютной полнометражке «THX 1138», а экран с выбором диалоговых опций стал источником вдохновения для целого ряда ранних видеоигр, включая, скажем, Zork. Напрямую восходит к ELIZA и генеалогия голосовых ассистентов (которые тоже зачастую носят «женские» имена: Алекса, Кортана, Алиса).

1980

На рынке появляются первые лисп-машины — специальные компьютеры, приспособленные для экспертных систем, способных анализировать большое число данных и выдавать возможный вариант решения для конкретной ситуации. Фактически это первое массовое применение концепции big data в повседневной жизни: экспертные системы работали со скоростью, принципиально невозможной для людей, анализирующих то же количество сигналов. Системы заработали в медицине, кризисном менеджменте, борьбе с катастрофами, анализе безопасности производств и так далее. Деньги возвращаются в искусственный интеллект: теперь в нем заинтересованы не только военные ведомства и большие правительства, но и частные компании. Логичным образом большим хитом в 1983 году становится фильм-катастрофа о сломавшейся экспертной системе — «Военные игры» (паника по поводу человеческих жизней, доверяемых компьютерам, пересекается с паникой по поводу излишнего увлечения видеоиграми).

1986

Группа Эрнста Дикманса в Баварии проводит первые тесты полностью автономных автомобилей, использующих технологии анализа изображений, поступающих на видеокамеры, — но только на специально подготовленных трассах.

Уже в 1995 году автомобиль Дикманса был способен доехать от Мюнхена до датского Оденсе и обратно, развивая на автобане скорость до 175 км/ч. В девяностые предсказания беспилотного будущего были гораздо более радужными, чем сейчас: в частности, стартапы вроде Uber рассчитывали на массовое внедрение беспилотных автомобилей уже в начале 2020-х. Однако препятствия в видеораспознавании всё еще существуют: в 2018 году была зарегистрирована первая смерть пешехода под колесами автономного автомобиля (и это был как раз автомобиль, принадлежащий Uber).

В том же 1986 году выходит последний сезон сериала Knight Rider о разумном автомобиле, борющемся с преступностью совместно с очень популярным в Германии Дэвидом Хассельхофом.

1997

Первая половина девяностых — эпоха киберпанка в книгах, кино и видеоиграх. Соответственно, сюжеты о порабощении человечества роботами и компьютерами становятся абсолютным мейнстримом (начиная примерно с «Терминатора-2», где главный антагонист — это обретшая самосознание военная нейросеть Skynet). В новостях тоже можно услышать апокалиптические ноты — особенно в обсуждении победы суперкомпьютера Deep Blue над Гарри Каспаровым. Шахматы долгое время были священным Граалем искусственного интеллекта: если побеждать человека в нарды ИИ научился еще в 1979 году, а программа, успешно играющая в шашки, стала первым примером искусственного интеллекта в истории (в зависимости от определения это датируется либо 1952, либо 1956 годом), то шахматы, отличающиеся большей вариативностью и непредсказуемостью (а также вполне себе выступающие как символ интеллектуальности как таковой), не давались компьютеру довольно долго. Но и это прошло: фотографии грустного Каспарова обошли все СМИ.

1998

Небольшой, но очень назойливый бум роботов-игрушек (в первую очередь похожих на гремлинов Furby и хай-тек-собак Aibo). Игрушки нельзя программировать в полноценном смысле этого слова, но они действительно обучаются (в случае Фёрби — языку, в случае Айбо — движениям) и начинают выполнять команды. Это совпадает со сменой парадигмы в изображении ИИ в кино: роботы больше не враги и не чудовища (и даже не комические персонажи в духе «Короткого замыкания»). Мелодраматические «Двухсотлетний человек» и «Искусственный интеллект» дружно переосмысляют и перепридумывают роль роботов в обществе как полноценных участников, пусть и со своими особенностями: вернуться к концепции «доброго слуги» напрямую уже никак не получится. Ну, по крайней мере, с теми роботами, которые напоминают людей или животных: случившийся чуть позже бум роботов-пылесосов показывает, что в отсутствие антропо- и зооморфизма мы всё еще испытываем ограниченную эмпатию к роботам.

Читайте также:  Стоит ли смотреть новый фильм про Аладдина: аргументы за и против

2001

Выходит фильм (мультфильм? заставка к игре, но без игры?) Final Fantasy: The Spirits Within, срежисcированный создателем одноименной серии РПГ Хиронобу Сакагути и по-прежнему считающийся одним из лучших примеров того, что такое «зловещая долина» (когда искусственное изображение человека слишком сильно похоже на него, чтобы не считать это абстракцией, но недостаточно сильно, чтобы принять изображение за живое существо). Фильм разорит киноотдел компании Square, но подарит нам интересную дискуссию о природе «цифровой актрисы» Аки Росс и ее постерах в бикини (все эти обсуждения объективации 3D-моделей получат новую силу в 2010-х, с большим распространением VR-порнографии и вопросами прав роботов на неприкосновенность).

2007

«Первой виртуальной группой» часто называют Gorillaz, но это всё же пример классических музыкантов, скрытых за мультипликационным фасадом. Хацунэ Мику (имя можно перевести, как «первый звук будущего») — это уже совсем другое дело: певица, которой как бы нет и, строго говоря, быть не может. Первый и самый известный из вокалоидов, японских плагинов для синтеза голоса, обладает мультипликационным аватаром, собственными песнями и внушительной фан-базой. Это, конечно, не первый прецедент поющего компьютера (помимо прочего, здесь стоит вспомнить великий российский проект 386 DX и его каверы на гитарную классику), но самый известный и самый значимый: в этот момент продюсеры по всему миру резко поняли, что заменить можно не только создателей мелодий, но и певцов.

2012

Один из хедлайнеров важнейшего мейнстримового фестиваля Coachella — голограмма (ну, точнее, видеопроекция). Не фигурально, а вполне буквально: убитый в 1996 году Тупак Шакур «воскрес» в совместном концерте со Снупом Доггом и Доктором Дре (потом они даже планировали поехать в тур, но в итоге Дре решил, что это лишнее). Сомнительное с этической точки зрения «воскрешение» Тупака привело к возвращению его альбомов в чарты и ускорению совершенствования подобных технологий: уже в вышедшем в 2016 году фильме «Изгой-один» умерший в 1994 году Питер Кушинг, восстановленный в виде 3D-модели, играл довольно значимую роль.

Дальше — больше: в 2020 году должен выйти фильм «В поисках Джека», где одну из главных ролей играет Джеймс Дин, погибший в 1955 году. Тем временем основанный в России стартап Replika продолжает работу над созданием нейросетей, способных имитировать речевые и лексические особенности погибших людей.

2018

Выходит FakeApp, первая коммерческая программа для домашнего изготовления так называемых дипфейков, где голос или лицо одного человека совмещаются с телом и лицом другого человека, так что на экране можно наблюдать видеогибрид, аналог вышеупомянутого «цифрового воскрешения» или превращение одного лица в другое. Разумеется, первым делом эта технология используется для изготовления поддельной порнографии со знаменитостями ( по некоторым подсчетам , это более чем 95% всех дипфейков). Тут как тут и банковские махинации с видео и голосом, а заодно и фальшивые видео, порочащие политических оппонентов (одно такое видео, со спикером Нэнси Пелоси, ретвитнул официальный аккаунт Дональда Трампа). Буквально про это последние несколько лет говорит Славой Жижек: «Для меня главный вопрос — и это вопрос без ответа — как подобные технологии повлияют на наше восприятие самих себя. Будем ли мы восприниматься как свободные живые существа — или же нами будут управлять цифровые автоматы. И ключевой момент заключается в следующем: мы даже можем не узнать, что они нами управляют».

Стоит ли так бояться искусственного интеллекта?

За последний месяц-два мы обратились к теме искусственного интеллекта не раз и не два. Причиной этому, конечно, стало не только растущее любопытство, но и шумиха, поднятая Маском и Хокингом.

Почему шумиха? Потому что пройдет еще очень много времени, когда искусственный интеллект выйдет за пределы семантического поля «больших массивов данных» и «облаков». Проблема в том, что люди преувеличивают возможности искусственного интеллекта на данный момент и продолжают дезинформировать общественность.

В общем и целом люди смотрят на искусственный интеллект как на мифического розового единорога от технологий: неуловимый, мощный, опасный, загадочный и вполне состоявшийся. И хотя в научном сообществе сейчас ведется много споров, давайте все же выясним, чем искусственный интеллект не является.

Прежде всего, не стоит бояться искусственного интеллекта. Это не живое существо, как SkyNet, и не злая красная лампочка, как HAL. По сути, ИИ — не больше чем компьютерная программа, достаточно умная, чтобы выполнять задачи, которые обычно требуют качественного анализа человеческим оператором. Это не вездесущая военная машина.

Во-вторых, ИИ — не живой. Хотя ИИ способен выполнять задачи людей, искусственный интеллект не является живым, как мы. Он не способен к истинному творчеству, эмоциям, желаниям, помимо того, что мы запрограммируем, ну или что он изучит на основе окружающей среды. В отличие от научной фантастики (преимущественно литературе), в реальности у ИИ нет никакого желания создавать семью, самокопироваться или любить.

В-третьих, ИИ в общем и целом не так уж и амбициозен. Действительно, в ограниченном контексте ИИ может думать так же, как мы, и ставить себе задачи. Но его общая цель и смысл существования определяется исключительно нами с самого первого слова.

Как и в случае с любой программой или технологией, мы определяем роль ИИ в нашем обществе. Будьте уверены, в планах создателей ИИ нет возможностей и намерения создать ИИ, который поработит человечество и будет управлять нами как некий бог из машины.

Кроме того, ИИ не представлен единым целым. Компьютерные программы, даже те, что работают на базе искусственного интеллекта, являются хорошими специалистами узкого, но не широкого профиля. Вероятный сценарий достижения искусственного интеллекта в нашей жизни — через сеть подпрограмм, которые будут управлять компьютерным зрением, речью, адаптацией (машинное обучение), движением (роботы) и т. д. ИИ — это не он или она, это «они».

Наконец, ИИ, как и все компьютерные программы, управляется людьми. Конечно, ИИ может быть спроектирован со злым умыслом и вооружен ядерным или биологическим оружием, но это не вина науки, а вина людей.

Хотя Элон Маск является своего рода героем для многих из нас, да и вообще гением нашего времени, его последние высказывания по поводу искусственного интеллекта не блещут дальновидностью. Он сказал, что ИИ «опаснее ядерного оружия» и что мы «пытаемся вызвать демонов искусственного интеллекта». Возможно, Маск уснул, пересматривая «Терминатора».

Тем временем компании вроде IBM, Google и Apple разрабатывают приложения нового поколения на базе ИИ, используя небольшие участки специализированного кода, чтобы заменить человеческий фактор в процессе утомительной, опасной или занимающей время работы. Это очень специализированные, своего рода «туннельные» программы, которые только улучшают наше общество и которых бояться точно не стоит.

В любом случае мы находимся в десятилетиях от «сингулярности» ИИ, о которой говорит Маск, и конечный итог будет тесно связан с нашими намерениями. Если история нас чему-то и учит, так это тому, что, когда придет время, нам нужно бояться не искусственного интеллекта, а людей, которые за ним стоят.

Две главных причины бояться искусственного интеллекта

Какие страхи в отношении сверхразума обоснованны? Ответ Дмитрию Волкову

2 апреля 2018 19:07

Н екоторые страхи по поводу искусственного интеллекта в целом обоснованны, и я разделяю два из них.

Первый — что можно целенаправленно создать враждебный искусственный интеллект и боевые системы на его основе. Например, миниатюрные летающие устройства, которые могут объединяться в рои и перемещаться на большие расстояния, коллективно выполняя какие-то опасные действия. Поэтому я считаю, что нужно договориться на межгосударственном уровне о запрете и масштабных исследованиях боевых систем на основе ИИ.

Второй страх связан с эволюцией искусственного интеллекта. Уже сейчас одни нейросети создают другие, Google уже провел первый подобный успешный эксперимент. При таком развитии могут появиться целые эволюционные ветви искусственного интеллекта. И даже если изначальная цель была вполне мирной и полезной для человека, то побочные эффекты могут оказаться совершенно непредсказуемыми. Представьте себе эффективную нейросеть, с вычислениями, распределенными по многим компьютерам, чья задача сортировать изображения собачек и кошек. И вдруг она обнаруживает, что человек выключил один из компьютеров кластера и это ухудшило показатели классификации — система теоретически может принять «эффективное» решение и и, в конце концов, в погоне за улучшениями теоретически система может получить доступ к атомной электростанции или дамбе около города.

Представьте «полезную» бактерию, задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и бактерии начнут поедать пластик, например, в деталях самолетов

Рано или поздно появятся подобные угрозы со стороны ИИ. Как с ними бороться? Человечество уже давно сталкивается с угрозами со стороны «умных» эволюционирующих систем — например, занимаясь селекцией сельскохозяйственных культур и приручением дикой природы. В рамках генной инженерии, к примеру, могут быть созданы канцерогенные культуры или особо живучие бактерии. Представьте «полезную» бактерию, изначальная задача которой — поедать пластик на свалках. Но в результате ситуация может выйти из-под контроля и подобные бактерии могут начать поедать пластик, например, в деталях самолетов. Что делать в этом случае?

Может, принимать компенсирующие меры? Создавать бактерии-защитники, которые будут противодействовать бактериям, поедающим пластик, и смазывать первыми детали самолетов?

Отличие ИИ будущего в том, что он может оказаться умнее бактерий и умнее самого человека.

Пока количество нейронов в современных компьютерных системах не больше, чем у пчелы. Но уже сейчас мы начинаем «приручать» искусственный интеллект: все больше компаний в мире используют интеллектуальные технологии, чтобы принимать важные для бизнеса решения и выявлять возможные риски.

Изображение: yumikrum/Flickr via CC

Этот процесс называется «цифровая трансформация». Буквально через месяц в моей новой компании мы представим технологию Yva.ai, задача которой — стать электронным мозгом компании. Представьте, что вы руководитель и у вас появилась магическая суперсила — предсказывать проблемы в компании до того, как они случились. Или представьте, что у вас появилась суперсила обучать начинающих сотрудников работать с эффективностью лучших. Это возможно, если вы подключите к корпоративной коммуникации «специально сконструированную нейросеть», которая анализирует активность сотрудников, выявляет самое ценное и делится рекомендациями. Совсем скоро ни одну из сфер нашей жизни невозможно будет представить без искусственного интеллекта.

У многих футуристов опасения в отношении искусственного интеллекта связаны с тезисом, что если нейронные сети будут включать в себя, условно говоря, больше ста миллиардов нейронов (то есть больше, чем у человека), они могут стать умнее человека и будут создавать новые модели ИИ успешнее, чем человек. Это определит «точку сингулярности», момент, когда человечество перестанет контролировать развитие ИИ.

Уже сейчас говорят о том, что рано или поздно появится интерфейс между человеческим мозгом и искусственной нейросетью, позволяющий управлять технологией

Решить эту проблему можно двумя способами. Первый — создавать нейросети, которые будут автоматически следить, обнаруживать и купировать потенциальные враждебные действия других ИИ. Второй способ — подключать человека к этой сети. Уже сейчас говорят о том, что рано или поздно появится интерфейс между человеческим мозгом и искусственной нейросетью, позволяющий управлять технологией.

Я встречался с представителями компании, которая считает, что они ушли в этом направлении гораздо дальше Илона Маска. По правде сказать, ее эксперты пока очень консервативны в своих прогнозах. Они утверждают, что объем данных, который обрабатывается человеческим мозгом на площади в один квадратный сантиметр коры, уже находится на пороге возможностей современных коммуникационных технологий и превышает несколько терабайт в секунду. Этот объем даже передать не так просто, не то что обработать. При этом для целей чтения и записи данных с точностью до отдельного нейрона им приходится вскрывать черепную коробку человека, а это опасная процедура. Сегодня их пациенты идут на это в попытке победить серьезные заболевания.

Но если в ближайшие 20-30 лет человечество придумает способ читать и записывать в мозг данные с точностью до отдельных нейронов в объемах петабайт (тысяча терабайт) в секунду без хирургического вмешательства, и мы сможем подключить к нейросети свой мозг, то человек будет способен не только управлять искусственным интеллектом, но и действовать с ним совместно, принимая новые вызовы технологического прогресса.

Читайте также:  Куда деваются монеты, которые люди кидают в фонтаны

Угроза или возможности: стоит ли бояться искусственного интеллекта

Эксперты мирового уровня обсуждают в Москве влияние новых технологий на жизнь планеты

13.12.2018 в 17:36, просмотров: 4252

Кибербезопасность, кибертерроризм, искусственный интеллект, новые технологии – эти понятия давно уже стали приметой не научной фантастики и футурологических прогнозов, а явлениями нашей современной жизни. В четверг, 13 декабря, в Москве в Национальном исследовательском институте мировой экономики и международных отношений имени Е.М. Примакова РАН открылась международная конференция, посвященная этим проблемам, о которых «МК» поговорил с одним из ее участников.

– Наш институт и его партнеры (центр стратегического прогнозирования Атлантического совета, центр корейско-российского сотрудничества по науке Corustec и целый ряд других организаций) уже давно обсуждают проблему, связанные с развитием новых технологий – как они влияют на экономику, международные отношения, социальную сферу, институты глобального управления, – рассказывает «МК» один из модераторов международной конференции EMERTECH 2018 «Прорывные технологии: вызовы развитию общества и глобального управления», заведующий отделом науки и инноваций ИМЭМО РАН Иван ДАНИЛИН. – Проблема в том, что мы фиксируем довольно серьезные изменения, однако те дискуссии, которые идут сейчас по этим изменениям, либо предполагают, что технологии сами по себе решат все проблемы. Либо же, наоборот, предполагают, что новые технологии создадут неразрешимые угрозы и вызовы, которые ухудшат перспективы развития мирового сообщества и социальной сферы. «Страшилками» в этом контексте являются, с одной стороны, различные формы кибертерроризма, а с другой, всеобщая безработица из-за роботов и искусственного интеллекта. К сожалению, очень не хватает глубоких экспертных, научно обоснованных дискуссий о том, что происходит и почему происходит, какие предстоят в ближайшее время изменения и как на них реагировать. Наша задача – создать платформу для таких экспертных дискуссий. Не оторванных от жизни. Не для ученых в башнях из слоновой кости. А для людей, которые способны предметно проанализировать происходящие процессы и дать определенный ответ о характере изменений, их последствиях и возможных стратегиях реагирования.

Для каждой конференции мы выбираем актуальные вопросы – и вэтом году мы обсуждаем восприятие проблем кибербезопасности в разных странах. И то, какие меры необходимы для преодоления недоверия между различными государствами в этой сфере и начала диалога для урегулирования проблем. Это тема занятости в цифровой экономики, включая опыт Китая, России, других стран.

– Можно ли привести конкретные проблемы?

– Есть несколько очень хороших примеров по Китаю, где цифровая экономика кое-где развивается даже быстрее, чем в США. Например, всемирно известная китайская торговая электронная площадка некоторое время назад пришла в сельские районы Китая и районы, где расположены малые (по китайским, естественно, меркам) города. И это привело к феноменальному эффекту: существенно оживилась экономическая деятельность и повысить занятость в этих районах, поскольку, благодаря этой площадке, они оказались гораздо более тесно интегрированы в экономику не только Китая, но и мира. С другой стороны, началось развитие других параллельных бизнесов, которые обслуживают те, которые включены вэту площадку. Да, там были и негативные эффекты, но в целом мы имеем живое подтверждение, что на данный момент подобные цифровые площадки не только не способствуют уничтожению занятости, а ее росту и развитию. Более того, если мы будем рассматривать другие примеры, то увидим, что какие-то профессии отмирают, но на их месте появляются новые. И когда говорится, что цифровая экономика лишит рабочих мест большое число людей, справедливо только для конкретных видов занятости. Надо думать не о том, как спасти извозчиков гужевого транспорта, а о том, как позволить переквалифицироваться людям из тех специальностей, которые потеряют работу, каким образом выращивать новое поколение специалистов.

Затрагиваем мы и вопросы научной дипломатии: в современном мире они приобретают особое значение. Потому что помимо поиска совместного ответа на большие вызовы сейчас, как и во время холодной войны, это становится важным аспектом диалога. Например, между Россией и Западом – в ситуации, когда наши отношения в традиционной политике оставляют желать лучшего. В науке, к счастью, наши отношения пока гораздо лучше, чем в международной политике.

– Одна из тем конференции посвящена роботам и искусственному интеллекту. Напрашивается позаимствованный из массовой культуры апокалиптический сюжет «восстания машин». Теоретически, сегодня это может представлять проблему?

– Никакой сценарий, конечно, исключать нельзя. Но пока искусственный интеллект это набор относительно простых инструментов, который предназначен для очень технических задач. Это нейронные алгоритмы, нейронные сети. Скорее возникает ряд вопросов, напрямую не связанных с «восстанием машин», а с нашей способностью управлять этими «машинами». В том смысле, что наши – как государственные, так и глобальные – инструменты управления заметно устарели. И каким образом технологические перемены повлияют на нашу способность понимать, что происходит, и управлять этими изменениями – это очень серьезный вопрос.

– Например?

– Есть пример, касающийся стратегической стабильности. Исторически в системах предупреждения о ракетном нападении реакция людей неоднократно спасала мир. Таких историй было несколько и в СССР, и в США, когда оператор проявлял известную степень выдержки и не реагировал на угрожающие сигналы систем предупреждения. И таким образом удалось предотвратить ядерную войну. В какой-то момент все эти системы будут либо полностью автоматическими, либо автоматизированными. И мы не знаем, как искусственный интеллект поведет себя в подобной ситуации, учитывая, что он лишен эмоциональных и этических аспектов, а запрограммировать их вряд ли получится. В некотором смысле это если и не угроза, то фактор неопределенности, с которым придется иметь дело в ближайшем будущем. Или возьмем использование искусственного интеллекта в медиа-пространстве. Уже сейчас мы видим, что медийные сообщения часто вытесняют реальность. И искусственный интеллект, который будет использоваться для обработки всех этих данных, скорее всего, не повысит понимание управленцев о том, что происходит. А наоборот, запутает. Потому что массивы информации огромные, алгоритмы обработки все еще несовершенные, а людям придется принимать на базе этих данных решения (в том числе и стратегические). Даже сейчас, когда наши зарубежные контрагенты по каким-то нелепым поводам не вполне адекватно, с нашей точки зрения, реагируют на безобидные или даже конструктивные сигналы со стороны России, мы видим, насколько сложной оказывается в цифровую эпоху система международных отношений и управления вообще. Искусственный интеллект может на какой-то момент улучшить, но может и существенно осложнить подобные задачи. Это то будущее, с которым мы имеем дело уже сейчас.

Стоит ли нам бояться искусственного интеллекта

Стоит ли нам бояться искусственного интеллекта

В начале ноября этого года инженер Франсуа Шолле из компании Google выпустил манифест. В нем он описал две ключевые проблемы: ученые и исследователи так и не договорились, что они понимают под искусственным интеллектом (ИИ). Кроме того, никто до сих пор не придумал способа сравнивать ИИ между собой и с интеллектом человека. Как обстоит дело с его развитием сегодня? Что это такое и где он применяется? Попробуем разобраться.

1. Игры разумов

Молодой китаец в черном костюме, белой рубашке и очках в квадратной оправе сидел, сгорбившись, обхватив голову руками и полностью погрузившись в напряженные размышления. Обладатель девятого дана по древней восточной интеллектуальной игре го еще ни разу за свою карьеру не попадал в столь трудное положение.

Го – игра с обманчиво простыми правилами: два игрока, поле 19 на 19 линий, наборы камней черного и белого цвета. Игроки поочередно передвигают свои камни, пытаясь окружить ими камни соперника. Всю жизнь Кэ Цзе с легкостью побеждал в эту игру любого противника – до 23 мая 2017 года, когда созданная компанией Google компьютерная программа AlphaGo с мощным искусственным интеллектом не разгромила его, выиграв три партии из трех.

Кэ Цзе ни разу в жизни не проигрывал в игру го. Пока не столкнулся с AlphaGo

Долгое время го оставалась непокоренным рубежом для компьютеров. Шашки, шахматы, карточные игры и стратегии типа Starcraft – машины последовательно и повсеместно взяли верх над людьми. И только го оставалась прерогативой невычислимых для математических алгоритмов творчества и интуиции, ведь количество возможных комбинаций на доске го больше, чем атомов во Вселенной. Просчитать и перебрать такое их число пока не под силу ни одному суперкомпьютеру.

На протяжении многочасовых партий Kэ Цзе боролся с программой всеми доступными ему средствами. Он применял консервативную, агрессивную, оборонительную и непредсказуемую тактики, но ни одна из них не срабатывала. AlphaGo раз за разом окружал человека и вынуждал его сдаться. Так пал последний бастион превосходства человеческого интеллекта перед искусственным.

В блокбастере Стивена Спилберга I.A. искусственный интеллект в теле ребенка научился даже любить. Фото: Кадр из фильма «Искусственный разум»

2. Ограниченные возможности

Столь грандиозных успехов программам удалось добиться за счет имитирования той или иной деятельности человеческого интеллекта, поэтому сейчас общепринятым в России считается такое его определение – это любые технологии или продукты, приводящие к результату, аналогичному интеллектуальной деятельности человека, и используемые для решения прикладных задач.

Впервые термин «ИИ» был введен в далеком 1956 году на конференции в Дартмутском университете информатиком Джоном Маккарти. Ему же принадлежит и его остроумное толкование: «Как только любая система искусственного интеллекта начинает хорошо работать и давать результат, то никто больше ее искусственным интеллектом не считает».

Во многом это правда. На наше восприятие ИИ влияют такие фильмы, как «Терминатор» или «Робокоп», а для особо изощренных читателей – «Матрица» или «Космическая одиссея 2001 года». Из-за них мы часто объединяем роботов и искусственный интеллект в единое целое. Это неправильно. Робот всего лишь оболочка, при этом она может быть какой угодно и необязательно имитировать человеческое тело. А ИИ – это набор алгоритмов внутри компьютера внутри робота. Простой пример, программное обеспечение и данные, которые отвечают за работу голосового помощника Алисы от Яндекса, – это искусственный интеллект, а женский голос – его персонификация, и никаких роботов в этой системе нет.

Второе большое заблуждение, что ИИ, особенно воплощенный в теле робота, может совершать любые внешние операции и умственные действия, на которые способен человек. В первых частях знаменитого «Терминатора» Т-800 проделывает все, что и люди, только быстрее, лучше, эффективнее. В реальности даже такие крутые программы, как AlphaGo или Watson, не способны делать ничего, чему они заранее не обучены, не натренированы. Каспаров или Кэ Цзе тут же могли дать интервью, поняв человеческую речь и сформулировав ответы, вызвать себе такси и заказать столик в ресторане, послушать музыку и определить ее жанр, исполнителя и названия мелодий. Ни одна из программ для игры в шахматы, го, викторины или любые другие специальные функции не способна обучаться иным навыкам или переучиваться. Исходя из этого ИИ делят на две категории: сильный (как в фильмах) и слабый.

С искусственным интеллектом вы сталкиваетесь каждый день, как только берете в руки свой смартфон

3. Снять маску

Как понять, что мы создали сильный ИИ? Вероятно, единственный критерий этого, если искусственный интеллект полностью в своем поведении и способностях неотличим от человека. В 1950 году знаменитый британский математик Алан Тьюринг создал для этого особый тест.

Тьюринг прославился тремя вещами. Он взломал коды немецкой шифровальной машины «Энигма» в годы Второй мировой войны. Придумал концепцию простейшей вычислительной машины. И предложил испытание, позволяющее установить – может ли компьютер мыслить? Для этого человек последовательно общается с машиной и другим человеком, не видя их. В ходе диалогов он должен определить – кто является его собеседником? Если участник опыта принимает компьютер за человека или затрудняется с ответом, то считается, что машина прошла тест Тьюринга.

Тест Тьюринга замечателен тем, что исключает сложные философские вопросы выявления «сознания» роботов, заменяя их критерием эффективной имитации человеческого поведения. Долгое время он считался «золотым стандартом», пока в последние годы современные чат-боты и голосовые помощники не стали настолько совершенными, что их уже очень трудно отличить от людей. Поэтому специалисты в области компьютерных наук усложнили его, придумав мета-тест Тьюринга. С его помощью компьютер считают разумным, если он создал нечто, что он сам хочет проверить на разумность.

4. Он уже здесь!

Сильный ИИ – дело далекого будущего. У многих скептиков вообще есть сомнения, что он может быть когда-то создан. Однако прямо сейчас мы живем в эпоху слабого искусственного интеллекта, при этом почти не замечаем его. Где же и когда мы пересекаемся с ним?

Читайте также:  Этапы эволюции человека: как менялась внешность людей за миллионы лет - подборка фото

В своем смартфоне. Когда вы наводите объектив на свою семью, а в видоискателе сразу же квадратиками отмечаются улыбающиеся лица – это работает алгоритм Виолы – Джонса. Его же используют и в камерах видеонаблюдения, чтобы поймать преступников, и даже в соцсетях, когда предлагают вам отметить себя на чужих загруженных фотографиях.

Далее, вы смотрите передачу на YouTube, фильм на Netflix или другом сервисе подписок на видеоконтент, слушаете музыку в Яндекс.Музыке и т. д. Анализируя ваши предпочтения, система подсовывает другие видеоролики, кинокартины или композиции. И это тоже слабый ИИ!

Google Translate или DeepL, которые помогут перевести вам текст с любого наиболее распространенного и даже мертвого языка вроде латинского на русский, невозможны без систем ИИ. Распознавание и опознание мелодий в Shazam, надиктованной речи в диктофоне, автоматический автоответчик в банке и т. д., и т. п.

Но если вы думаете, что ИИ касается только информационных систем, то вы заблуждаетесь! Взлет, посадка и управление современными самолетами практически полностью под управлением не пилотов, а искусственного интеллекта. Антиблокировочная система и впрыск топлива в автомобилях тоже регулируются им. А по дорогам Сколково и американским хайвеям разъезжают полностью беспилотные самоуправляемые автомобили, со сложными системами компьютерного зрения и навигации.

Сейчас искусственный интеллект торгует на биржах и выдает деньги в банкоматах, управляет воздушными и наземными боевыми дронами, ставит диагнозы и производит операции, составляет контракты и судебные иски, снимает данные с умных счетчиков и предсказывает нагрузку на тепло- и электросети.

По сути, наша жизнь уже совершенно немыслима без слабого искусственного интеллекта.

ПРОТИВОСТОЯНИЕ

История поражений человечества

1979 год – нарды. Математик Ханс Берлинер придумал алгоритм оценки ситуации на игровой доске и просмотра дерева игры на несколько ходов вперед, чтобы выбрать оптимальное продолжение. Он лег в основу программы BKG 9.8, обыгравшей действующего чемпиона мира Луиджи Виллу со счетом 7:1.

1997 год – шахматы. Первая схватка компьютера Deep Blue от IBM и действующего чемпиона мира Гарри Каспарова состоялась в 1996 году. Каспаров уверенно выиграл (3 победы, 2 ничьи, 1 поражение). Однако всего спустя год для матча-реванша инженеры IBM значительно увеличили мощность компьютера – теперь он мог оценивать 200 миллионов позиций в секунду. На этот раз Deep Blue одолел российского гроссмейстера (2 победы, 3 ничьи, 1 поражение) и стал первым компьютером, победившим сильнейшего шахматиста мира.

2007 год – шашки. В Канаде создали шашечную программу, которая не может проиграть. В лучшем случае, если человек проведет безошибочную партию, сможет добиться ничьей. Алгоритм анализирует все возможные варианты развития игры и выбирает идеальный ход в каждой ситуации.

2011 год – телевикторины. Компания IBM выставила на популярную телевикторину Jeopardy! (в России – «Своя игра») систему искусственного интеллекта Watson. Она не оставила никаких шансов двум легендарным чемпионам: Кену Дженнингсу, установившему рекордную беспроигрышную серию в 74 выпусках передачи, и Брэду Руттеру, получившему самый большой выигрыш в истории шоу – 4,45 млн долларов. Правда, бросить вызов Анатолию Вассерману заокеанские инженеры пока не осмелились.

2017 год – покер. В покере карты участников закрыты, к тому же игроки могут блефовать, что сильно усложняет работу искусственного интеллекта. Однако и в таких условиях программа DeepStack переиграла 10 из 11 профессиональных игроков в покер после трех тысяч партий с каждым. А ученые из Университета Карнеги-Меллона (США) создали бота Libratus. Он бросил вызов профессионалам и победил четырех лучших игроков в самый популярный на сегодня вид покера – «Техасский холдем».

2019 год – Starcraft II. Бот для самой популярной в мире стратегической игры реального времени Starcraft II под названием Deepmind AlphaStar от компании Google легко победил со счетом 5:1 одного из лучших игроков-людей – поляка Гжегоржа Коминча по прозвищу MaNa. Starcraft II требует как молниеносной реакции для четкого управления сотнями боевых единиц на карте, так и долгосрочного стратегического планирования. В игре скрыто много важной информации: запасы ресурсов врага, размер и положение его армии и т. п. Каждая из версий AlphaStar училась всем премудростям и хитростям игры, тренируясь в боях с другими программами и отыграв в общей сложности 200 лет.

КЛАССИФИКАЦИЯ ИИ

1. Слабый искусственный интеллект – это ИИ, который специализируется в одной области. Он может обыграть лучших шахматистов мира, но на этом его возможности заканчиваются. Попроси его поставить вашу любимую музыку – и он впадет в ступор.

2. Сильный искусственный интеллект – универсальный ИИ человеческого уровня, машина, способная выполнять те же задачи, что и человек. Задача создания сильного ИИ несравнимо сложнее задачи создания слабого ИИ, и нам еще только предстоит ее решить. Подобный интеллект будет способен к осознанию, планированию, решению проблем, абстрактному мышлению, пониманию сложных идей, быстрому обучению, усвоению все новых и новых навыков, обучению на собственном опыте.

3. Технологическая сингулярность, или появление искусственного сверхразума. В 1983 году писатель-фантаст Вернон Виндж написал эссе, где предположил, что в будущем человечество ждет «технологическая сингулярность» – момент времени, когда количество вычислительных мощностей, их объединение и развитие программного обеспечения станет настолько мощным, что породит суперинтеллект, превосходящий человеческий. Сейчас эту идею поддерживает философ и футуролог Ник Бостром. Он определяет суперинтеллект как «разум, превосходящий лучшие умы человечества во всех областях, включая научную изобретательность, здравый смысл и социальные навыки».

Впрочем, пока человечеству очень далеко до сильного ИИ, а вот в области разработки и использования систем слабого мы уже вполне преуспели.

КСТАТИ

В 2018 году корпорация Google представила на конференции по искусственному интеллекту аудиозапись разговора, в которой голосовой помощник дозвонился в парикмахерскую и записал своего владельца на стрижку. Чат-бот так ловко задавал вопросы, использовал паузы и междометия, что администратор на том конце провода так и не понял, что с ним разговаривал не человек, а виртуальный собеседник. Участники конференции были потрясены реалистичностью речевого поведения робота.

А КАК У НАС?

История искусственного интеллекта насчитывает уже больше 60 лет. Первые попытки построить обучающиеся машины были предприняты в рамках кибернетики. В ее основе лежали математические модели процессов управления в живых организмах и обществе. Среди пионеров кибернетики было немало и советских исследователей, таких как Виктор Глушков, Анатолий Китов и Алексей Ляпунов.

Среди достижений россиян: построение первых робототехнических машин, способных решать простые задачи – ехать на свет или объезжать препятствия; автоматизация производства и использование первых – в то время еще гигантских и медленных ЭВМ – для нужд Госплана. Начинания кибернетиков опережали свое время, но из-за чрезмерной бюрократизации внутри советских министерств и недоверия ко всему новому не нашли того применения, на которое надеялись первопроходцы. По воспоминаниям многих современников этих выдающихся ученых, внедрение тех ранних систем искусственного интеллекта было способно предотвратить экономический коллапс 1980 – 1990-х годов и вытащить СССР из кризиса.

К сожалению, сейчас успехи российских исследователей, инженеров и разработчиков значительно отстают от ведущих держав искусственного интеллекта: США и Китая. Поэтому для исследований в области этой сквозной технологии создан специальный Центр компетенций на базе МФТИ и утверждена «Государственная программа по развитию искусственного интеллекта», поддержанная лично президентом Владимиром Путиным. По мнению многих мировых экспертов, тот, кто сможет добиться долгосрочного лидерства в разработке технологий слабого ИИ и приблизится к созданию сильного, обеспечит себе глобальное лидерство в ближайшие десятилетия. Сегодня нам крайне важно не упустить свой шанс.Источник: Комсомольская правда

Опубликовано 27 декабря 2019 Комментариев 0 | Прочтений

Насколько опасен искусственный интеллект

Человечество уже многие свои фантазии воплотило в реальность. От карманных компьютеров до автомобилей с автопилотом и от виртуальной реальности до космического туризма. А теперь в жизнь воплощается и искусственный интеллект. Человечество постепенно стирает границы фантазии и вымысла посредством современных исследований и технологий.

Искусственный интеллект (далее ИИ) в настоящее время представляет собой перспективное направление, на которое ориентируются многие компании. Искусственный интеллект — это область науки, которая изучает работу аппаратных и программных компонентов, а именно их интеллектуальное поведение. Вместо того, чтобы получать информацию от пользователя, такие машины самостоятельно обучаются и становятся умнее.

В настоящее время над проектами ИИ работают многие компании, включая Microsoft, Google, Facebook и другие. В Южной Корее также есть несколько высококлассных проектов по искусственному интеллекту. А теперь представьте, что это лишь те компании, которые заявили об этом официально. Не стоит забывать, что наверняка есть много компаний, которые втайне работают над проектами искусственного интеллекта.

Искусственный интеллект, который когда-то считался живым лишь в человеческом воображении, сегодня вполне реален. Уже сейчас ИИ стал предметом большого интереса для многих лидеров в индустрии высоких технологий.

Почему искусственный интеллект должен нас беспокоить?

Сначала это был Стивен Хокинг , затем Илон Маск и совсем недавно Билл Гейтс. Эти великие умы человечества предполагают, что за ИИ нужно пристально следить.

Генерального директора Тесла, Илона Маска однажды спросили, что он думает об искусственном интеллекте. Он ответил, что это как «вызов демона», которого нельзя призывать, если не можете его контролировать.

Когда Стивену Хокингу был задан этот же вопрос, то он предупредил публику. Он сказал, что любое дальнейшее исследование искусственного интеллекта может быть фатальной ошибкой. Он упомянул, что развитый ИИ будет обладать способностью переделывать, усовершенствовать себя. Такой интеллект сможет эволюционировать самостоятельно с огромной скоростью. Людям такая скорость эволюции недоступна, что ставит человечество в заведомо на более низкую ступень развития по сравнению с ИИ.

По словам Билла Гейтса, устройства с искусственным интеллектом поначалу будут простыми. Но со временем они будут узнавать все больше о нас и о нашем мире. Они будут становиться все более могущественными и интеллектуальными, чем человечество.

Риски искусственного интеллекта

Существует четыре класса риска, создаваемого искусственным интеллектом:

1. Программная враждебность

Один из сценариев, когда ИИ может быть опасным, заключается в том, что он будет специально запрограммирован на враждебность. Например, со стороны военных или террористической группы, для достижения каких-то своих целей.

Еще один возможный сценарий враждебного искусственного интеллекта предполагает несовпадение глобальных целей, его и человечества. Что если расчеты искусственного интеллекта приведут к тому, что единственный способ достичь цели — это уничтожить всех людей? Вполне возможно, что это может спровоцировать его начать войну с человечеством.

Главная проблема в том, что ИИ не человек, и вряд ли с ним получится договориться. Его главным приоритетом будет выполнение глобальной задачи любой ценой. Поэтому война будет длиться, пока воля или способность человечества противостоять не будут уничтожены.

2. Пассивный риск

Фактически нет риска пассивной опасности от ИИ с приоритетными целями дружелюбности. Однако риск почти неизбежен от ИИ без таких целей. Пассивный ИИ может быть опасен просто потому, что он не учитывает безопасность человека, как это делают все люди.

Например, взять ИИ без целей дружелюбия, отвечающий за обработку посевов пестицидами. Этот ИИ будет обрабатывать поле, даже если знает, что в этот момент на поле находятся люди.

3. Случайный риск

Искусственный интеллект, работающий с неполными данными, способен ошибиться точно также, как и человек. Ошибки такого рода почти неизбежны, поскольку невозможно знать все обо всем в мире.

Однако, данный риск является наименее опасным, поскольку ИИ способен учиться на собственном опыте. Любые происшествия уменьшают вероятность повторения ошибки в будущем, улучшая ИИ, и делая его более безопасным.

4. Риск непостижимости

Реальная опасность хорошо спроектированного искусственного интеллекта заключается в его способности перепрограммировать и бесконечно совершенствовать себя. Такой ИИ, способный к самосовершенствованию, может в конечном итоге превзойти ограничения человеческого интеллекта.

Когда существует искусственный интеллект, который умнее любого человека на Земле, становится невозможно полностью понять его. Такой ИИ также, вероятно, будет продолжать улучшать себя все быстрее и быстрее. Ведь каждое новое открытие или технология только ускоряют этот процесс. И именно это будет делать его все более и более невозможным для понимания людьми.

Кроме того, в какой-то момент ИИ может обнаружить законы причинности или логики, выходящие далеко за пределы понимания человеческого разума. Тогда возможности того, что он может сделать, становятся просто бесконечными.

Заключение

Хотя существует множество гипотез об опасном искусственном интеллекте, мы должны понимать, что это всего лишь предположения, а не факты. Люди всегда сомневались в новых технологиях, и было время, когда мы также боялись сотовых телефонов. В конце концов, речь идет о том, каким мы создадим искусственный интеллект и как мы будем его контролировать.

Ссылка на основную публикацию