Тренд: технологическая сингулярность

Поделиться

В 2016 году Илон Маск написал в Твиттере: «Самая главная цель человечества — придумать, как связать мозг человека с мозгом машины». Основатель Tesla также утверждает: если такую связь не придумать, искусственный интеллект превзойдёт человеческий, и люди начнут страдать от безработицы. Интерес к превосходству искусственного интеллекта подогревают медиа — новостями о том как чат-боты выходят из под контроля.

Между тем, о превосходстве искусственного интеллекта заговорили ещё в 1980-х годах, и с ним связали понятие «технологическая сингулярность». Рассказываем, что это такое, чем опасна сингулярность и за что её критикуют. 

В чем суть технологической сингулярности

Технологическая сингулярность — это момент времени когда мощность компьютерных программ превысит вычислительную мощность человеческого мозга. Этот термин изобрел математик и научный фантаст Вернон Виндж в 1983 году. По словам писателя, люди сотворят более могущественный интеллект, чем их собственный. А когда это произойдет, человечество достигнет сингулярности, и его дальнейшая судьба станет непредсказуемой.

Теорию технологической сингулярности популяризовал футуролог Рэймонд Курцвейл. По его предсказанию, сингулярность наступит в 2045 году, когда мощность компьютера и человеческого мозга сравняются по закону Мура. Курцвейл считает, что искусственный интеллект дойдёт до создания себе подобных, а еще будет способен на самомодификацию. 

Однако даже Курцвейлу остаётся гадать, каким будет искусственный интеллект в 2045 году: например, сможет он выполнять за минуту то, на что человеку требуются годы, или нет. 

Чем опасна сингулярность

Искусственный интеллект уже сейчас находится на высоком уровне развития. Например, в мае 2017 года программа AlphaGo от компании DeepMind обыграла в го Кэ Цзе, сильнейшего игрока в мире. В 2016 году она одержала победу над другим известным игроком в го, Ли Седолем. Ранее считалось, что компьютер не сможет играть в го наравне с профессионалом, потому что в игре нужно хорошее абстрактное мышление, а перебрать все возможные варианты исхода игры невозможно.  

В 2015 году искусственный интеллект ConceptNet догнал четырехлетних детей в IQ-тесте. Программа показала средние результаты для детей этого возраста.

А теперь представьте, насколько опасным может быть искусственный интеллект, способный на самомодификацию. Вдруг он станет настолько развитым, что человек не сможет его контролировать. Такие опасения, например, высказывал Илон Маск в Твиттере, предрекая восстание искусственного интеллекта. 

Чего мы боимся

Основные опасности, которые может принести технологическая сингулярность, связывают с потерей контроля человека над искусственным интеллектом.

  • Апокалипсис, в ходе которого искусственный интеллект восстанет против человека, и начнётся война.
  • Порабощение человечества. Искусственный интеллект станет настолько развитым, что поработит людей с помощью насилия или так, что люди этого никогда не поймут.
  • Обвал экономики. Машин станет больше, они подешевеют и смогут заменить труд человека. Таким образом, люди станут безработными, и это приведёт к глобальному кризису в экономике.
  • Искусственный интеллект как оружие в плохих руках.

«Меня беспокоят две вещи. Прежде всего, человечество слабеет: всё больше знаний мы получаем с помощью компьютеров, поэтому у людей нет желания исследовать что-то самостоятельно. Кроме того, я боюсь, что люди потеряют контроль над искусственным интеллектом или начнут намеренно использовать его в корыстных целях» - Стюарт Рассел, профессор информатики, Калифорнийский университет в Беркли

Критика сингулярности

Несмотря на предсказания Курцвейла, бояться апокалипсиса и порабощения человечества искусственным интеллектом пока рано. Об этом пишет Пол Аллен, соучредитель Майкрософта. 

По его словам, сингулярность может наступить, когда человеческий мозг до конца исследуют. Если искусственный интеллект создадут по его образцу, у машины появится сознание, и она будет думать, как человек. Но для этого нужно понимать, как мозг реагирует и меняется, как взаимодействия нейронов влияют на сознание человека. Сейчас модели человеческого мозга воспроизводят малую долю его реакций, а когда ждать открытий от учёных — неизвестно. 

Философ Колин МакГинн утверждает, что в теории сингулярности Курцвейл упростил когнитивные процессы в человеческом мозге до распознавания образов, которому обучают нейросети. При этом футуролог не учитывает, что образы стимулируют мозговую деятельность, но не заменяют её. 

Итак, если верить Курцвейлу, вычислительная мощность машины догонит человеческий мозг уже в 2045 году. Но пока что его теория не доказана, и восстания нейросетей и роботов бояться не стоит.

Команда Orange

We are a bunch of people sharing the latest news news with our customers and users. We love to write about technologies that are changing our daily life for better. Have a question? Feel free to drop a line to one of us — alexandra.tolokonnikova@orange.com