9 фейлов искусственного интеллекта

Кажется, весь мир помешался на искусственном интеллекте. На аукционе Christieʼs за 432,5 тысячи долларов продали картину, созданную искусственным интеллектом. Певица устроила с ним коллаборацию, а в Китае показали ведущего новостей, который как будто вырвался из мира Дикого запада.

И все же искусственный интеллект ошибается. Давайте посмотрим на его промахи, пока он их еще совершает.

1. Алекса устроила вечеринку, когда хозяина не было дома

В пятницу Оливер Хаберстрох (Oliver Haberstroh) решил выпить пива и оставил квартиру пустой. Пока он отсутствовал, голосовой помощник Алекса внезапно решил включить музыку на полную громкость без каких-либо команд со стороны. Это произошло в два часа ночи, так что соседи вызвали полицию.

Полицейские взломали дверь — внутри никого не было. Они отключили музыкальный автомат, который обычно включается при помощи голосовых команд, и ушли. По возвращении Оливер Хаберстрох обнаружил новый замок в двери, а в полицейском участке его ждал приличный счет за услуги слесаря.

2. Кортана не понимает неамериканский акцент

Все голосовые помощники совершают ошибки: Алекса, Сири, Гугл-ассистент, но всегда весело наблюдать, когда это происходит на презентации. Сатья Наделла (Satya Nadella), генеральный директор Майкрософта, с трех попыток так и не смог попросить Кортану показать ему вероятности рисков (show me at-risk opportunities). Вместо этого она начала искать, где купить молоко (show me to buy milk at this opportunity).

https://www.youtube.com/watch?v=DDqrfCmIPxI

3. Роботам не нужны ноги, чтобы путешествовать

Представьте, что вам нужно найти новый способ передвижения. Искусственный интеллект может показать простое и необычное решение задачи.

«Вместо того чтобы отрастить ноги, робот просто складывался в высокую башню, а потом падал. Некоторые роботы научились при падении делать сальто для преодоления еще большего расстояния», — пишет Жанель Шейн (Janelle Shane), исследователь нейронных сетей.

Видимо, у алгоритма не было условия, при котором он должен сохранять равновесие. Значит, можно падать, вставать, а потом повторять все сначала.

4. ИИ прилагает много усилий, иногда слишком

Искусственный интеллект действительно может придумать решение, которого мы от него совсем не ждем. И это решение может быть нелучшим для людей.

Например, перед алгоритмом стояла задача найти минимальное усилие, с которым самолет может приземлиться на авианосец. Алгоритм обнаружил, что, если приложить огромную силу, произойдет переполнение памяти и сила будет зарегистрирована как маленькая. Пилот умрет, зато оценка будет отличной.

5. Автопилот может ездить с пьяным и спящим водителем

В Калифорнии полицейские заметили Теслу, которая двигалась с максимально разрешенной скоростью. Когда водитель никак не отреагировал на просьбы свернуть на обочину, полицейские обогнали автомобиль и начали плавно притормаживать перед ним. Это сработало: скоро Тесла 3 остановилась.

Оказалось, что водитель был пьян и уснул за рулем. Автомобилем управлял автопилот.

Обычно Тесла определяет состояние водителя по движениям руля. Если водитель уснул и не принимает участия в управлении, автомобиль останавливается через 20–30 секунд. Почему в этот раз автопилот не остановил Теслу — непонятно.

6. Алгоритмам найма сотрудников нельзя полностью доверять

Внедрив у себя автоматизированную систему подбора персонала, Амазон столкнулся с проблемами. В 2015 году компания заметила, что алгоритм не рассматривает кандидатуры женщин на технические вакансии.

Большинство резюме, присылаемых раньше, были мужскими, поэтому если алгоритм видел слово women’s в резюме, то начислял штрафные баллы. Этот параметр удалили, но не было гарантии, что искусственный интеллект не применит похожее правило для других видов сортировки. Компания не могла доверять результатам работы программы. В результате ее закрыли, а команду распустили.

С похожей проблемой сталкивается не только Амазон. К примеру, на Airbnb анкеты с афроамериканскими именами отклоняют на 16% чаще, чем анкеты с европейскими фамилиями. Если обучать алгоритм на таких данных, он будет работать предвзято.

7. Распознавание лиц можно обмануть при помощи раскрашенных аксессуаров

У вас не получится обмануть друзей, надев очки. С системой распознавания лиц это сделать несложно. Например, команде ученых из Университета Карнеги-Меллона в Питсбурге удалось выдать себя за знаменитостей с помощью очков.

8. Face ID открывается при помощи маски за 150 долларов

Вьетнамская компания по кибербезопасности Bkav сумела обмануть Face ID на айфоне X, за 150 долларов напечатав на 3D-принтере маску. Потом им удалось сделать это еще быстрее с помощью второй маски, себестоимость которой составила 200 долларов. Возможно, в новых айфонах с улучшенным Face ID эта уязвимость уже закрыта.

9. Алгоритм распознавания лиц штрафует фото на автобусе

Китайская система распознавания лиц выписала штраф предпринимательнице Дун Минчжу. Она якобы переходила дорогу на красный свет. На самом деле ее даже не было на этом перекрестке, просто мимо проезжал автобус, на котором была ее фотография.

Когда шутка разлетелась по интернету, полиция извинилась за инцидент и пообещала доработать систему.