Новости в социальных сетях

Подпишитесь на нашу группу и читайте анонсы самых интересных новостей в любимой соцальной сети

ВКонтакте Одноклассники Facebook Twitter

Не оскорбляйте Siri! Кто и почему выступает против новых технологий?

Дата: 03 июля 2019 в 04:38 Категория: Новости высоких технологий


Не оскорбляйте Siri! Кто и почему выступает против новых технологий?

Технологии развиваются стремительно, но человеческая природа неизменна. В начале ХIХ века английские рабочие, протестуя против внедрения машин на производстве, крушили их кувалдами. Участников этого массового движения называли луддитами, а подавлять их восстания приходилось с помощью армии. В начале ХХI столетия страх перед технологиями никуда не делся. АиФ.ru изучил самые яркие случаи неолуддизма.

Чего добился искусственный интеллект?

«Остановим роботов-убийц!»

Расхожая страшилка последних лет: искусственный интеллект и машинные алгоритмы вскоре оставят без работы миллионы людей. Бюро статистики труда США составило список профессий, которые должны исчезнуть в ближайшее десятилетие. В нём — банковские служащие, клерки всех мастей, сотрудники колл-центров, секретари, наборщики текстов, операторы на конвейерном производстве. Однако массовых протестов это не вызывает (во всяком случае, пока): интересы потребителей умело переводятся в индустрию развлечений, которая сейчас цветёт пышным цветом.

Другое дело — угроза войны роботов. Искусственный интеллект внедряется в военные технологии, а чем обернётся появление «роботов-убийц», сказать не может никто. Например, Илон Маск предрекает начало Третьей мировой войны и апокалиптический сценарий в духе фильма «Терминатор». Американский миллиардер вошёл в число 2400 учёных и предпринимателей, которые подписали письмо с призывом к властям полностью запретить работы по созданию автономного летального оружия на основе искусственного интеллекта.

Похожие требования выдвигает группа неправительственных организаций под названием «Остановим роботов-убийц». А часть сотрудников Google уволилась после того, как узнала, что их компания собирается подписать контракт с Пентагоном на поставку софта, который, возможно, будет применяться в боевых дронах. «Мы всё больше опасаемся, что искусственный интеллект станет не только предвзятым, но и вооружённым», — сказано в петиции сотрудников Google.

Робот-шизофреник. Может ли искусственный интеллект сойти с ума? Подробнее

Новая игра: подрежь беспилотник

Испытания беспилотного транспорта ведутся во многих странах мира. И у них уже есть свои жертвы.

В мае 2016 года в штате Флорида электрокар Tesla в режиме автопилота врезался в грузовик с прицепом. Водитель, тестировавший Tesla, погиб на месте. В марте 2018 года беспилотник компании Uber в штате Аризона насмерть сбил женщину, которая переходила дорогу в неположенном месте. А буквально через несколько дней случилась ещё одна авария с Tesla. Машина, в кабине которой находился страхующий водитель, потеряла управление и влетела в отбойник. Автомобиль загорелся, водитель умер по дороге в больницу.

Школа для автопилота. Тест-драйв первого серийного помощника водителю

Когда сотрудники Uber просматривали записи с видеокамер тестируемых беспилотников, они обратили внимание, что окружающие люди зачастую не скрывают агрессии по отношению к новому виду транспорта. Пешеходы показывают этим машинам средний палец и орут на них; водители, едущие в соседней полосе, подрезают и провоцируют на то, чтобы авто съехало с дороги. Бывали случаи, когда беспилотники забрасывали камнями и даже целились в них из огнестрельного оружия.

Исследователь из Университета Аризоны Фил Саймон предполагает, что эта агрессия имеет под собой те же основания, что и протесты луддитов в ХIХ веке, крушивших ткацкие станки. «Люди попросту боятся, что настанет день, когда автоматизированные системы оставят их без работы, — говорит он. — А беспилотный автомобиль — самая заметная автоматизированная система из всех, ведь его можно встретить прямо на улице. Неудивительно, что на нём люди и вымещают свои страхи в виде агрессии».

Изображение луддитов, ломающих ткацкий станок, 1812 г.

«Они меня просканировали!»

С 2017 года в Великобритании используется технология автоматического распознавания лиц в местах массового скопления людей. Цель — находить сбежавших заключённых, подозреваемых в совершении преступлений и разыскиваемых преступников.

В декабре офисный клерк Эдд Бриджес, живущий в Кардиффе, отправился в магазин за рождественскими покупками. Его внимание привлёк полицейский фургон с надписью «Распознавание лиц». Эдд решил, что это не что иное, как наглое вторжение в его личную жизнь и нарушение фундаментальных прав и свобод. После чего подал в суд на полицию.

«Я уверен, что они меня просканировали, — объяснил свой поступок храбрый клерк. — А ведь мы живём не в авторитарном государстве. Мы живём в условиях демократии! Полиция начала применять эту технологию против меня и тысяч таких, как я, без всякого предупреждения и консультаций. Трудно понять, как полиция собирается обосновать неадекватное использование такого навязчивого контроля».

Ми-ми-мишки. За какими животными из зоопарков можно наблюдать онлайн?

Бриджес разузнал, что в тот день в городе с помощью системы автоматического распознавания лиц было совершено два ареста по подозрению в мелких правонарушениях. А просканированы при этом десятки тысяч лиц. Следовательно, делает вывод активист, эффективность технологии находится под вопросом! А вот угроза демократическим свободам неоспорима.

Деньги на иск к полиции он собрал с помощью краудфандинга. Адвоката Эду Бриджесу выделила британская правозащитная организация Liberty , которая охотно его поддержала. «Такое использование системы распознавания лиц эквивалентно взятию отпечатков пальцев или ДНК без согласия самого человека, — разъясняет позицию подзащитного адвокат Меган Гулдинг. — Кроме того, в отличие от дактилоскопии или образцов ДНК, нет регламента, который позволял бы контролировать дальнейшее использование и управление полученными биометрическими данными».

И это не всё. Правозащитники обращают внимание, что данная технология допускает ошибки при сканировании. «Если мимо камеры пройдёт женщина или представитель этнического меньшинства, то с высокой долей вероятности это лицо будет найдено в „чёрном списке«, даже если его там нет, — утверждает Гулдинг. — Человека остановят и допросят. Выходит, что эта технология усиливает перекос в общественном сознании, ужесточая и без того пристальное внимание полиции к представителям этнических меньшинств».

Найти за полсекунды. Зачем нужна программа распознавания лиц Подробнее

ООН против голосовых помощников

Свою озабоченность технологиями высказывают и такие солидные организации, как ООН. Недавно её подразделение ЮНЕСКО представило доклад под названием «Я бы покраснела, если бы смогла». И вновь речь идёт о нарушении прав, на этот раз — женских.

Доклад посвящён голосовым помощникам, которые рано или поздно будут стоять в каждом доме и которые, как правило, говорят женскими голосами. В чём тут суть? Если вы произнесёте какое-то оскорбление в адрес голосового помощника Siri, то он (или она?) ответит: «Я бы покраснела, если бы смогла» (это и дало название докладу). Но эксперты ООН считают, что это слишком мягкая реакция на дерзость. Даже если вы назовёте Siri шлюхой, ответ будет только таким. А это, как сказано в докладе, усиливает гендерное неравенство, заставляя пользователей думать, что женщина «доступна по нажатию кнопки» и что говорить с ней можно любым тоном.

Siri, Алиса и Кортана. Разбираетесь ли вы в голосовых помощниках?

«Послушные помощники, которые говорят женскими голосами, приходят в наши дома, машины и офисы. Их безоговорочная готовность подчиняться влияет на то, как люди разговаривают с обладательницами женских голосов, и моделирует то, как женщины реагируют на вопросы и выражают себя», — объяснила директор по вопросам гендерного равенства в ЮНЕСКО Сания Корат. В итоге, отмечают авторы, во многих сообществах, и без того не отличающихся толерантностью, «усиливаются предрассудки в отношении пола и того, что женщины подчинены и терпимы к плохому обращению».

Представители ООН просят производителей голосовых помощников: Google, Amazon, Apple и Microsoft, — перестать использовать в них женский голос по умолчанию. Рекомендуется делать голоса гендерно-нейтральными. А ещё предлагается запрограммировать эти девайсы так, чтобы они сами препятствовали оскорблениям по половому признаку.

Что-то подсказывает: когда роботы начнут войну против человечества, они непременно будут разговаривать женскими голосами. Чтобы уж сразу за всё поквитаться.

По сообщению сайта Аргументы и Факты

Поделитесь новостью с друзьями