В письме, представленном президенту Джеффу Безосу, акционеры, многие из которых являются сторонниками социально ответственного инвестирования, говорят, что они обеспокоены угрозой нарушения конфиденциальности правительственным наблюдением с помощью технологии.
Технология Amazon, называемая Rekognition и введенная в 2016 году, обнаруживает объекты и лица в изображениях и видео. Клиенты, в число которых входят и правоохранительные органы в Орландо, штат Флорида и округ Вашингтон, штат Орегон, могут загружать базы данных лиц, чтобы автоматически идентифицировать людей.
В одном из случаев, например, офис шерифа округа Вашингтон выявил лиц, представляющих интерес, в том числе магазинного вора, зафиксированного камерами хозяйственного магазина. Изображение с камеры магазина автоматически сравнивалось с тысячами фотографий лиц, снятых после арестов. Это ускоряет процесс, для которого ранее использовали ручной труд и полагались исключительно на память сотрудников полиции для идентификации людей.
Акционеры, в состав которых входят «Группа социальных инвестиций» и «Северо-западная коалиция за ответственные инвестиции», присоединяются к таким организациям, как «Американский союз защиты гражданских свобод», в попытках не допустить продажи компанией услуги, акцентируя внимание на рисках массового наблюдения.
Они предупреждают о возможных нарушениях гражданских прав и прав человека, а также и о том, что подобная деятельность Amazon может оказать негативное влияние на стоимость акций компании. Акционеры указывают на недавнее расследование деятельности Facebook на предмет конфиденциальности и передачи данных в качестве предостерегающей истории.
«Мы обеспокоены тем, что технология будет использоваться для неправомерного надзора и дискриминации людей по цвету кожи, иммигрантов и общественных правозащитных организаций», - пишут акционеры. «Мы обеспокоены тем, что продажи могут быть расширены для иностранных правительств, включая авторитарные режимы».
В своем блоге Мэтт Вуд, генеральный менеджер по разработкам искусственного интеллекта в Amazon Web Services, сказал, что политика Amazon запрещает использование ее технологии для действий, которые являются незаконными, нарушают права людей или могут навредить им.
«Мы считаем неправильным подход к наложению запрета на перспективные новые технологии, потому что в будущем они могут использоваться для гнусных целей. Мир был бы совсем другим, если бы мы ограничивали людей в покупке компьютеров, потому что их можно для нанесения вреда или нанесения ущерба», - писал Вуд.
В апреле Amazon объявила о том, что Rekognition стала на 25% более точной, чем ее предыдущие версии. Но неясно, насколько в принципе точна вся система.
«В настоящее время вообще нет безошибочной технологии для точного распознавания лиц, что всех нас очень тревожит», - сказал профессор права Университета округа Колумбия Эндрю Гатри Фергюсон, автор книги «Рост статистики данных».
«Точность – очень сложная задача по определению», - сказал он. «Как общество, с каким процентом ошибок в распознавании лиц мы готовы согласиться, когда дело дойдет до задержаний, арестов или полицейских расследований? Если именно вы попадете в эти ошибочные 20%? Или 50%? Теперь только случай определяет, на кого наденут наручники, а на кого нет?
Согласно исследованиям Массачусетского технологического института, точность технологий распознавания лиц очень сильно варьируется, а женщины и люди неевропейской внешности идентифицируются с наименьшей точностью.
«Приходится разве что не применять пытки, чтобы получить информацию от правительств или Amazon о том, что они делают, чтобы гарантировать, что эта технология не принесет вреда людям, живущим по всему миру», - сказал адвокат «Американского союза защиты гражданских свобод» Мэтт Кэгл. «Мы очень мало знаем о том, насколько точна или насколько эффективна система Amazon».
«Американский союз защиты гражданских свобод» и еще почти 70 общественных и правозащитных групп уже отправили письмо Джеффу Безосу, наряду с акционерами компании, утверждая, что Amazon не должна предоставлять правительствам системы наблюдения, такие как технология распознавания лиц. Ранее, «Американский союз защиты гражданских свобод» и 40 других групп активистов и организаций направили еще одно письмо Безосу, в котором говорится, что технология «может стать орудием для злоупотреблений в руках правительств» и больше не должна продаваться».
По мнению экспертов, законодательная база не успевает изменяться, чтобы коррелировать с быстрыми достижениями в области технологии распознавания лиц, которая опирается на искусственный интеллект.
«Последствия использования Amazon Rekognition и всех других технологий распознавания лиц – не что иное, как перераспределение сил между гражданами и полицией», - сказал Фергюсон. «Способность идентифицировать, отслеживать и контролировать всех по всем городам мира – это то, о чем мы читаем в научной фантастике и что, в скором времени, может стать реальностью».
По материалам www.money.cnn.com
