Скандалы вокруг компании Clearview AI продолжают набирать обороты. Мало того, что этот "предприниматель" натырил фоток с чужих ресурсов и начал продавать доступ к натренированному алгоритму для распознавания лиц. Мало того, что у этого эксперта список клиентов украли. Так теперь еще оказалось, что, несмотря на его утверждения, что он продает доступ к распознаванию лиц вообще кому попало, включая больших ритейлеров и даже NBA. СЕО компании утверждал, что речь идет о доступе только правоохранительных органов в США и Канаде к данным приложения, но среди клиентов компании — компании и организации из 27 стран. Кристальной честности человек, очевидно же.

https://www.buzzfeednews.com/article/ryanmac/clearview-ai-fbi-ice-global-law-enforcement

А Gizmodo пошли еще дальше, и нашли само приложение этой компании, и попытались разобраться с его функциональность. Супердетальная информация о геолокации, возможность отправлять фотографии лица на распознавание, прямо из приложения, поддержка очков дополненной реальности. Короче, все то, что нас ждет в будущем.
https://gizmodo.com/we-found-clearview-ais-shady-face-recognition-app-1841961772?rev=1582861547126

чето у меня подгорает по поводу таких предпринимателей-любителей, хотя, конечно, компании типа Palantir работают в этом направлении давно и на гораздо более высоком уровне. Все равно надеюсь, что Clearview ФБ и прочие засудят за скрейпинг фотографий, потому что нефиг.

5 comments

заплатит штраф ипродолжит
Volodymyr Kalganov
Алекс, а в чём именно ты видишь проблему подобных сервисов?  
С моей точки зрения, это как оружие которое и так уже есть у «плохих» парней. 
Раскрою мысль. Загружая фотографии в сервис типа фейсбука с публичным доступом даже без логина - глупо ожидать, что никто их не увидит/использует. Пользователь как бы сам их туда загружает, чтобы поделиться.
Хороший пример тут - твой отказ от стравы. Ты не хочешь делиться и потому пользуешься придожением которое создано для мониторинга активности а не для того, чтобы сообщать всему миру.
А теперь давай представим, что я найму тысячу человек и каждого из них обучу (на фейсбуке) опознавать тысячу человек. На выходе я получу сервис распознающий миллион человек. Понятно, что не всё так просто и нужна сначала грубая классификация, и пересечение распознавания одного человека между несколькими детекторами итд. Но, в целом, это рабочая модель. В рамках такой модели я не вижу как фейсбуки итд смогут меня засудить, ибо они не могут ввести правило, что людям нельзя смотреть чужие фотографии с целью запомнить лицо. 
Так вот о(б)суждаемая компания - просто автоматизация. Это как осуждать сервисы рассылки почты вместо того, чтобы осуждать заказчиков.
Volodymyr Kalganov
Алекс, а в чём именно ты видишь проблему подобных сервисов?   С моей точки зрения, это как оружие которое и так уже есть у «плохих» парней.  Раскрою мысль. Загружая фотографии в сервис типа фейсбука с публичным доступом даже без логина - глупо ожидать, что никто их не увидит/использует. Пользователь как бы сам их туда загружает, чтобы поделиться. Хороший пример тут - твой отказ от стравы. Ты не хочешь делиться и потому пользуешься придожением которое создано для мониторинга активности а не для того, чтобы сообщать всему миру. А теперь давай представим, что я найму тысячу человек и каждого из них обучу (на фейсбуке) опознавать тысячу человек. На выходе я получу сервис распознающий миллион человек. Понятно, что не всё так просто и нужна сначала грубая классификация, и пересечение распознавания одного человека между несколькими детекторами итд. Но, в целом, это рабочая модель. В рамках такой модели я не вижу как фейсбуки итд смогут меня засудить, ибо они не могут ввести правило, что людям нельзя смотреть чужие фотографии с целью запомнить лицо.  Так вот о(б)суждаемая компания - просто автоматизация. Это как осуждать сервисы рассылки почты вместо того, чтобы осуждать заказчиков.
Тут дело такое. Моя претензия в первую очередь о том, что я конкретно этой компании не давал разрешения на обработку моих данных (и то, что он подпирается с потенциальной опцией в будущем потребовать удалить себя из базы, подчеркивает, что он понимает потенциальную liability этого процесса). Я, допустим, по глупости залил в ФБ когда-то фото (что уж там говорить, я о прайваси не думал в каком-то там лохматом году, регистрируя свой аккаунт), но я соглашался давать эти фото только ФБ (и другим приложениям, если они просили для этого доступ. по-моему, никто не просил.). как там, "согласие на обработку персональных данных" или что-то в этом роде :) ФБ сам по себе там майнил распознавание фоток, конечно, пока их за это не вздрючили, и теперь это опция в настройках для выбора пользователем. Я, допустим, хочу делиться с ФБ, но не хочу делиться моими фотографиями ни с кем другим. И даже когда я пощу что-то на ФБ, у меня есть выбор, сделать контент публичным или friends only, но, я так понимаю, в случае скрейпинга это не имело особой роли. Публичный доступ или не публичный — это мы, похоже, выясним, когда ФБ начнет дрючить CVAI за скрейпинг контента. Сам по себе скрейпинг — тема непростая, и юридически однозначно ответа по этому поводу нет, хотя в штатах больше склонны скрейпинг считать злом. и вот тут как раз разница с людьми — для того, чтобы ты кого-то обучил видеть, ты сначала должен дать ему доступ к этим аккаунтам — запросить френд-доступ, и юзер должен его разрешить. только тогда твои люди смогут обучаться. для этого система пермишинов и есть. Так что я в целом не против, чтобы какие-то люди, которые сидят и пялятся в фотки, что-то там узнавали. Но автоматизация vs люди делает этот процесс гораздо более хуже, потому что мало того, что персональные данные обрабатывает неизвестно кто, кому пользователи согласия на это не давали. Кроме того, он еще и продает эту информацию неизвестно кому. Конечно, это все поднимает гораздо более широкий пласт проблемы с рекламой в интернете, которая тоже пытается как-то идентифицировать пользователя. Но одно дело таргетить "белый 20-25 лет с предпочтениями в смузи", а другое — доксить людей на базе информации, получение которой вызывает вопросы легитимности.
Volodymyr Kalganov
Если они получили доступ к фото, к которым не должны были - тогда согласен. 
У меня было впечатление, что это просто был бот который ходил по страничкам (как делал бы человек).
И тут я сходу вижу способ обойти ограничения. Я посажу свою гипотетическую тысячу людей сохранять все доступные публично фото или даже не сохранять а делать скриншот экрана, чтобы там и имя сразу было. А уже потом на этом буду учить модели.