Новое исследование показывает, что алгоритмы Uber и Lyft устанавливают более высокие тарифы для клиентов в небелых кварталах.
Недавнее исследование показывает, что алгоритм, используемый популярными компаниями Uber и Lyft, может фактически дискриминировать клиентов, ищущих транспорт в преимущественно небелых кварталах.
Айлин Калискан и Акшат Пандей из Университета Джорджа Вашингтона в Вашингтоне проанализировали данные о транспорте и переписи Чикаго в документе, в котором оценивалась расовая разница в количестве пассажиров, в зависимости от местоположения. Их набор данных включал более 100 миллионов поездок в период с ноября 2018 года по декабрь 2019 года, причем 68 миллионов из них были совершены отдельными водителями.
Они обнаружили, что компании, занимающиеся поездками, взимают более высокую цену за километр пути, если в пункте назначения или пункте посадки есть более высокий процент небелых жителей, жителей с низким доходом или жителей с низким уровнем образования.
«Несмотря на то, что спрос и скорость имеют самую высокую корреляцию с тарифами с указанием стоимости проезда, анализ показывает, что пользователи приложений в городе Чикаго могут испытывать социальный уклон в отношении цен, когда их подбирают или оставляют в районах с низким процентом лиц старше 40 лет или низким процентом лиц с дипломом средней школы или менее », — пишут авторы в своем заключении.
Они также указали во введении, почему это исследование особенно важно.
«В отличие от традиционных служб такси, цены на проезд являются динамичными, рассчитанными с использованием как продолжительности запрашиваемой поездки, так и спроса на услуги проезда на в этом районе», пояснили авторы.
«Uber определяет спрос на поездки, используя модели машинного обучения, используя прогнозирование, основанное на предварительном спросе, чтобы определить, в каких районах будут наиболее необходимы в данный момент времени водители. В то время как использование машинного обучения для прогнозирования спроса может улучшить способность приложений. Известно, что методы машинного обучения применяют политики, отражающие демографическое неравенство в наборе персонала в Интернете, рекламе в Интернете и прогнозировании рецидивизма ».
Это не первый случай, когда Uber и Lyft обвиняются в алгоритмической предвзятости — или в человеческой предвзятости, если уж на то пошло. Исследование 2016 года показало, что расовая и гендерная дискриминация была выражена среди водителей для Uber, Lyft и Flywheel. Мужчины, чьи имена звучали как афроамериканцы, имели в два раза больше шансов на то, чтобы водители отменили свои поездки, поскольку белые пассажиры (11,2–4,5%), а женщины с именами, звучащими в афроамериканских странах, имели схожие результаты (8,4–5,4%).
