Исследователи MIT о плюсах и минусах алгоритмической монокультуры

Учёные из MIT оценили потенциальные последствия использования одного и того же алгоритма в определённой отрасли и пришли к неоднозначным выводам.

Алгоритмическая монокультура — это ситуация, когда все решения в определённой области принимаются с помощью одного алгоритма. Например, в банковской сфере решения о выдаче кредитов теперь основываются на стандартизированных кредитных рейтингах, рассчитанных с помощью алгоритма FICO. В сфере найма на работу также распространены несколько алгоритмов скрининга резюме, которые используют крупные компании. Исследователи Брайан Хедден и Маниш Рагхаван рассмотрели основные аргументы против алгоритмической монокультуры и пришли к выводу, что они не всегда убедительны. Например, опасения, что монокультура приведёт к систематическому исключению определённых кандидатов из процесса найма, не подтвердились: общее число нанятых сотрудников не изменится от того, что компании используют один и тот же алгоритм. Более того, монокультура может повысить переговорную силу кандидатов, так как компании будут бороться за одних и тех же соискателей, что приведёт к росту зарплат. Учёные также отметили, что монокультура может создавать «информационные эхо-камеры», которые ограничивают разнообразие информации и препятствуют обнаружению новых возможностей. Например, в сфере найма это может привести к тому, что компании будут нанимать кандидатов с одинаковыми характеристиками, упуская потенциально более подходящих сотрудников. Однако эту проблему можно решить, добавив элемент случайности в монокультурную платформу или создав «ансамблевый алгоритм», который объединит несколько алгоритмов найма и будет выставлять кандидатам оценки на основе среднего значения. Исследования показали, что такой подход иногда может быть эффективнее использования множества разных алгоритмов. Авторы работы подчёркивают, что многое зависит от конкретного алгоритма и сферы его применения. Они надеются, что их исследование вдохновит на дальнейшие работы, которые изучат долгосрочные последствия алгоритмической монокультуры и сложности, связанные с её применением в реальных условиях.

body_contd. Результаты исследования опубликованы в журнале Philosophical Perspectives.

Источник: MIT News