Вы же слышали про скандал c Goldman Sachs? Создатель Ruby on Rails и Basecamp обвинил Apple Cards в сексизме из-за того, что компания выдала разные кредитные лимиты по картам ему и его жене.
Сразу у меня не было желания комментировать эту феминистическую пургу, хотя любой адекватный аналитик скажет, что да, чёрт возьми, женщины и мужчины отличаются даже как потребители. Например, существует масса аналитических работ, подтверждающих, что представители прекрасного пола чаще совершают импульсивные покупки. Но это ладно, с недавнего времени всё стало гораздо интереснее.
В США кредиторам законодательно запрещено использовать пол человека в качестве регресанда. Тем не менее пол — это действительно важный параметр. Согласно одному
исследованию, барышни тратят больше денег по кредиткам, однако они с большей вероятностью возвращают долги, в отличии от мужчин. И это как раз тот интересный случай, когда «свобода» претит технологическому прогрессу. Дальше пуще. Регуляторы
заявили, что банки должны «пояснять» за свои алгоритмы. Но как можно обосновать решение машины в эпоху ML и чёрных ящиков?
В общем, если Goldman Sachs сможет объяснить происхождение лимита кредитного рейтинга жены Ханссона, то походу «тру эм элем» там особо и не пахнет. Если не сможет — то нарушит указ регуляторов, а этим дядечкам негоже перечить. Развязка весьма любопытна: либо мы узнаем про подлинный уровень развития финтеха в штатах, либо банкам придётся менять скоринг систему под абсурдные нравы толпы. #мысливслух