Goldman Sachs e Apple estão na mira do Departamento de Serviços Financeiros de Nova York (DFS) após um tweet viral que alega discriminação de gênero nas linhas de crédito associadas ao Apple Card.
O desenvolvedor de software David Heinemeier Hansson, criador da popular estrutura Ruby on Rails, postou um tweet em 7 de novembro, notando que ele recebeu um limite de crédito 20 vezes maior em seu Apple Card do que sua esposa, um problema responsabilizado pela equipe de atendimento ao cliente com quem ele falou diretamente nos algoritmos de classificação de crédito usados para determinar esses fatores. A experiência de Hansson foi corroborada pelo co-fundador da Apple, Steve Wozniak, que disse que ele e sua esposa tiveram uma experiência semelhante. Outros usuários do Apple Card também entraram na conversa - alguns relatam experiências semelhantes, outros dizem que eles e seus cônjuges têm a mesma linha de crédito e limites.
Hansson disse que o atendimento ao cliente do Apple Card acabou correspondendo à sua esposa com o mesmo limite, apesar de não terem conseguido explicar satisfatoriamente a desconexão, além de culpá-la vagamente pelo algoritmo de "caixa preta" usado para determinar o valor do crédito. Hansson respondeu:
Portanto, ninguém entende O ALGORITMO. Ninguém tem o poder de examinar ou checar O ALGORITMO. No entanto, todos com quem conversamos da Apple e da GS têm tanta certeza de que O ALGORITMO não é tendencioso e discriminador. Essa é uma gestão de dissonância cognitiva de nível A.
- DHH (@dhh) 8 de novembro de 2019
Agora, o DFS de Nova York está entrando para investigar. Em um tweet e, posteriormente, em um post no Medium no fim de semana, Linda A. Lacewell, superintendente do DFS de NY, disse que analisará a questão para determinar se as leis estaduais de combate à discriminação foram quebradas..
O DFS regula produtos e serviços financeiros oferecidos no Estado de Nova York. As empresas de serviços financeiros são responsáveis por garantir que os algoritmos que eles usam nem mesmo discriminem involuntariamente grupos protegidos. Nossa North Star é que o consumidor vem em primeiro lugar. Trabalharemos para investigar o que pode ter dado errado e, se o algoritmo usado pelo Apple Card realmente promover discriminação ilegal, tomaremos as medidas apropriadas..
O Goldman Sachs, por sua vez, negou qualquer irregularidade em uma declaração publicada no Twitter. Ele lê em parte:
Como em qualquer outro cartão de crédito individual, seu aplicativo é avaliado de forma independente. Analisamos a renda e a credibilidade de um indivíduo, que inclui fatores como pontuação de crédito pessoal, quanta dívida você possui e como essa dívida foi gerenciada. Com base nesses fatores, é possível que dois membros da família recebam decisões de crédito significativamente diferentes.
Em todos os casos, não tomamos e não tomaremos decisões de fatores como gênero.
Atualização (11/11/09): Declaração do Goldman Sachs adicionada.
Você e seu cônjuge receberam tratamento diferente pelo Apple Card? Você já viu isso acontecer com outros cartões de crédito? Deixe-nos saber nos comentários.
