Apple Card

Image copyright
APple

A US financial regulator has opened an investigation into claims Apple’s credit card offered different credit limits for men and women.

It follows complaints – including from Apple’s co-founder Steve Wozniak – that algorithms used to set limits might be inherently biased against women.

New York’s Department of Financial Services (DFS) has contacted Goldman Sachs, which runs the Apple Card.

Any discrimination, intentional or not, “violates New York law”, the DFS said.

The Bloomberg news agency reported on Saturday that tech entrepreneur David Heinemeier Hansson had complained that the Apple Card gave him 20 times the credit limit that his wife got.

In a tweet, Mr Hansson said the disparity was despite his wife having a better credit score.

Later, Mr Wozniak, who founded Apple with Steve Jobs, tweeted that the same thing happened to him and his wife despite their having no separate bank accounts or separate assets.

Banks and other lenders are increasingly using machine-learning technology to cut costs and boost loan applications.

‘Legal violation’

But Mr Hansson, creator of the programming tool Ruby on Rails, said it highlights how algorithms, not just people, can discriminate.

US healthcare giant UnitedHealth Group is being investigated over claims an algorithm favoured white patients over black patients.

Mr Hansson said in a tweet: “Apple Card is a sexist program. It does not matter what the intent of individual Apple reps are, it matters what THE ALGORITHM they’ve placed their complete faith in does. And what it does is discriminate.”

He said that as soon as he raised the issue his wife’s credit limit was increased.

The DFS said in a statement that it “will be conducting an investigation to determine whether New York law was violated and ensure all consumers are treated equally regardless of sex”.

“Any algorithm that intentionally or not results in discriminatory treatment of women or any other protected class violates New York law.”

The BBC has contacted Goldman Sachs for comment.

On Saturday, the investment bank told Bloomberg: “Our credit decisions are based on a customer’s creditworthiness and not on factors like gender, race, age, sexual orientation or any other basis prohibited by law.”

The Apple Card, launched in August, is Goldman’s first credit card. The Wall Street investment bank has been offering more products to consumers, including personal loans and savings accounts through its Marcus online bank.

The iPhone maker markets Apple Card on its website as a “new kind of credit card, created by Apple, not a bank”.

Analysis

Leo Kelion, Technology desk editor

Without access to the Goldman Sachs computers, it’s impossible to be certain of what is going on. The fact there appears to be a correlation between gender and credit doesn’t necessarily mean one is causing the other. Even so, the suspicion is that unintentional bias has crept into the system.

That could be because when the algorithms involved were developed, they were trained on a data set in which women indeed posed a greater financial risk than the men. This could cause the software to spit out lower credit limits for women in general, even if the assumption it is based on is not true for the population at large.

Alternatively, the problem might lie in the data the algorithms are now being fed. For example, within married couples, men might be more likely to take out big loans solely using their name rather than having done so jointly, and the data may not have been adjusted to take this into account.

A further complication is that the software involved can act as a “black box”, coming up with judgements without providing a way to unravel how each was determined.

“There have been a lot of strides taken in the last five to six years to improve the explainability of decisions taken based on machine learning techniques,” commented Jonathan Williams of Mk2 Consulting. “But in some cases, it’s still not as good as it could be.”

In any case, for now Apple would prefer Goldman Sachs take the heat, despite the fact its marketing materials state that its card was “created by Apple, not a bank”. But that’s a tricky position to maintain.

Apple’s brand is the only one to feature on the minimalist styling of its card’s face, and many of its consumers have higher expectations of its behaviour than they would do for other payment card providers.

That means that even if issues of gender bias prove to be common across lenders, Apple faces becoming the focal point for demands that they are addressed.

0 comments

You must be logged in to post a comment.

  • "Budva da bude perspektivnije i bolje društvo"
    on 26/05/2024 at 19:06

    Potpredsjednica Demokrata i druga na izbornoj listi Dragana Kažanegra Stanišić iskoristila je danas svoje biračko pravo u Pržnu, pozivajući građane Budve da učine isto.

  • "OSI onemogućeno samostalno ostvarivanje biračkog prava"
    on 26/05/2024 at 13:53

    Niti jedno od svih 28 posmatranih biračkih mjesta u Budvi nije u potpunosti pristupačno osobama oštećenog vida što znači da na biračkom mjestu nije dostupan šablon za glasanje koji je izrađen u tamnoj boji od čvršćeg, postojanog materijala sa prorezima gdje su brojevi izbornih lista, te da etison trake nijesu pravilno postavljene, saopštio je izvršni direktor NVO Savez slijepih Crne Gore Goran Macanović.

  • "Ne odustajemo od programa Evropa Sad 2"
    on 25/05/2024 at 18:10

    PES sigurno neće povlačiti predloge čiji je idejni tvorac i autor, a neće odustajati ni od ekonomskog programa Evropa Sad 2, koji je osnova za bolji život i ekonomski prosperitet svih naših građana, poručio je poslanik Pokreta Evropa sad (PES) Darko Dragović.

  • PES neće povući iz procedure rezoluciju o Jasenovcu
    on 25/05/2024 at 17:10

    Poslanički klub PES je podržao rezoluciju o Jasenovcu i neće je povlačiti iz skupštinske procedure, kategoričan je generalni sekretar Pokreta Evropa sad Boris Pejović.

  • Reakcija Kneževića očekivana, dogovoriti brzu rekonstrukciju Vlade
    on 25/05/2024 at 15:05

    Odluka Demokratske narodne partije (DNP) o suspenziji dalje podrške Vladi Milojka Spajića do ispunjena njihovih zahtjeva za politikologa Vladmira Pavićevića je očekivana. Kao najbolji način da se izađe iz nastale situacije vidi dogovor i relativno brzu rekonstrukciju Vlade.

  • "Politički odgovorno da DNP i NSD prekinu podršku Vladi"
    on 25/05/2024 at 14:31

    Nakon izglasavanja Rezolucije o Srebrenici postalo je jasno da Pokret Evropa sad (PES) baštini sve političke prioritete Demokratske partije socijalista (DPS) i politički je odgovorno da Demokratska narodna partija (DNP) i Nova srpska demokratija (NSD) prekinu podršku Vladi i da se organizuju vanredni parlamentarni izbori, poručio je lider Pokreta za promjene (PzP) Nebojša Medojević.

  • DNP: Suspenzija podrške Vladi do ispunjenja zahtjeva
    on 25/05/2024 at 11:28

    Predsjedništvo Demokratske narodne partije (DNP) najoštrije je osudilo odluku Vlade Crne Gore da u Generalnoj Skupštini UN–a glasa za Rezoluciju o genocidu u Srebrenici i zato jednoglasno donijelo odluku o suspenziji podrške Vladi Milojka Spajića do ispunjenja zahtjeva a saopštili su i da neće podržati rekonstrukciju Vlade najavljenu za jun mjesec.

  • Nastavak podrške SAD od vitalnog značaja za stabilnost Crne Gore
    on 25/05/2024 at 10:28

    Nastavak podrške SAD od vitalnog značaja za bezbjednost i stabilnost Crne Gore, kazao je ministar pravde Andrej Milović.

  • "Spajić pokazao da će opet prevariti srazmjerne penzionere"
    on 24/05/2024 at 20:41

    Iako je najavio povećanje minimalnih penzija za srazmjerne penzionere, odbijanjem predloga poslanika Građanskog pokreta URA kojim je predviđeno povećanje i srazmjernih penzija na 450 eura, Spajić i njegova Vlada su pokazali da će opet prevariti korisnike srazmjernih penzija, kazao je šef poslaničkog kluba Građanskog pokreta URA Miloš Konatar.

  • "Vlada posvećena izgradnji ekonomskog, društvenog, političkog i kulturnog ambijenta"
    on 24/05/2024 at 20:09

    Vlada Crne Gore posvećena je izgradnji ekonomskog, društvenog, političkog i kulturnog ambijenta koji će omogućiti da se mladi ljudi koji se obrazuju u inostranstvu vrate u Crnu Goru, kako bi u u svojoj zemlji nastavili da rade i stvaraju. To je poručio ministar vanjskih poslova Filip Ivanović na panel diskusiji „Upoznajmo Evropsku uniju iz perspektive Erasmus plus korisnika“.

  • Mujović sjutra u radnoj posjeti Trebinju
    on 26/05/2024 at 20:04

    Ministar energetike i rudarstva Saša Mujović, boraviće sjutra u radnoj posjeti Trebinju, na poziv kolege iz Republike Srpske, Petra Đokića.

  • ASP: Ministarstvo energetike već dvije godine krši zakon
    on 26/05/2024 at 14:25

    Ministarstvo energetike i rudarstva već pune dvije godine krši Zakon o energetici i ne donosi Nacionalni klimatski i energetski plan, kao strateški dokument iz ove oblasti, dok zapisnici sa sjednica radne grupe zadužene za njegovu izradu pokazuju da se budući rad Termoelektrane (TE) Pljevlja prikazuje kao jedno od ključnih pitanja, jer se mora planirati postepeno ukidanje proizvodnje električne energije na ugalj, ocijenili su u NVO Akcija za socijalnu pravdu.

  • Fabrika peleta i briketa - kratko poslovanje, prazni pogoni i oštećeni radnici
    on 26/05/2024 at 09:12

    Vijest da će se u Pljevljima proizvoditi pelet i briketi od uglja optimistično je, prije nešto više od godinu, dočekana u tom gradu. Pogoni su, međutim, radili svega nekoliko mjeseci.

  • U ICT oblasti radi 9,8 miliona stručnjaka širom EU
    on 25/05/2024 at 20:50

    U oblasti informacione i komunikacione tehnologije (ICT) širom Evropske unije u prošloj godini radilo je 9,8 miliona stručnjaka, objavio je Eurostat.

  • Peranović: Ne planira se povećanje opšte stope PDV-a
    on 25/05/2024 at 14:17

    VD direktora Poreske uprave Sava Laketić naglasio je značaj računovodstveno-revizorske profesije u implementaciji poreskih propisa, poručujući da se intezivno radi na reforemi sveobuhvatnog poreskog sistema. On je to kazao na zatvaranju Simpozijuma Računovođa i revizora, koji je minula tri dana održan u Ulcinju.

  • Likvidna aktiva banaka u februaru 1,49 milijardi eura
    on 25/05/2024 at 13:19

    Likvidna aktiva banaka u februaru je iznosila 1,49 milijardi eura, što je 2,69 odsto manje nego u januaru.

  • Kvadrat stana skuplji za 630, plate veće 315 eura
    on 25/05/2024 at 11:13

    Od prvog kvartala 2019. godine do aprila ove godine prosječna tržišna cijena metra kvadratnog stana u novogradnji u Crnoj Gori porasla je za skoro 630 eura, pokazuje zvanična statistika.

  • Spajić: Trajekt Crna Gora – Italija kreće 3. jula
    on 25/05/2024 at 08:47

    Trajekt Crna Gora – Italija kreće 3. jula, najavio je premijer Milojko Spajić.

  • Reformom upisa radnog staža uštedjela bi i država i privreda
    on 25/05/2024 at 08:46

    Privredna komore Crne Gore organizovala je studijsku posjetu institucijama u Srbiji, a cilj posjete bilo je upoznavanje sa reformom upisa radnog staža koja je sprovedena u toj susjednoj državi.

  • Za 11 bivših "dakićevaca" po 2.000 eura
    on 25/05/2024 at 06:32

    Ustavni sud Crne Gore donio je Odluku kojom obavezuje Ministarstvo finansija da bivšim radnicima fabrike "Radoje Dakić" isplati po dvije hiljade eura na ime nematerijalne štete zbog povrede prava iz člana 32. Ustava i člana 6. stav 1. evropske Konvencije. To se navodi u informaciji koju je Vlada usvojila na jučerašnjoj sjednici u vezi izvršenja odluke Ustavnog suda od 24. oktobra 2023. godine.