Защо решаването на пристрастията в машинното обучение е от ключово значение за отключване на по-голямо финансово включване

„Финансовото включване означава, че хората и предприятията имат достъп до полезни и достъпни финансови продукти и услуги, които отговарят на техните нужди - транзакции, плащания, спестявания, кредит и застраховка - доставени по отговорен и устойчив начин.“ - Световната банка

В JUMO нашата мисия е да подобрим радикално финансовото включване чрез преодоляване на пропастта между критичните финансови услуги и тези, които се нуждаят най-много от тях. Нашите клиенти са предприемачи, малки предприятия и търговци на развиващите се пазари, които нямат традиционна финансова история и затова са изключени от основната банкова екосистема.

Но с милиарди хора на развиващите се пазари, които идват за първи път онлайн, повечето от тях чрез мобилни телефони, сега имаме възможност да изградим нови форми на цифрови и финансови идентичности, които създават нов финансов избор.

Това е трудно. Това изисква осмисляне на неструктурирани данни по начин, който просто не е възможен за хората да правят ръчно. Вместо това JUMO използва методи за машинно обучение (ML) и изкуствен интелект (AI), които могат по-точно да моделират риска на клиента и да ги свържат с подходящ финансов избор. С този подход можем да достигнем до милиони хора, изключени преди това, но това ще изисква много повече работа.

Финансовото изключване не е просто. Културните, джендърните и социалните нюанси се прилагат на пазари и страни, като добавят слой сложност към всяко глобално усилие за намаляване на бедността. Това означава, че всеки един единствен, алгоритмичен подход към проблема вероятно е склонен към неволни предубеждения. За да се смекчи това, важно е да се включат неинтуитивни социокултурни фактори, уникални за групата хора, чиито данни имаме достъп.

Помислете за земеделски стопанин в селскостопанския сектор малко преди очакваната суша. При традиционния кредитен модел техният рисков профил - и следователно цените на заемите - нараства, точно когато финансирането и реколтата намаляват. Ако земеделският производител получи достъп до заем чрез традиционния модел за кредитен риск, той ще носи по-голяма тежест на изплащането, което ги прави по-склонни към неизпълнение, като по този начин моделът се оказва правилен. Това е изключително напомняне за реалното въздействие на алгоритмичното вземане на решения.

Казано по-просто: има по-добър начин за управление на тази ситуация.

Ами ако точно прогнозираме засушаването, свалим цената на заема и помогнем на земеделския производител да премине през този труден период? Това би увеличило вероятността земеделският стопанин да се класира за заем в размер, който разумно може да бъде погасен, което намалява риска от неизпълнение.

Тогава е важно, докато работим за разширяване на финансовия достъп, ние продължаваме да разсъждаваме върху данните, които използваме, процесите на машинно обучение, които прилагаме и влиянието, което това оказва върху тези пазари. Наскоро се фокусирахме върху оптимизирането на нашия подход към пристрастия в нашите модели за моделиране и вземане на решения. Чрез тази работа разработихме рамка, която непрекъснато ще прилагаме към това, което правим. Тази рамка може да бъде полезна за други, които се надяват да смекчат неволните предубеждения в други модели.

Измерване на въздействието и маргинализацията

Предизвикателството за финансовото изключване е огромно, поради което глобални организации като ООН работят заедно с компании за справяне с проблема. Естествено, за да разрешите проблем, първо трябва да разберете неговата величина.

Перфектното включване би означавало, че разширяваме финансовия избор до 100% от „добрите“ клиенти - с други думи, клиентите, които възнамеряват и имат възможност да изплащат заемите си. В JUMO измерваме себе си в степента, в която тези теоретично „добри“ клиенти могат да получат достъп до финансови продукти от местни банки чрез нашата платформа. За да тестваме въздействието си, ние се насочваме към представителна извадка от иначе отказали се клиенти, често наричана извадка за отхвърляне, за да определим горния праг на това как би изглеждало перфектното финансово включване.

Непрекъснатото разпитване на потребителските данни ни дава достъп до поток от обективна информация, която можем да използваме, за да сведем до минимум историческите пристрастия (които произтичат от исторически решения) и да избегнем непредвидените последици от неточно изключване на хора. Важно е обаче този процес на измерване да е редовен и непрекъснат. Той гарантира, че нашият бизнес остава в съответствие с цялостната ни мисия и избягва оценяването на клиентите въз основа на непреднамерените пристрастия, които са влезли в системата.

По-добрите данни означават по-добро прогнозиране

Важно е да запомните, че резултатът от всеки модел на машинно обучение е толкова добър, колкото и данните, които са включени. Например знаем, че непропорционален процент от потребителите на нашата платформа са мъже (70% в сравнение с 30% жени). Но когато комбинираме нашите данни с други изследвания, установяваме, че жените са само с 10% по-малко вероятно от мъжете да притежават мобилен телефон, а полът играе по-малко значима роля в усвояването и използването на цифрови пари.

Така че защо жените неволно се маргинализират?

За да разберем този проблем, трябваше да си зададем въпроса: каква друга информация бихме могли да използваме за допълване на актуални набори от данни, които биха ни помогнали да разграничим отделните хора в очевидно хомогенна група?

В случая беше разбирането, че на някои пазари жените използват мобилни телефони и мобилни портфейли по-рядко от мъжете. Това до голяма степен се свежда до социокултурните фактори, включително липсата на доверие в мобилното банкиране или прекомерните такси за транзакции. Като вземем поглед от тези данни и прилагаме по различен начин при жените, можем да разработим по-подходящи критерии за риск, които могат да увеличат равенството на възможностите.

ML и интуиция за приложения в реалния свят

В технологичната индустрия често гледаме на света чрез данни - 1s и 0s. Пренебрегваме човешкото въздействие на нашата работа. За да постигнем реален напредък в усъвършенстването на методологиите за прогнозиране, се нуждаем от алгоритми и интуиция; трябва да гледаме отвъд краткосрочните, да премахваме фалшивите позитиви и фалшивите негативи и да създаваме продукти, подходящи за хората.

Никой модел не може да се справи с десетилетия сложност или богатството на човешките социални мрежи и техните основни фини различия. За да напреднем, трябва непрекъснато да предизвикваме традиционното мислене и собственото си мислене.

В кредита, който остава непроменен в продължение на десетилетия, начинът, по който разглеждаме и оценяваме риска, има огромен потенциал за напредък. Машинното обучение може и ще играе трансформативна роля в нашите усилия, така че сме предразположени да мислим за върха. В същото време ние разпознаваме рисковете. Ето защо ние сме фокусирани върху използването на AI за намаляване на пристрастията при вземане на финансови решения, като същевременно знаем, че ако се прилага лошо, това може да има точно обратния ефект.

Състрадателен подход към финансовото включване?

Приемайки този подход, ние признаваме необходимостта от развиващ се набор от критерии, който максимално увеличава способността на хората да изразяват своя потенциал. Правейки това, може най-накрая да прекъснем пряката връзка между кредитните резултати и богатството, като използваме неедностранно подход за оценка на риска. Това означава, че търговец в Кампала, който взема $ 100 оборотни средства и търговец, който взема назаем 10 000 $ в Сакраменто, се оценяват въз основа на най-подходящите критерии за оценка на риска за всеки индивид, отваряйки свят на финансов избор.

Непредвидените последици и пристрастия, които възникват в резултат на вземане на решение, често включващо ML, не са само резултат от алгоритъма или процеса на моделиране, но включват всички натрупани допирни точки, които водят до крайния резултат. За да разрешите пристрастията, не можете просто да наблюдавате и коригирате симптомите. Трябва да разберете процеса от край до край и да разсечете цялата система, за да стигнете до първопричината. След като направите това, трябва да продължите да го правите - непрекъснато тествайте, учете и оптимизирайте, за да премахнете пристрастията от вашите модели.

В крайна сметка това може да бъде от полза за съпричастното използване на технологиите за разширяване и задълбочаване на финансовото включване.

Andrew Watkins-Ball е основател и изпълнителен директор на JUMO, най-голямата и най-бързо развиваща се технологична платформа за опериране на пазари за мобилни финансови услуги на нововъзникващи пазари. JUMO си партнира с мислещи банки и оператори на мобилни мрежи за свързване на потребители и малки предприятия с финансова възможност. JUMO комбинира данни и технологии, за да достави продукти, предназначени да достигнат и да поберат 80% от световното население, което не се обслужва от традиционните финансови услуги.

Няколко членове на екипа на JUMO допринесоха за тази работа, включително Рики Дейвимес, Антъни ла Грейндж, Клариса Джонстън, Бен Гидлоу, Нату Лошанде, Никлас фон Малтсън и Пол Уелптън.