Az Amazon eltávolítja a titkos AI toborzó motort, amely előítéleteket mutatott a nőkkel szemben

Az Amazon AI kutatói tudósítottak a nők elleni elfogultságról toborzó gépi tanulási motorjukon

Roberto Iriondo, 2018. október 11

Hitel: The Verge | „Generációnk küldetése a tisztességes AI építése.” ~ Omar U. Florez

Tisztelt Stuart Evans professzor megemlítette a Carnegie Mellon Egyetemen tartott előadása során, hogy a gépi tanulási algoritmusokban szereplő torzítások negatívan befolyásolhatják társadalmunkat, függetlenül attól, hogy ezeket öntudatlanul adják-e a felügyelt tanulás vagy a más típusú gépi tanulás során végzett ellenőrzések során. Ebben az esetben az Amazon AI kutatócsoportja 2014 óta épít egy toborzó gépi tanuláson alapuló motort, amely gondoskodott a pályázók önéletrajzának felülvizsgálatáról azzal a céllal, hogy intelligens módon automatizálja a legfontosabb tehetségek keresését.

Az AI kutatóját idézve a csoportban: „Mindenki ezt a Szent Grált akarta” - mondta az egyik ember. "Szó szerint azt akarták, hogy ez egy olyan motor legyen, ahol 100 önéletrajzot fogok adni. Kihúzza az öt legjobbakat, és ezeket felvesszük." Azonban 2015-re az Amazon rájött, hogy új rendszere nem minősíti a jelölteket. szoftverfejlesztői munkahelyekhez és más műszaki álláshelyekhez nemek szempontjából semleges módon.

Az Amazon toborzó gépi tanulási modelljét kiképezték a pályázók számára azáltal, hogy elemezték a társaságnak 10 év alatt benyújtott önéletrajzokban szereplő egyes paramétereket. A gépi tanulási modell elfogultsága miatt a legtöbb ideális jelöltet férfiakként hozták létre, ami tükrözi a férfiak dominanciáját a technológiai iparban - ezért a modellbe táplált adatok nem a nemek közötti egyenlőség szempontjából, hanem ellentétesek voltak.

Az Amazon kutatócsoportja kijelenti, hogy módosították a központi algoritmusokat, és semlegesítetté tették a gépi tanulási modellt a nemek közötti eltérésekkel szemben, azonban ez nem volt garancia arra, hogy a motor nem választja meg a jelöltek másfajta szortírozásának módját (azaz a férfi domináns kulcsszavak a pályázó önéletrajzaiban), amelyek diszkriminatívnak bizonyulnak.

A munkaadók már régóta arról álmodtak, hogy a technológiát kihasználják a bérbeadási folyamat kibővítésére és az emberi toborzók szubjektív véleményeire való támaszkodás csökkentésére. Mindazonáltal az ML kutatói, például Nihar Shah, akiknek a statisztikai tanulási elmélet és a játékelmélet területén folytatott kutatásuk a Carnegie Mellon Egyetem Gépi Tanulási Tanszékének emberektől való tanulására összpontosítanak, azt mondják, hogy még sok tennivaló van.

"Hogyan lehet biztosítani az algoritmus tisztességességét, hogyan lehet megbizonyosodni arról, hogy az algoritmus valóban értelmezhető és magyarázható - ez még mindig elég messze van" - említette Shah professzor.

Hitelek: Han Huang | Data Visualization Developer | Reuters grafika

Az újraélesztett férfiaknál domináns kulcsszavak döntő fontosságúak voltak az algoritmusok módosítása után az Amazon toborzó motorjának gépi tanulási modelljein. A kutatócsoport 500 modellt készített, amelyek a konkrét munkafunkciókra és helyekre összpontosítottak. Mindegyiket megtanították felismerni több mint 50 000 paramétert, amelyek a pályázók önéletrajzán merültek fel. Az algoritmusok végül megtanultak egy olyan jelentéktelen százalék hozzárendelését a készségekhez, amelyek általánosak voltak az összes jelentkező között, azaz a programozási nyelvek, a használt platformok stb.

Záró megjegyzés:

Fontos, hogy társadalmunk továbbra is a gépi tanulásra összpontosítson, különös tekintettel az elfogultságra - amelyet néha öntudatlanul adnak hozzá ezekhez a programokhoz. Szerencsére az Amazon AI kutatócsoportja felismerte az ilyen torzulásokat, és reagálni tudott rá. Mindazonáltal, retorikusan szólva - mi lenne, ha a végén ezeket az elfogultságot nem ismernék fel, ezt követően hozzáadva egy ilyen elfogult ML döntéshozó motort az általános napi tehetségek toborzásához a társaságban?

A hatás és a következmények mentén szörnyű lett volna.

Mindig nyitott vagyok a visszajelzésekre, kérjük, ossza meg a megjegyzéseket, ha lát valamit, amelyet esetleg újra kell vizsgálni. Köszönöm hogy elolvastad!

NYILATKOZAT: A cikkben megfogalmazott vélemények a szerzők véleményét tükrözik, és nem képviselik a Carnegie Mellon Egyetem, sem a szerzővel (közvetlenül vagy közvetetten) társult más vállalatok véleményét. Ezeknek az írásoknak nem célja, hogy végtermékek legyenek, inkább a jelenlegi gondolkodás tükröződése, és egyben a vita és a fejlesztés katalizátora.

A következő oldalon találhat: Személyes webhelyem, Közepes, Instagram, Twitter, Facebook, LinkedIn vagy a webdizájnomban.

Irodalom: