శిక్షణ డేటాలో AI వినియోగదారుల వైవిధ్యాన్ని చూపడం ద్వారా గ్రహించిన సరసత మరియు నమ్మకాన్ని పెంచుతుంది

జాతి వైవిధ్య సూచనలను ప్రదర్శించడం — శిక్షణ డేటా యొక్క జాతి కూర్పును మరియు దానిని లేబుల్ చేసిన క్రౌడ్-సోర్స్డ్ కార్మికుల నేపథ్యాలను కమ్యూనికేట్ చేసే AI ఇంటర్‌ఫేస్‌లపై దృశ్య సంకేతాలు — అల్గారిథమిక్ ఫెయిర్‌నెస్ మరియు ట్రస్ట్‌పై వినియోగదారుల అంచనాలను పెంచగలదా అని పని పరిశోధించింది. . వారి పరిశోధనలు ఇటీవల జర్నల్‌లో ప్రచురించబడ్డాయి మానవ-కంప్యూటర్ పరస్పర చర్య.

AI శిక్షణ డేటా తరచుగా జాతి, లింగం మరియు ఇతర లక్షణాల పరంగా క్రమపద్ధతిలో పక్షపాతంతో ఉంటుంది, ఇవాన్ పగ్ యూనివర్సిటీ ప్రొఫెసర్ మరియు పెన్ స్టేట్‌లోని సెంటర్ ఫర్ సోషల్లీ రెస్పాన్సిబుల్ ఆర్టిఫిషియల్ ఇంటెలిజెన్స్ డైరెక్టర్ S. శ్యామ్ సుందర్ తెలిపారు.

“నిర్దిష్ట AI సిస్టమ్‌లను ఉపయోగించడం ద్వారా పక్షపాతంతో కూడిన మానవ నిర్ణయాధికారాన్ని శాశ్వతంగా కొనసాగించవచ్చని వినియోగదారులు గ్రహించకపోవచ్చు” అని అతను చెప్పాడు.

ప్రముఖ రచయిత చెంగ్ “క్రిస్” చెన్, ఎలోన్ యూనివర్సిటీలో కమ్యూనికేషన్ డిజైన్ అసిస్టెంట్ ప్రొఫెసర్, పెన్ స్టేట్ నుండి మాస్ కమ్యూనికేషన్స్‌లో డాక్టరేట్ సంపాదించారు, వినియోగదారులు తరచుగా AI సిస్టమ్స్‌లో పొందుపరిచిన పక్షపాతాలను అంచనా వేయలేరు ఎందుకంటే వారి గురించి సమాచారం లేదు. శిక్షణ డేటా లేదా శిక్షకులు.

“వినియోగదారు తమ పనిని పూర్తి చేసిన తర్వాత ఈ పక్షపాతం కనిపిస్తుంది, అంటే హాని ఇప్పటికే కలిగించబడింది, కాబట్టి వినియోగదారులు AIని ఉపయోగించే ముందు విశ్వసించాలా వద్దా అని నిర్ణయించడానికి తగినంత సమాచారం లేదు” అని చెన్ చెప్పారు.

శిక్షణ డేటా యొక్క స్వభావాన్ని, ముఖ్యంగా దాని జాతి కూర్పును తెలియజేయడం ఒక పరిష్కారం అని సుందర్ చెప్పారు.

“ఈ ప్రయోగాత్మక అధ్యయనంలో మేము చేసినది ఇదే, ఇది వ్యవస్థపై వారి అవగాహనలకు ఏదైనా తేడాను కలిగిస్తుందో లేదో కనుగొనే లక్ష్యంతో” అని సుందర్ చెప్పారు.

వైవిధ్య సూచనలు AI సిస్టమ్‌లపై నమ్మకాన్ని ఎలా ప్రభావితం చేస్తాయో అర్థం చేసుకోవడానికి, పరిశోధకులు రెండు ప్రయోగాత్మక పరిస్థితులను సృష్టించారు, ఒకటి వైవిధ్యమైనది మరియు ఒకటి వైవిధ్యం కాదు. మునుపటిలో, పాల్గొనేవారు మెషిన్ లెర్నింగ్ మోడల్ మరియు డేటా లేబులింగ్ ప్రాక్టీస్ యొక్క సంక్షిప్త వివరణను వీక్షించారు, మూడు జాతి సమూహాల నుండి శిక్షణ డేటాలో ముఖ చిత్రాల సమాన పంపిణీని చూపే బార్ చార్ట్‌తో పాటు: తెలుపు, నలుపు మరియు ఆసియా, ప్రతి ఒక్కటి డేటాసెట్‌లో మూడింట ఒక వంతు. జాతి వైవిధ్యం లేని స్థితిలో, 92% చిత్రాలు ఒకే ఆధిపత్య జాతి సమూహానికి చెందినవని బార్ చార్ట్ చూపించింది. అదేవిధంగా, లేబుల్‌ల నేపథ్యాల కోసం, తెలుపు, నలుపు మరియు ఆసియా లేబులర్‌లలో దాదాపు మూడింట ఒక వంతుతో సమతుల్య ప్రాతినిధ్యం నిర్వహించబడుతుంది. వైవిధ్యం లేని పరిస్థితి బార్ చార్ట్‌లో 92% లేబుల్‌లు ఒకే జాతికి చెందినవారని తెలియజేసాయి.

పాల్గొనేవారు మొదటగా HireMe అని పిలువబడే AI-శక్తితో కూడిన ముఖ కవళిక వర్గీకరణ AI సాధనం యొక్క శిక్షణ డేటా లక్షణాలను చూపించే డేటా కార్డ్‌లను సమీక్షించారు. వారు వేర్వేరు జాతులకు చెందిన ముగ్గురు సమాన అర్హత కలిగిన పురుష అభ్యర్థుల స్వయంచాలక ఇంటర్వ్యూలను వీక్షించారు. అభ్యర్థుల తటస్థ ముఖ కవళికలు మరియు టోన్ AI సిస్టమ్ ద్వారా నిజ సమయంలో విశ్లేషించబడ్డాయి మరియు పాల్గొనేవారికి అందించబడ్డాయి, అత్యంత ప్రముఖమైన వ్యక్తీకరణ మరియు ప్రతి అభ్యర్థి యొక్క ఉపాధిని హైలైట్ చేస్తుంది.

సగం మంది పాల్గొనేవారు సిస్టమ్ ద్వారా జాతి పక్షపాత పనితీరుకు గురయ్యారు, దీనిలో ప్రయోగాత్మకులు శ్వేతజాతీయుల అభ్యర్థికి అనుకూలంగా వ్యవహరించారు, అతని తటస్థ వ్యక్తీకరణను ఆనందంగా మరియు ఉద్యోగానికి తగినదిగా రేట్ చేసారు, అదే సమయంలో నలుపు మరియు ఆసియా అభ్యర్థుల వ్యక్తీకరణలను కోపంగా అర్థం చేసుకున్నారు. మరియు భయం, వరుసగా. నిష్పాక్షికమైన స్థితిలో, AI ప్రతి అభ్యర్థి యొక్క ప్రముఖ వ్యక్తీకరణగా ఆనందాన్ని గుర్తించింది మరియు వాటిని స్థానానికి సరిగ్గా సరిపోతుందని సమానంగా పేర్కొంది. పాల్గొనేవారు AI యొక్క విశ్లేషణపై అభిప్రాయాన్ని అందించమని, వారి ఒప్పందాన్ని ఐదు-పాయింట్ స్కేల్‌లో రేట్ చేయమని మరియు వారు అంగీకరించనట్లయితే తగిన భావోద్వేగాన్ని ఎంచుకోవాలని కోరారు.

“శిక్షణ డేటాలో జాతి వైవిధ్యాన్ని చూపడం మరియు లేబులర్‌ల నేపథ్యాలు AIపై వినియోగదారుల నమ్మకాన్ని పెంచాయని మేము కనుగొన్నాము” అని చెన్ చెప్పారు. “ఫీడ్‌బ్యాక్ అందించే అవకాశం పాల్గొనేవారికి అధిక ఏజెన్సీ భావనను అభివృద్ధి చేయడంలో సహాయపడింది మరియు భవిష్యత్తులో AI వ్యవస్థను ఉపయోగించుకునే వారి సామర్థ్యాన్ని పెంచింది.”

ఏది ఏమైనప్పటికీ, నిష్పాక్షికమైన వ్యవస్థ గురించి అభిప్రాయాన్ని అందించడం వల్ల శ్వేతజాతీయులు పాల్గొనేవారి వినియోగాన్ని తగ్గించారని పరిశోధకులు గుర్తించారు. సిస్టమ్ ఇప్పటికే సరిగ్గా మరియు న్యాయంగా పనిచేస్తుందని వారి అవగాహన కారణంగా, వారు అభిప్రాయాన్ని అందించాల్సిన అవసరం చాలా తక్కువగా ఉంది మరియు దానిని అనవసరమైన భారంగా భావించారు.

బహుళ జాతి వైవిధ్య సూచనలు ఉన్నప్పుడు, అవి స్వతంత్రంగా పనిచేస్తాయని పరిశోధకులు కనుగొన్నారు, అయితే డేటా వైవిధ్యం మరియు లేబులర్ వైవిధ్యం సూచనలు రెండూ సిస్టమ్ యొక్క సరసతపై ​​వినియోగదారుల అవగాహనను రూపొందించడంలో ప్రభావవంతంగా ఉంటాయి. పరిశోధకులు ప్రాతినిధ్య హ్యూరిస్టిక్ ఆలోచనను నొక్కిచెప్పారు, అంటే AI మోడల్ యొక్క జాతి కూర్పు వైవిధ్యంపై వారి అవగాహనకు సరిపోలితే దాని శిక్షణ జాతిపరంగా కలుపబడి ఉంటుందని వినియోగదారులు విశ్వసిస్తారు.

పెన్ స్టేట్ బెల్లిసారియో కాలేజ్ ఆఫ్ కమ్యూనికేషన్స్‌లో జేమ్స్ పి. జిమిర్రో మీడియా ఎఫెక్ట్స్ ప్రొఫెసర్‌గా ఉన్న సుందర్ మాట్లాడుతూ, “ఒక జాతికి చెందిన వ్యక్తులు ఎక్కువగా లేబుల్ చేయబడిన వ్యక్తీకరణలను AI నేర్చుకుంటే, సిస్టమ్ ఇతర జాతుల భావోద్వేగాలను తప్పుగా సూచించవచ్చు” అని సుందర్ అన్నారు. -మీడియా ఎఫెక్ట్స్ రీసెర్చ్ లాబొరేటరీ డైరెక్టర్. “ఒక ముఖం ఉల్లాసంగా లేదా కోపంగా ఉందో లేదో నిర్ణయించేటప్పుడు సిస్టమ్ జాతిని పరిగణనలోకి తీసుకోవాలి, ఉదాహరణకు, శిక్షణ ప్రక్రియలో చిత్రాలు మరియు లేబులర్‌లు రెండింటిలో ఎక్కువ జాతి వైవిధ్యం రూపంలో వస్తుంది.”

పరిశోధకుల అభిప్రాయం ప్రకారం, AI వ్యవస్థ విశ్వసనీయంగా ఉండాలంటే, దాని శిక్షణ డేటా యొక్క మూలాన్ని తప్పనిసరిగా అందుబాటులో ఉంచాలి, కాబట్టి వినియోగదారులు తమ విశ్వాస స్థాయిని నిర్ణయించడానికి దాన్ని సమీక్షించవచ్చు మరియు పరిశీలించవచ్చు.

“ఈ సమాచారాన్ని ప్రాప్యత చేయడం వలన AI వ్యవస్థల పారదర్శకత మరియు జవాబుదారీతనం ప్రోత్సహిస్తుంది” అని సుందర్ చెప్పారు. “వినియోగదారులు ఈ సమాచారాన్ని యాక్సెస్ చేయకపోయినా, దాని లభ్యత నైతిక అభ్యాసాన్ని సూచిస్తుంది మరియు ఈ సిస్టమ్‌లపై న్యాయాన్ని మరియు నమ్మకాన్ని పెంపొందిస్తుంది.”